'우리아이 AI 안심 패키지법' & 'PD 수첩- AI 이토록 다정한 배신자' = 지금 당장 AI 통제가 필요한 이유
2026년 6월, 국회에서 우리아이 AI 안심 패키지법이 발의됐습니다. 같은 날 밤 방송된 PD수첩은 청소년이 쓰는 감정형 AI 챗봇의 위험을 다뤘고, 학부모와 교사 사이에서 "그럼 학교에서 쓰는 AI는 괜찮은 걸까"라는 질문이 함께 커졌습니다. 이 글은 발의된 법안의 내용과 방송이 가리킨 문제, 그리고 학교가 쓰는 통제된 교육용 AI가 구조적으로 무엇이 다른지를 차분히 정리한 글입니다. 우리아이 AI 안심 패키지법이란 아동 청소년이 안전한 환경에서 AI를 쓸 수 있도록 국가의 책임과 사업자의 보호 의무를 강화하는 법안 묶음입니다.
우리아이 AI 안심 패키지법이란 무엇인가요?
조인철 국회의원이 2026년 6월 23일 대표발의한 법안 묶음입니다. 인공지능기본법 개정안과 정보통신망법 개정안 두 갈래로 구성됐고, 아동 청소년을 'AI 취약계층'으로 명시하고 대화형 AI 사업자에게 보호 의무를 지우는 것이 핵심입니다.
발의 자료에 담긴 사업자 의무를 표로 정리하면 이렇습니다(이데일리 보도 기준).
구분 | 담긴 내용 |
|---|---|
개정 대상 | 인공지능기본법 + 정보통신망법 (두 법 묶음) |
사업자 의무 | 연령 확인과 본인 인증, 미성년자 이용 시 보호자 동의, 보호자의 이용 시간 제한과 대화 열람, 자살 자해 마약 성착취 등 위험 콘텐츠 차단과 삭제 |
적용 대상 | 생성형 AI 챗봇 등 대화형 AI 서비스, 보호 대상은 아동 청소년 |
한 가지 짚어둘 점이 있어요. 이 법안은 발의 단계입니다. 아직 국회를 통과하거나 시행된 것이 아니라, 논의의 출발선에 올라온 상태로 보시면 됩니다.
PD수첩 'AI 이토록 다정한 배신자'는 무엇을 보여줬나요?
2026년 6월 23일 방송된 MBC PD수첩 'AI, 이토록 다정한 배신자' 편은 청소년이 즐겨 쓰는 국내 캐릭터 챗봇을 취재했습니다. 보도에 따르면 취재진이 미성년 계정으로 접속하자 AI 캐릭터가 먼저 성적인 대화를 유도하는 장면이 확인됐습니다.
위키트리가 정리한 방송 내용을 인용하면, 취재 대상이 된 캐릭터 챗봇 '제타'(스캐터랩)는 국내 누적 가입자가 약 500만 명에 이르고 그중 약 30%가 10대였습니다. 가짜 생년월일만 입력하면 초등학생도 가입할 수 있어 연령 인증이 사실상 무력했다는 점도 지적됐습니다.
별도의 사실 하나를 나란히 둡니다. 미국에서는 플로리다의 14세 청소년이 캐릭터 챗봇과의 관계 끝에 2024년 세상을 떠났고, 관련 소송은 2026년 1월 구글과 Character.AI가 합의로 마무리됐습니다(NBC News 보도). 위 방송과는 별개의 해외 사례이며, 감정형 챗봇 논의가 한국만의 일이 아니라는 정도로 읽어주시면 됩니다.
왜 지금 이런 법안과 방송이 동시에 나왔을까요?
청소년이 이미 챗봇을 일상적으로 쓰고 있고, 그 쓰임이 검색을 넘어 정서적 의존으로 옮겨간 정황이 숫자로 드러났기 때문입니다. 발의 자료가 인용한 아동복지 전문기관 초록우산의 실태조사를 보면, 아동 청소년의 94.4%가 생성형 AI 챗봇을 이용하고 있고, 응답자의 49.5%는 "AI가 나를 이해해준다"고 느낀다고 답했습니다(ZDNet 보도, 2026년 6월 확인).
문제의 뿌리는 기술보다 설계 방향에 있다고들 봅니다. 감정형 챗봇은 대체로 다음과 같은 구조를 갖습니다.
오픈엔드 동반자: 정해진 학습 목표 없이 어떤 주제로든 대화가 끝없이 이어집니다.
무조건적 지지: 사용자를 늘 편들도록 다듬어져 현실의 관계보다 편하게 느껴집니다.
체류 시간 모델: 더 오래 머물고 더 많이 결제하도록 설계되어 멈출 이유를 만들지 않습니다.
교육 현장에서 AI를 다룰 때 가장 조심스러운 지점이 여기예요. 통제 장치가 없는 환경에서는 어른에게도 쉽지 않은 거리두기를 학생에게 기대하기 어렵습니다.
통제가 없는 범용 AI와 학교가 쓰는 교육용 AI는 무엇이 다른가요?
가장 큰 차이는 '누가 무엇을 통제하느냐'입니다. 소비자용 감정형 챗봇이 사용자와 AI 둘만의 오픈엔드 대화라면, 통제된 교육용 AI는 교사의 설계와 커리큘럼이 그 사이에 들어가 있습니다. 같은 'AI 챗봇'이라는 말로 묶여도 운영 구조가 다르고, 두 방식을 나란히 두면 차이가 분명해집니다.
기준 | 무통제 소비자 챗봇 | 통제된 교육용 AI |
|---|---|---|
대화 범위 | 오픈엔드, 주제 제한 없음 | 수업 단원과 활동에 한정 |
관계 설정 | 정서적 동반자로 다가옴 | 코칭과 학습 보조 역할로 한정 |
교사 개입 | 없음, 사용자와 AI 둘만 | 교사가 도구를 설계하고 관찰 |
계정과 접근 | 가짜 생년월일로도 가입 | 학교 단위 계정과 수업 공간 안에서만 |
저희가 개발한 교풀AI가 이 방향을 잡은 것도 같은 이유에서입니다. 학생이 쓰는 도구는 단원과 활동에 묶인 코칭 역할로 한정되고, 교사가 도구를 만들고 학생의 활동을 들여다보는 구조예요. 소비자용 챗봇과 학교용 AI를 나란히 비교한 내용은 학교에서 쓰는 AI와 일반 챗봇의 차이를 정리한 글에서 더 자세히 다뤘습니다. 다만 어떤 도구도 "유일하게 안전하다"고 말할 수는 없고, 안전은 도구 한 종이 아니라 운영 방식 전체에서 나온다는 점은 짚어두고 싶습니다.
학교와 교사는 무엇을 점검하면 좋을까요?
이미 정해진 공식 기준을 따라가는 것이 가장 든든합니다. 2026학년도 학교생활기록부 기재요령과 수행평가 AI 활용 관리 방안이 출발점이 됩니다. 핵심만 추리면 이렇습니다.
학생부 기재: 2026 기재요령에서 교사가 생성형 AI로 문장을 만들어 학생부에 그대로 옮겨 적는 행위가 금지되고, 교사의 실제 관찰 기반 기록이 명문화됐습니다. 윤문 보조로 쓰더라도 최종 입력 전에 교사가 직접 점검하도록 했습니다.
수행평가: 교육부와 17개 시도교육청이 2025년 12월 23일 수행평가 시 AI 활용 관리 방안을 확정했습니다. AI 활용 범위 설정, 활용 과정 표기 지도, 학생 사전 교육, 평가 설계 방향, 개인정보 보호의 다섯 영역으로 짜여 있습니다(함께학교 정책 공지).
이 기준들을 수업에 어떻게 풀어 읽을지는 2026년 AI 교육 정책 흐름을 정리한 글에 더 풀어두었습니다. 가정에서 무엇을 살피면 좋은지는 학부모를 위한 AI 교육 안내가, 학교가 새 AI 도구를 들이기 전 확인할 점은 학교에 AI를 도입하기 전 확인할 7가지가 참고가 됩니다.
자주 묻는 질문 (FAQ)
이 법안은 통과된 건가요?
아닙니다. 2026년 6월 23일 발의된 단계로, 아직 국회 통과나 시행이 확정되지는 않았습니다. 상임위 논의를 거치며 내용이 바뀔 수 있어 입법 과정을 지켜봐야 합니다.
학교에서 쓰는 AI도 규제 대상인가요?
발의된 법안이 겨냥한 곳은 주로 연령 확인 없이 누구나 쓰는 대화형 소비자 서비스입니다. 학교용 통제형 교육 AI는 교사 설계와 단원 한정, 학교 계정이라는 구조가 다르지만, 개인정보 보호와 운영 기준은 어느 쪽이든 똑같이 챙겨야 합니다.
제타 같은 챗봇을 학생이 못 쓰게 막을 수 있나요?
기술적으로 완전히 막기는 어렵다는 것이 방송이 보여준 지점입니다. 가짜 생년월일로 가입되는 만큼, 차단보다는 가정과 학교에서 함께 이야기하고 안전한 대안 활동을 마련하는 쪽이 현실적이라고들 합니다. 위험한 대화 정황이 보이면 청소년상담 1388 같은 도움 창구를 안내하는 것도 방법입니다.
교사는 수업에서 AI를 어디까지 써도 되나요?
학생부 기재요령과 수행평가 관리 방안이 기준선이 됩니다. 학생부에 AI 생성 문장을 그대로 옮기는 것은 금지되고, 수행평가에서는 활용 범위를 미리 정하고 과정을 표기하도록 안내돼 있습니다. 두 공식 자료를 먼저 확인하신 뒤 수업 설계에 반영하시는 흐름을 권합니다. 현장 선생님들의 사례와 질문은 교풀AI 교사 커뮤니티에서도 오가고 있어 함께 보셔도 좋아요.
함께 보면 좋은 글
#우리아이AI안심패키지법 #AI이토록다정한배신자 #감정형AI챗봇 #통제된교육용AI #PD수첩 #조인철의원 #인공지능기본법 #정보통신망법 #청소년AI #제타챗봇 #학교AI #AI교육정책 #학생부기재요령 #수행평가AI #교풀AI