수능이 끝난 다음 날 다시 시작하는 아이들의 AI 공부 친구: 그 앱이 "친구"가 되는 순간 캘리포니아는 세 시간마다 쉬라고 말하게 하고, 한국은 "AI입니다"라고 먼저 말하게 합니다
내년 수험생이 올겨울 가장 오래 붙들 것은 학원보다 AI일지 모릅니다. 학생을 기억하고 말을 걸어 주는 학습 앱이 미국 학생에게 가는 순간, 올해부터 캘리포니아는 세 시간마다 휴식 알림, 자해 대응 절차, 건당 1,000달러의 손해배상을 붙입니다. 한국 AI 기본법이 보는 곳은 다릅니다
뉴스 · 읽기 약 4분
어제 수능이 끝났습니다. 오늘부터 다시 시작하는 사람들이 있습니다. 내년 수험생, 그리고 재수를 결심한 수험생. 이들이 올겨울 가장 오래 붙들고 있을 것은 학원보다 AI일 가능성이 큽니다. 문제를 풀어 주고, 틀린 이유를 설명하고, "오늘은 여기까지 하자"고 말을 걸어 주는 앱. 한국 에듀테크 회사들이 지금 가장 열심히 만들고 있는 제품이고, 그중 여럿이 미국 진출을 준비하고 있습니다.
그 앱이 미국 학생에게 가는 순간, 올해부터 새로 붙는 법이 있습니다. 공부를 도와주는 AI가 아니라 "친구처럼 말을 걸어 주는 AI"에 붙는 법입니다.
캘리포니아: 친구가 되면 달라진다
캘리포니아는 올해 1월 1일부터 동반자형 챗봇법(SB 243)을 시행하고 있습니다. 이 법이 보는 것은 AI의 용도가 아니라 관계입니다. 사람처럼 반응하고, 이용자의 사회적 욕구를 채워 주고, 여러 번의 대화에 걸쳐 관계를 이어 가는 AI를 "동반자형 챗봇"으로 봅니다. 고객 상담용 챗봇, 게임 안의 캐릭터, 음성 비서는 빠집니다. 교육용이라고 빠지는 조항은 없습니다. 그래서 문제만 풀어 주는 앱은 해당하지 않지만, 학생의 이름을 부르고 어제 공부를 기억하고 힘들 때 위로하는 앱은 해당할 수 있습니다.
해당하면 붙는 의무는 이렇습니다. 사람과 대화한다고 오해할 만한 상황이면 AI라고 분명히 알려야 합니다. 이용자가 미성년자라는 것을 알면 AI라는 것을 알리고, 대화가 이어지는 동안 적어도 세 시간마다 쉬라는 알림을 보내야 하며, 성적인 내용을 만들지 않도록 조치해야 합니다. 자살이나 자해를 암시하는 말에 대응하는 절차를 갖추고 위기 상담 연결을 해야 하며, 그 절차를 웹사이트에 공개해야 합니다. 2027년 7월부터는 위기 상담으로 연결한 횟수를 주 정부에 매년 보고합니다. 그리고 이 법을 어겨 피해를 입은 사람은 위반 한 건당 1,000달러 또는 실제 손해 중 큰 쪽을 청구할 수 있습니다.
캘리포니아만이 아닙니다. 뉴욕은 지난해 11월부터 비슷한 법을 시행 중이고, 올해 들어 여러 주가 같은 방향의 법을 통과시켜 내년까지 차례로 시행합니다. 미국 전체로 보면 "아이에게 말을 거는 AI"에 대한 규칙이 주마다 쌓이고 있는 중입니다.
한국: 먼저 말하라
한국에도 올해 1월부터 시행된 AI 기본법이 있습니다. 다만 보는 곳이 다릅니다. 한국 법은 관계가 아니라 투명성을 봅니다. 생성형 AI를 쓴 서비스는 AI에 기반한다는 사실을 이용자에게 미리 알려야 하고, AI가 만든 결과물에는 AI가 만들었다는 표시를 해야 합니다. 미성년자에게 따로 붙는 의무나 세 시간 규칙은 없습니다. 대신 한국 법은 초·중·고 학교 교육에서 학생을 평가하는 AI를 "고영향 AI"로 따로 분류해 더 무거운 의무를 붙입니다. 학원과 앱의 수능 대비 AI가 여기 들어가는지는 해석의 문제입니다.
같은 앱을 두고 한국은 "AI라고 먼저 말했는가"를 묻고, 캘리포니아는 "그 AI가 아이의 친구가 되었는가"를 묻습니다. 한국 기준만 맞추고 미국에 가면 두 번째 질문에 답이 없습니다.
체크리스트
- 미국에 내놓을 학습 AI가 학생을 기억하고 말을 걸고 감정에 반응하도록 설계되어 있다면, 캘리포니아 기준으로 "동반자형"에 해당하는지부터 변호사와 정리하십시오. 기능 하나가 의무 여섯 개를 데려옵니다.
- 미성년 이용자를 어떻게 알게 되는지(가입 시 생년월일, 학교 계정 등)를 정해 두십시오. "안다"는 순간부터 세 시간 알림과 콘텐츠 제한이 붙습니다.
- 자해·자살 신호에 대한 대응 절차와 위기 상담 연결 경로를 제품 안에 넣고 웹사이트에 공개하십시오. 캘리포니아와 뉴욕 모두 요구합니다.
- 한국에서는 AI 기본법의 사전 고지와 생성물 표시를 먼저 갖추고, 학교 평가에 쓰이는 기능이 있다면 고영향 AI 해당 여부를 별도로 확인하십시오.
이 블로그에서 한국 고객 데이터를 미국에서 다루는 문제와 개정 개인정보 보호법을 다룬 글이 이 뉴스의 배경입니다.
- 서버를 한국에 두면 되지 않겠느냐는 마커스의 말에, 변호사는 그 데이터를 미국에서 열어보는 사람이 누구인지부터 물었습니다
- 이번 주부터 개인정보 과징금 상한이 매출액의 10%가 됐습니다
참고 자료
- California SB 243, Companion chatbots (Chapter 677, Statutes of 2025; Business and Professions Code §22601 이하) (leginfo.legislature.ca.gov)
- New York General Business Law Article 47, AI Companion Models (nysenate.gov)
- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제2조, 제31조 (law.go.kr)
본 뉴스레터는 일반적인 법률 정보 제공을 목적으로 합니다.
개별 사안에 대한 법률 자문을 대체할 수 없으니,
구체적인 법률 문제는 Venture Pacific Law Group(info@ventureplg.com)으로
문의 주시기 바랍니다.