수능이 끝난 다음 날 다시 시작하는 아이들의 AI 공부 친구: 그 앱이 "친구"가 되는 순간 캘리포니아는 세 시간마다 쉬라고 말하게 하고, 한국은 "AI입니다"라고 먼저 말하게 합니다

내년 수험생이 올겨울 가장 오래 붙들 것은 학원보다 AI일지 모릅니다. 학생을 기억하고 말을 걸어 주는 학습 앱이 미국 학생에게 가는 순간, 올해부터 캘리포니아는 세 시간마다 휴식 알림, 자해 대응 절차, 건당 1,000달러의 손해배상을 붙입니다. 한국 AI 기본법이 보는 곳은 다릅니다

Share
수능이 끝난 다음 날 다시 시작하는 아이들의 AI 공부 친구: 그 앱이 "친구"가 되는 순간 캘리포니아는 세 시간마다 쉬라고 말하게 하고, 한국은 "AI입니다"라고 먼저 말하게 합니다

뉴스 · 읽기 약 4분


어제 수능이 끝났습니다. 오늘부터 다시 시작하는 사람들이 있습니다. 내년 수험생, 그리고 재수를 결심한 수험생. 이들이 올겨울 가장 오래 붙들고 있을 것은 학원보다 AI일 가능성이 큽니다. 문제를 풀어 주고, 틀린 이유를 설명하고, "오늘은 여기까지 하자"고 말을 걸어 주는 앱. 한국 에듀테크 회사들이 지금 가장 열심히 만들고 있는 제품이고, 그중 여럿이 미국 진출을 준비하고 있습니다.

그 앱이 미국 학생에게 가는 순간, 올해부터 새로 붙는 법이 있습니다. 공부를 도와주는 AI가 아니라 "친구처럼 말을 걸어 주는 AI"에 붙는 법입니다.

캘리포니아: 친구가 되면 달라진다

캘리포니아는 올해 1월 1일부터 동반자형 챗봇법(SB 243)을 시행하고 있습니다. 이 법이 보는 것은 AI의 용도가 아니라 관계입니다. 사람처럼 반응하고, 이용자의 사회적 욕구를 채워 주고, 여러 번의 대화에 걸쳐 관계를 이어 가는 AI를 "동반자형 챗봇"으로 봅니다. 고객 상담용 챗봇, 게임 안의 캐릭터, 음성 비서는 빠집니다. 교육용이라고 빠지는 조항은 없습니다. 그래서 문제만 풀어 주는 앱은 해당하지 않지만, 학생의 이름을 부르고 어제 공부를 기억하고 힘들 때 위로하는 앱은 해당할 수 있습니다.

해당하면 붙는 의무는 이렇습니다. 사람과 대화한다고 오해할 만한 상황이면 AI라고 분명히 알려야 합니다. 이용자가 미성년자라는 것을 알면 AI라는 것을 알리고, 대화가 이어지는 동안 적어도 세 시간마다 쉬라는 알림을 보내야 하며, 성적인 내용을 만들지 않도록 조치해야 합니다. 자살이나 자해를 암시하는 말에 대응하는 절차를 갖추고 위기 상담 연결을 해야 하며, 그 절차를 웹사이트에 공개해야 합니다. 2027년 7월부터는 위기 상담으로 연결한 횟수를 주 정부에 매년 보고합니다. 그리고 이 법을 어겨 피해를 입은 사람은 위반 한 건당 1,000달러 또는 실제 손해 중 큰 쪽을 청구할 수 있습니다.

캘리포니아만이 아닙니다. 뉴욕은 지난해 11월부터 비슷한 법을 시행 중이고, 올해 들어 여러 주가 같은 방향의 법을 통과시켜 내년까지 차례로 시행합니다. 미국 전체로 보면 "아이에게 말을 거는 AI"에 대한 규칙이 주마다 쌓이고 있는 중입니다.

한국: 먼저 말하라

한국에도 올해 1월부터 시행된 AI 기본법이 있습니다. 다만 보는 곳이 다릅니다. 한국 법은 관계가 아니라 투명성을 봅니다. 생성형 AI를 쓴 서비스는 AI에 기반한다는 사실을 이용자에게 미리 알려야 하고, AI가 만든 결과물에는 AI가 만들었다는 표시를 해야 합니다. 미성년자에게 따로 붙는 의무나 세 시간 규칙은 없습니다. 대신 한국 법은 초·중·고 학교 교육에서 학생을 평가하는 AI를 "고영향 AI"로 따로 분류해 더 무거운 의무를 붙입니다. 학원과 앱의 수능 대비 AI가 여기 들어가는지는 해석의 문제입니다.

같은 앱을 두고 한국은 "AI라고 먼저 말했는가"를 묻고, 캘리포니아는 "그 AI가 아이의 친구가 되었는가"를 묻습니다. 한국 기준만 맞추고 미국에 가면 두 번째 질문에 답이 없습니다.

체크리스트

  • 미국에 내놓을 학습 AI가 학생을 기억하고 말을 걸고 감정에 반응하도록 설계되어 있다면, 캘리포니아 기준으로 "동반자형"에 해당하는지부터 변호사와 정리하십시오. 기능 하나가 의무 여섯 개를 데려옵니다.
  • 미성년 이용자를 어떻게 알게 되는지(가입 시 생년월일, 학교 계정 등)를 정해 두십시오. "안다"는 순간부터 세 시간 알림과 콘텐츠 제한이 붙습니다.
  • 자해·자살 신호에 대한 대응 절차와 위기 상담 연결 경로를 제품 안에 넣고 웹사이트에 공개하십시오. 캘리포니아와 뉴욕 모두 요구합니다.
  • 한국에서는 AI 기본법의 사전 고지와 생성물 표시를 먼저 갖추고, 학교 평가에 쓰이는 기능이 있다면 고영향 AI 해당 여부를 별도로 확인하십시오.

이 블로그에서 한국 고객 데이터를 미국에서 다루는 문제와 개정 개인정보 보호법을 다룬 글이 이 뉴스의 배경입니다.


참고 자료

  • California SB 243, Companion chatbots (Chapter 677, Statutes of 2025; Business and Professions Code §22601 이하) (leginfo.legislature.ca.gov)
  • New York General Business Law Article 47, AI Companion Models (nysenate.gov)
  • 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제2조, 제31조 (law.go.kr)

본 뉴스레터는 일반적인 법률 정보 제공을 목적으로 합니다.

개별 사안에 대한 법률 자문을 대체할 수 없으니,
구체적인 법률 문제는 Venture Pacific Law Group(info@ventureplg.com)으로
문의 주시기 바랍니다.

Read more

Fund I의 투자 기간이 끝난 다음 달 GP는 포트폴리오 창업자가 새로 만든 회사에 투자하려 했는데, 변호사는 그 돈은 이제 Fund I에서 나갈 수 없고 같은 달부터 관리보수도 줄어든다고 했습니다

Fund I의 투자 기간이 끝난 다음 달 GP는 포트폴리오 창업자가 새로 만든 회사에 투자하려 했는데, 변호사는 그 돈은 이제 Fund I에서 나갈 수 없고 같은 달부터 관리보수도 줄어든다고 했습니다

투자 기간 5년이 끝난 다음 달, 우리가 키운 창업자의 새 회사. GP는 후속 투자라고 생각했고 변호사는 새 회사는 새 회사라고 했습니다. 투자 기간이 끝나면 할 수 있는 세 가지, LP가 연장에 쉽게 동의하지 않는 이유, 40만 달러에서 27만 달러로 줄어든 관리보수, 그리고 보고서 첫 장이 바뀐 날

By Sangyong Jun
비슷한 이름의 경쟁사가 나타났을 때 대표는 "미국은 먼저 쓴 사람이 이긴다"고 들은 대로 안심했는데, 변호사는 그 말이 반만 맞고 그 경쟁사가 두 달 전에 상표를 출원했다고 했습니다

비슷한 이름의 경쟁사가 나타났을 때 대표는 "미국은 먼저 쓴 사람이 이긴다"고 들은 대로 안심했는데, 변호사는 그 말이 반만 맞고 그 경쟁사가 두 달 전에 상표를 출원했다고 했습니다

년 쓴 이름, 델라웨어 회사 등록, 도메인. 대표는 충분하다고 생각했는데, 먼저 쓴 사람의 권리는 이름이 알려진 곳까지였고 전국은 먼저 출원한 사람의 것이었습니다. 공고 뒤 30일의 이의신청, 두 달 차이로 이긴 이유, 그리고 한국은 정반대라서 그 주에 들어간 서울 출원

By Sangyong Jun
Fund I의 회사 한 곳이 문을 닫기로 했을 때 GP는 남은 현금을 투자자에게 먼저 돌려주자고 했는데, 변호사는 그 회사 이사인 GP가 그 결정을 해서는 안 된다고 했습니다

Fund I의 회사 한 곳이 문을 닫기로 했을 때 GP는 남은 현금을 투자자에게 먼저 돌려주자고 했는데, 변호사는 그 회사 이사인 GP가 그 결정을 해서는 안 된다고 했습니다

남은 현금 40만 달러, 우선주의 우선권. GP의 계산은 간단했는데 변호사는 순서와 사람 둘 다 틀렸다고 했습니다. 문을 닫기로 한 순간 채권자가 앞에 서는 이유, 투자자가 보낸 이사가 그 결정을 하면 안 되는 이유, 수탁자에게 맡기는 청산 방식과 수탁자를 고르는 법, 사임의 때, 그리고 창업자가 끝까지 서류를 들고 다니던 한국의 청산

By Sangyong Jun
회사 블로그에 아홉 달 전 자랑스럽게 올린 기능을 특허로 내려고 하자, 변호사는 그 블로그 글 때문에 유럽은 이미 늦었고 미국과 한국은 석 달 남았다고 했습니다

회사 블로그에 아홉 달 전 자랑스럽게 올린 기능을 특허로 내려고 하자, 변호사는 그 블로그 글 때문에 유럽은 이미 늦었고 미국과 한국은 석 달 남았다고 했습니다

아홉 달 전 기술 블로그에 올린 글은 "우리가 먼저"라는 증거가 아니라 "먼저 공개했다"는 기록이었습니다. 미국은 1년, 한국은 12개월, 유럽은 없음. 남은 석 달 안에 날짜를 잡는 가출원과 그 함정, 발명자와 출원인이 다른 이유, 그리고 "발표 전에 출원"이라는 서울의 습관

By Sangyong Jun

미국 진출을 준비하고 계신가요?

법인 설립부터 투자 유치, VC의 미국 투자까지 —
한국 창업자와 투자자를 위한 미국 법률 가이드를
새 글이 발행될 때마다 이메일로 보내드립니다.

구독 완료! ✉️

확인 이메일을 보내드렸습니다.
메일함을 확인해주세요.