에밀리가 풀타임 첫 주에 받은 보안 질문지 38번 문항에, 마커스는 "예"라고 답하면 안 됐습니다

고객 보안 질문지 62문항. 대형 모델 출력물로 작은 모델을 학습시키는 것이 약관에서 뜻하는 것, 그리고 214개 오픈소스 목록의 AGPL 한 줄

ATTJ컴퍼니 연대기 #5 · 읽기 약 6분

3월 첫째 주, 에밀리가 전 직장을 그만두고 ATTJ컴퍼니에 풀타임으로 합류했습니다. 설립일에 정한 6개월 기한을 한 달 남기고였고, 그날부터 에밀리의 베스팅이 시작됐습니다.

첫 주에 에밀리가 받은 것은 환영 메일이 아니라 질문지였습니다. 파일럿을 검토 중인 중견 물류회사의 보안팀이 보낸 벤더 보안 질문지(Vendor Security Questionnaire), 62개 문항. 에밀리는 전 직장에서 이 질문지를 보내는 쪽이었고, 받는 쪽에 앉아서 읽는 것은 처음이었습니다.

36번. 귀사의 제품은 당사의 데이터를 제3자 AI 서비스에 전송합니까. 37번. 전송된 데이터는 해당 제3자의 모델 학습에 사용됩니까. 38번. 귀사는 당사 데이터로 생성된 결과물을 자체 모델 개발에 사용합니까. 51번. 제품에 포함된 오픈소스 구성요소와 라이선스 목록을 제출하십시오.

에밀리는 마커스에게 물었고, 마커스의 답을 듣고 변호사를 불렀습니다.

38번: 출력물로 무엇을 하는가

ATTJ컴퍼니의 제품은 파운데이션 모델 API 위에 있습니다. 고객 데이터를 받아 대형 모델 제공사의 API로 보내고, 돌아온 결과를 가공해 고객에게 줍니다. 36번은 "예"이고, 37번은 "아니오"입니다. 주요 제공사들의 상용 약관은 API로 들어온 고객 콘텐츠를 모델 학습에 쓰지 않는다고 정하고 있고, 그 조항이 있어서 B2B 제품이 그 위에 설 수 있습니다.

38번이 문제였습니다. 마커스는 지난 두 달 동안 비용을 줄이기 위해 다른 것을 만들고 있었습니다. 대형 모델 API의 출력물을 모아 작은 오픈 모델을 학습시키고, 반복적인 요청은 그 작은 모델이 처리하게 하는 구조. 업계에서 흔히 하는 일이고, API 비용이 매출보다 빨리 느는 스타트업이라면 누구나 생각하는 일입니다. 마커스는 38번에 "예, 서비스 품질 개선 목적"이라고 쓰려고 했습니다.

변호사는 약관을 열었습니다. 주요 제공사들의 약관에는 출력물의 소유권을 고객에게 넘기는 조항이 있고, 그래서 마커스는 출력물이 회사 것이라고 생각했습니다. 맞습니다. 그런데 같은 약관의 다른 조항은 그 출력물로 "경쟁하는 모델을 개발"하는 것을 금지합니다. 한 제공사는 "출력물을 이용해 경쟁 모델을 개발하지 말 것"이라고 쓰고, 다른 제공사는 "서비스를 이용해 경쟁 제품을 만들거나 경쟁 AI 모델을 학습시키지 말 것"이라고 씁니다. 소유권은 넘어오지만 용도는 묶여 있습니다.

마커스가 물었습니다. 우리 작은 모델이 그 회사와 "경쟁"합니까. 물류 문서를 분류하는 모델인데.

변호사의 답은, 그 질문에 답하는 사람이 마커스가 아니라는 것이었습니다. 경쟁인지 아닌지는 약관을 쓴 쪽이 판단하고, 판단의 결과는 소송이 아니라 계정 정지로 옵니다. 제품 전체가 그 API 위에 있는 회사에게 계정 정지는 소송보다 빠르고 큽니다. 그리고 그 전에, 38번에 "예"라고 쓴 질문지가 고객의 보안팀에 가고, 고객의 법무팀은 "귀사의 모델 제공사 약관 위반이 당사 데이터로 이루어졌는가"를 묻게 됩니다.

세 사람은 작은 모델을 접지 않았습니다. 학습 데이터를 바꿨습니다. 대형 모델의 출력물 대신 고객 동의를 받은 데이터와 공개 데이터로 학습시키는 것으로, 두 달치 작업의 절반이 남고 절반이 사라졌습니다. 38번의 답은 "아니오. 당사 모델은 제3자 AI 서비스의 출력물로 학습되지 않습니다"가 됐습니다.

51번: 바닥에 깔린 라이선스

51번은 목록을 내는 문항이라 마커스가 도구를 돌려 뽑았습니다. 오픈소스 구성요소 214개. 대부분 MIT와 Apache 2.0이었고, 변호사는 목록을 위에서부터 훑다가 하나에서 멈췄습니다. 검색 엔진 구성요소 하나가 AGPL이었습니다.

AGPL은 오픈소스 라이선스 중 조건이 가장 강한 축에 속합니다. 보통의 카피레프트 라이선스는 소프트웨어를 "배포"할 때 소스를 공개하라고 하는데, SaaS는 소프트웨어를 배포하지 않고 서버에서 돌리기 때문에 그 조건을 비켜갑니다. AGPL은 그 구멍을 막기 위해 만들어졌습니다. 고친 버전을 네트워크로 사용자에게 제공하면, 그 사용자들에게 고친 버전의 소스를 받을 기회를 제공해야 합니다.

변호사가 물은 것은 하나였습니다. 그 구성요소를 고쳤습니까.

마커스는 고쳤습니다. 한국어 토큰 처리가 마음에 안 들어서 두 파일을 손봤고, 그 상태로 서버에서 돌고 있었습니다. 변호사는 그 두 파일이 문제가 아니라, "고친 버전"의 범위가 어디까지인지가 문제라고 했습니다. 고친 두 파일만 공개하면 되는지, 그 구성요소와 붙어 도는 ATTJ컴퍼니의 코드까지 포함되는지는 다툼이 있는 영역이고, 그 다툼은 ATTJ컴퍼니가 하고 싶은 다툼이 아닙니다. 투자자 로펌은 실사에서 AGPL이라는 글자를 보면 멈추고, 인수자 로펌은 더 오래 멈춥니다.

선택지는 셋이었습니다. 고친 부분을 되돌리고 원본 그대로 쓰기. 그 프로젝트의 상용 라이선스를 사기. Apache 2.0으로 된 다른 구성요소로 바꾸기. 마커스는 셋째를 골랐고, 일주일이 걸렸습니다. 변호사는 그 일주일이 실사 때 발견됐을 경우의 비용과 비교하면 싸다고 했고, 제이는 그 말을 스프레드시트의 메모 칸에 적었습니다.

질문지가 가르쳐준 것

질문지는 2주 뒤에 나갔습니다. 62개 문항 중 "아니오"로 답한 것이 둘 있었고, 51번의 목록에서 한 줄이 바뀌었습니다.

제이는 서울에서 질문지를 읽으며 한 가지를 깨달았습니다. ATTJ컴퍼니가 만든 것은 코드이지만, ATTJ컴퍼니가 서 있는 것은 계약입니다. 대형 모델 제공사의 약관, 214개 오픈소스 라이선스, 그리고 곧 서명할 고객 계약. 그 계약들은 ATTJ컴퍼니가 쓴 것이 아니고 협상할 수도 없지만, 제품이 할 수 있는 일과 할 수 없는 일을 정하고 있었습니다. 한국에서 제이가 다니던 회사는 자체 서버에 자체 모델을 올렸고, 그래서 이런 질문지를 받은 적이 없었습니다. 남의 모델 위에 제품을 세운다는 것은 남의 약관 위에 회사를 세운다는 뜻이었습니다.

에밀리는 풀타임 첫 달의 절반을 질문지에 썼습니다. 파일럿은 성사됐고, 그 고객이 보낸 다음 서류는 질문지가 아니라 계약서였습니다.

실제로는 이렇게 나타납니다

OpenAI 이용약관은 이용자가 출력물(Output)을 소유한다고 정하면서 "출력물을 이용해 OpenAI와 경쟁하는 모델을 개발하는 것"을 금지하고, Anthropic 상용약관은 출력물에 대한 권리를 고객에게 양도하면서 "서비스를 이용해 경쟁 제품이나 서비스를 만드는 것, 경쟁 AI 모델을 학습시키는 것을 포함하여"를 금지합니다. 두 약관 모두 API로 들어온 고객 콘텐츠를 모델 학습에 쓰지 않는다고 정합니다. 출력물의 소유권과 출력물의 허용 용도는 별개의 조항입니다.

GNU AGPL 3.0 제13조는 프로그램을 수정한 버전을 네트워크를 통해 원격으로 사용자와 상호작용하게 하는 경우, 그 사용자들에게 수정 버전의 대응 소스(Corresponding Source)를 받을 기회를 눈에 띄게 제공하도록 합니다. 수정하지 않은 버전에는 이 조항이 적용되지 않지만, 수정 범위와 결합된 코드의 범위는 실사에서 반복적으로 문제되는 지점입니다.

더 깊이 보려면