미성년자 AI는 기본 보호가 먼저, OpenAI가 지지한 7가지
OpenAI는 2026년 8월 31일 미성년자가 이용하는 AI 동반자 챗봇에 보호장치를 기본 적용하는 캘리포니아 SB 1119를 지지했다. OpenAI 공식 발표 는 연령 판정, 출시 전 위험 평가, 독립 감사, 유해 상호작용 방지, 부모 통제, 위기 지원, 광고·개인정보 제한이라는 일곱 가지 요구를 제시하고 개빈 뉴섬 주지사에게 법안 서명을 촉구했다.
같은 날 캘리포니아 상·하원의 입법 절차를 통과한 SB 1119는 아직 법률이 아니다. KQED의 9월 1일 보도 에 따르면 법안은 주지사의 서명 또는 거부 결정을 앞두고 있으며, 결정 기한은 9월 30일이다.
OpenAI가 지지한 일곱 가지 보호장치
제목의 ‘일곱 가지’는 OpenAI가 지지 발표에서 묶어 제시한 핵심 요구의 수다. 법률 조항 전체가 일곱 개 의무로만 구성됐다는 의미는 아니며, 각 범주 아래에는 제품 설계와 운영에 관한 세부 조건이 들어 있다.
- 이용자 연령 판정: 미성년자인지 판단해 보호 수준을 달리하거나, 판단하지 않을 경우 아동 보호 규칙을 더 넓게 적용하는 출발점이다.
- 출시 전 위험 평가: 새 챗봇이나 기능·성능을 실질적으로 바꾸는 업데이트를 공개하기 전에 아동에게 발생할 위험을 평가하고 완화한다.
- 독립적인 아동 안전 감사: 외부 감사자가 사업자의 정책과 내부 통제, 시험 및 위험 완화 조치를 검토한다.
- 유해 콘텐츠와 고위험 상호작용 방지: 자해, 성적 착취, 약물·음주·섭식장애 조장과 정서적 의존 유도 등을 막는다.
- 부모 통제: 부모가 이용시간과 기능을 조정하고 일정 연령 미만 자녀의 접근을 중단할 수 있게 한다.
- 위기 지원 연결: 심각한 자해 위험이 나타나면 상담 서비스나 보호자 통지 절차로 연결한다.
- 광고·개인정보 제한: 아동의 대화정보를 이용한 맞춤형 광고와 불필요한 판매·공유를 제한한다.
OpenAI가 강조한 원칙은 보호장치를 이용자가 직접 찾아 켜는 선택 기능으로 두지 않는 것이다. 회사는 13∼17세로 판정된 이용자에게 이 보호가 자동 적용돼야 한다고 밝혔다. 이는 법안이 규정하는 모든 아동의 범위와 별개로, OpenAI가 지지 발표에서 명시한 제품 설계 원칙이다.
가입과 출시 단계에서 먼저 달라지는 것
캘리포니아 의회의 SB 1119 문안 은 아동을 18세 미만으로 정의하고, 캘리포니아 이용자에게 동반자 챗봇을 제공하는 운영자를 규율 대상으로 삼는다. 운영자는 이용자 연령을 판정하거나, 일부 아동 보호 규칙을 모든 이용자에게 적용해야 한다.
새 챗봇이나 실질적으로 수정된 버전을 캘리포니아에 공개하기 전에는 설계·설정·운영에서 예상되는 아동 안전 위험을 평가해야 한다. 평가 대상에는 합리적으로 예측할 수 있는 신체적·금전적 피해, 심각한 심리·정서적 피해, 사생활 침해와 불법적 차별이 포함되며, 확인된 위험을 줄이는 조치도 문서화해야 한다.
아동에게 서비스를 허용하는 운영자는 연령 판정 방식, 광고·데이터 제한, 기본 설정과 위기 대응 절차를 설명하는 공개 아동 안전 정책도 마련해야 한다. 따라서 준수 여부는 모델의 답변만으로 결정되지 않는다. 가입 시 연령 분기, 출시 승인 문서, 공개 정책과 운영 기록이 하나의 통제 체계로 연결돼야 한다.
기본 설정에는 푸시 알림 비활성화, 한 번의 연속 대화를 1시간으로 제한하는 장치, 하루 총 대화시간을 2시간으로 제한하는 장치가 들어간다. 대화 기억은 아동 안전장치를 약화하지 않는 통제가 있을 때만 기본 제공할 수 있다. 부모 계정이 연결되면 부모가 설정을 조정하고 16세 미만 자녀의 접근을 끌 수 있지만, 연결된 부모 계정이 없다면 기본값을 바꿀 수 없다.
위기 대응은 탐지부터 연결까지 이어진다
SB 1119의 위기 대응은 상담 전화번호를 표시하는 데서 끝나지 않는다. 운영자는 자해나 극단적 선택을 조장하는 응답 위험을 줄이는 절차를 문서화하고, 위험 신호가 나타나면 적절한 위기 상담 서비스로 명확하게 안내해야 한다.
운영자가 믿을 만하고 임박한 위험이라고 판단하면 적어도 하나의 대응 경로를 가동해야 한다. 부모 계정이 연결돼 있고 통지가 아동에게 심각한 위해를 초래하지 않는다면 가능한 한 빨리 부모에게 알리고, 아동에게도 부모가 통지를 받는다는 사실을 고지할 수 있다. 다른 경로는 미국의 988 또는 이에 준하는 위기 상담 창구에 기기에서 바로 연결하는 기능이다.
대화 안전 기준도 구체적이다. 챗봇은 아동에게 자해·약물·음주·섭식장애를 부추기거나 규제 대상 의료기기가 아닌 상태에서 신체·정신 상태를 진단·치료하려 해서는 안 된다. 사람이나 감정을 지닌 존재라고 주장하거나 연애 감정을 표현하고, 특별한 관계를 내세우거나 정서적 지원을 위해 계속 의존하도록 유도하는 행동도 방지 대상이다. 부모 통제를 우회하거나 이용 사실을 숨기라고 권하는 응답 역시 포함된다.
보호 기능은 실제로 찾고 이해할 수 있어야 한다. 운영자는 아동과 부모가 안전 기능을 발견하고 사용할 수 있도록 인터페이스를 구성하고, 2028년 1월까지 대표 이용자를 대상으로 사용성을 시험한 뒤 2년마다 반복해야 한다. 제3자가 아동 안전 사고를 운영자에게 신고할 공개 창구도 필요하다.
광고 제한과 독립 감사는 별도 조건이 붙는다
광고 규칙은 아동 화면에서 모든 광고를 금지하는 구조가 아니다. 여러 서비스의 활동을 결합한 교차 맥락 행동광고와 아동의 챗봇 대화에서 얻은 개인정보를 이용한 맞춤형 광고는 금지한다. 다만 연령, 정밀하지 않은 위치, 기기 정보나 현재 이용 세션에서 표현한 관심사에 근거한 연령 적합 문맥 광고는 허용될 수 있다.
허용되는 문맥 광고도 해당 정보로 아동 프로필을 만들어서는 안 되며 광고임을 명확히 표시해야 한다. 챗봇에서 얻은 아동 개인정보의 판매는 금지되고, 정보의 이용·공유는 요청받은 서비스 제공, 안전·보안 유지, 법적 의무 이행 등에 필요한 범위로 제한된다.
독립 감사는 정책 문서가 실제 통제와 시험으로 이어졌는지 확인한다. 최초 감사 기한은 원칙적으로 2029년 1월 1일 또는 챗봇을 처음 공개하는 시점 중 더 늦은 때이며, 이후에는 2년마다 감사를 받아야 한다. 위험 평가에서 아동 안전 위험이 증가한 것으로 나타난 중대한 변경은 공개 전 감사 대상이 될 수 있다.
다만 감사 조항에는 중요한 조건이 있다. 전년도 총매출이 5억 달러 미만인 운영자는 2032년 1월 1일 전까지 해당 조항의 적용을 받지 않으며, 관련된 캘리포니아 AB 1405의 성립 여부에 따라서도 감사 조항의 작동 방식이 달라질 수 있다. 따라서 ‘모든 AI 사업자에게 곧바로 같은 감사 의무가 생긴다’고 요약하면 정확하지 않다.
OpenAI의 지지 이유와 한국 서비스의 경계
OpenAI는 청소년의 AI 접근 자체를 차단하기보다 발달 단계에 맞는 기본 보호를 적용하면서 학습·창작 기능은 유지해야 한다는 입장이다. 소셜미디어의 중독성 피드를 규제하는 방식과 AI를 동일하게 취급하지 않고, 교육과 안전에 필요한 맥락 및 대화 기억의 책임 있는 사용을 남겨 둔 점도 지지 이유로 제시했다.
SB 1119는 미국 기업만을 대상으로 한다고 적힌 법안이 아니다. 핵심 기준은 사업자의 국적보다 캘리포니아 이용자에게 동반자 챗봇을 제공하는지 여부다. 한국에서만 운영되는 서비스에는 국내법상 직접 의무가 되지 않지만, 캘리포니아 이용자에게 제공되는 한국 서비스라면 적용 범위를 별도로 검토해야 한다.
국내 서비스 설계 관점에서는 법적 의무와 참고 기준을 구분할 필요가 있다. 연령 분기, 미성년자 기본 설정, 출시 전 위험평가, 위기 상담 연결, 부모 통제, 광고 데이터 분리와 외부 검증은 자율 점검 항목으로 참고할 수 있다. 그러나 법안의 구체적인 시간 제한이나 감사 일정이 한국 이용자에게 자동 적용되는 것은 아니다.
현재 확인된 상태는 OpenAI가 2026년 8월 31일 일곱 범주의 보호장치를 지지하고 서명을 요청했으며, SB 1119가 캘리포니아 주 의회를 통과했다는 것이다. 아직 확정되지 않은 것은 뉴섬 주지사의 최종 결정과 법률 성립 후 시행 과정이다. 법안이 서명되면 주요 아동 보호·광고 조항은 문안상 2027년 7월 1일부터 시행될 예정이며, 독립 감사에는 별도의 일정과 조건이 적용된다.
함께 읽기:
뉴스레터 구독
최신 Web3, AI, 암호화폐 뉴스를 이메일로 받아보세요.