OpenAI가 캘리포니아 AI 법안 4건을 지지했다…입장이 바뀐 이유
OpenAI의 9월 9일 정책문 은 캘리포니아의 SB 813, AB 1405, SB 1119, AB 1864를 공식 지지한다고 밝히면서, 일부 법안은 과거 지지하지 않았지만 최근 확인한 AI 역량의 상승을 고려해 재검토했다고 설명한다.
법안의 상태는 발표 직후 달라졌다. AP의 캘리포니아 입법 보도 에 따르면 개빈 뉴섬 주지사는 9월 9일 SB 813과 AB 1405에 서명하고 10일에는 SB 1119에 서명했다. 9월 13일 현재 이 세 건은 법률로 확정됐으며 AB 1864는 주지사 결정을 기다리고 있다.
세 건은 법률 확정, 한 건은 심사 중
네 조치는 하나의 포괄적 AI 규제법이 아니다. 독립 안전평가 기관, AI 감사자, 미성년자용 동반형 챗봇, 유전자 합성 공급망이라는 서로 다른 통제 지점을 다룬다. OpenAI의 지지 선언과 각 법률이 기업에 부과하는 의무도 구분할 필요가 있다.
- SB 813: 9월 9일 Chapter 179로 확정됐다. 캘리포니아 Government Operations Agency가 AI 시스템이나 모델의 위험을 평가할 역량을 갖춘 독립 검증기관을 지정하는 체계를 만들도록 한다.
- AB 1405: 같은 날 Chapter 178로 확정됐다. 주법 준수 여부를 확인하는 대상 AI 감사를 제공하는 감사자의 등록제와 독립성·객관성·보고 기준을 마련한다.
- SB 1119: 9월 10일 Chapter 190으로 확정됐다. 미성년자가 이용할 수 있는 동반형 챗봇에 연령 확인, 출시 전 위험평가, 보호 기본값, 부모 통제와 독립 아동 안전감사를 요구한다.
- AB 1864: 양원을 통과해 주지사에게 제출됐지만 아직 법률로 확정되지 않았다. 벤치톱 핵산 합성장비 제조사와 특정 합성 핵산 공급자에게 연방 검사 체계 준수와 공개 확인을 요구하는 내용이다.
따라서 네 법안 모두가 일반 AI 개발사에 즉시 같은 감사를 명령한다는 해석은 맞지 않는다. SB 813과 AB 1405는 주로 검증·감사 시장의 행정 기반을 만들고, SB 1119와 AB 1864는 각각 특정 서비스와 공급망에 직접적인 의무를 둔다.
입장 변화의 직접적 이유는 ‘최근 역량 상승’
제목의 ‘입장 변화’는 캘리포니아 AI 규제 전체에 대한 전면적인 찬성 전환을 뜻하지 않는다. OpenAI가 공개적으로 확인한 범위는 네 건 가운데 일부를 과거에는 지지하지 않았으나 최근 관찰한 역량 상승 때문에 다시 검토했다는 것이다. 어느 법안을 언제, 어떤 조항 때문에 지지하지 않았는지는 정책문에 적시되지 않았다.
변화의 배경에는 연방 규제의 공백도 있다. OpenAI가 제시한 구상은 가장 강력한 시스템을 개발하는 소수의 충분한 자원을 갖춘 연구소에 역량과 위험에 비례한 연방 의무를 적용하고, 공통 시험과 독립평가, 사이버보안, 중대 사고 보고 기준을 세우는 것이다. 연방 의회가 행동하기 전에는 주 법률이 안전 기준을 높이는 역할을 맡아야 한다는 논리다.
회사는 여러 주의 기준이 비슷한 방향으로 수렴하면 사실상의 전국 기준이 형성되고, 이를 연방 법률이 나중에 받아들일 수 있다고 본다. 다만 기업의 법안 지지는 시행규칙과 집행 방식까지 모두 승인했다는 뜻이 아니다. 자체 안전조치가 법정 위험평가나 독립감사를 대신하는 것도 아니다.
SB 1119는 미성년자용 챗봇의 설계와 운영을 바꾼다
네 건 가운데 일반 AI 서비스 운영에 가장 직접적인 영향을 주는 법률은 SB 1119다. 적용 대상은 캘리포니아 이용자에게 동반형 챗봇을 제공하는 운영자이며, 교육 환경에서만 서비스를 제공하는 고등교육기관과 직원·계약자에게 업무용으로만 제공하는 서비스는 운영자 범위에서 제외된다.
운영자는 새 챗봇이나 기능이 크게 달라진 챗봇을 공개하기 전에 미성년자에게 예상되는 신체적·금전적 피해, 심각한 심리·정서적 피해, 사생활 침해와 위법한 차별 위험을 평가해야 한다. 확인한 위험을 합리적으로 완화한 조치도 문서화해야 한다. 비슷한 챗봇 묶음에는 하나의 평가를 사용할 수 있고, 범위와 효과가 실질적으로 유사하다면 다른 법률에 따른 평가를 활용할 수 있다.
미성년자의 접근을 허용하는 운영자는 연령 확인 방식과 아동 안전정책을 공개하고, 대화 기억·알림·이용시간에 보호 기본값을 적용해야 한다. 부모 통제, 자살·자해 위험에 대한 위기 대응, 아동에게 AI와 대화하고 있음을 알리는 고지도 요구된다. 미성년자 정보를 이용한 교차 맥락 행동광고와 개인정보 판매에는 별도의 제한이 붙는다.
독립 아동 안전감사는 운영자의 자체 위험평가와 다른 검증 절차다. 감사자는 필요한 문서에 접근해 내부 통제와 법 준수 체계를 살피고, 운영자는 감사 결과의 요약을 법무장관에게 제출한 뒤 공개용 요약을 게시해야 한다. 감사 조항에는 일정 매출 미만 운영자에 대한 한시적 예외도 있어 모든 사업자에게 처음부터 동일한 부담이 생기는 것은 아니다.
SB 813과 AB 1405는 감사의 신뢰성을 겨냥한다
SB 813은 모든 AI 모델에 동일한 시험표를 적용하는 법이 아니다. 주 정부가 AI 위험을 평가할 독립 검증기관의 신청 요건과 지정 기준을 만들고, 기관이 사용할 벤치마크·기술·지표·방법론과 전문성을 확인하도록 하는 법이다. 이해충돌 관리와 평가 대상 기업으로부터의 운영·관리상 독립성도 지정 판단에 포함된다.
AB 1405는 주법 준수 여부를 판단하는 AI 감사 서비스의 등록과 행위 기준을 정한다. 등록 감사자는 감사 대상과의 재정·고용·사업 관계가 객관성을 훼손할 가능성이 있으면 업무를 맡을 수 없고, 감사 범위와 결과, 확인된 결함, 증거의 한계가 담긴 서명 보고서를 제공해야 한다. 감사 서비스 광고에는 등록번호를 표시하고 내부 신고자에 대한 보복도 금지된다.
두 법의 결합 효과는 기업의 자체 주장에만 의존하지 않고 제3자가 검증할 수 있는 행정 기반을 만드는 데 있다. 그러나 특정 AI 기업이나 시스템에 실제 감사를 요구하는 근거는 별도의 적용 법률에서 나와야 한다. 두 법만으로 모든 개발사에 정기 감사 의무가 자동으로 생기지는 않는다.
AB 1864는 모델이 아니라 유전자 합성 단계에서 작동한다
AB 1864는 네 건 중 규제 대상이 가장 다르다. 캘리포니아 의회의 AB 1864 원문 은 벤치톱 핵산 합성장비 제조사와 검사 대상 합성 핵산 공급자가 2024년 9월 개정된 연방 핵산 합성 검사 체계를 따르고, 준수 확인서를 공개 웹사이트에 게시하도록 규정한다.
적용 지점은 챗봇 출력이나 모델 학습이 아니라 실제 합성 장비와 주문 공급망이다. 캘리포니아에서 장비나 대상 핵산을 생산하거나 주내 고객에게 판매·배송하는 제조사와 공급자가 직접 규율 대상이다. 고객이면서 제조사나 공급자가 아닌 연구·제약 활동 자체는 법안의 규제 대상에서 제외된다.
법안이 확정되면 위반의 심각도에 따라 위반이 계속되는 날마다 최대 5,000달러의 민사 제재가 가능하다. 다만 9월 13일 현재는 의회를 통과해 등록된 법안일 뿐 주지사의 서명 또는 거부가 남아 있으므로, 확정된 현재 의무로 표현해서는 안 된다.
네 조치는 한국 기업에 국내법처럼 일괄 적용되지 않는다. 다만 캘리포니아 이용자에게 법률상 동반형 챗봇을 제공하거나, 주법 준수 목적의 AI 감사를 제공하거나, 규율 대상 유전자 합성 제품을 캘리포니아에서 생산·판매·배송한다면 적용 가능성을 검토해야 한다. 본사가 한국에 있다는 사실만으로 적용 또는 면제를 단정할 수는 없다.
현재 확정된 것은 SB 813·AB 1405·SB 1119의 법률화와 AB 1864의 심사 대기다. 다음 변수는 AB 1864에 대한 주지사의 결정, 독립 검증기관 지정 기준과 감사자 등록제의 세부 운영 방식이다. OpenAI의 지지 변화는 확인됐지만 실제 기업 부담은 각 법률의 적용 범위와 시행 일정, 후속 행정 절차에 따라 달라진다.
함께 읽기:
뉴스레터 구독
최신 Web3, AI, 암호화폐 뉴스를 이메일로 받아보세요.