OpenAI가 캘리포니아 AI 법안 4건을 지지했다…입장이 바뀐 이유
AI 및 자동화 1
캘리포니아가 AI ‘킬 스위치’를 추진한다…즉시 의무화는 아니다
개빈 뉴섬 캘리포니아 주지사는 2026년 9월 18일 프런티어 인공지능의 독립 안전감독을 앞당기고 이른바 ‘킬 스위치’를 법적 의무로 만들 방안을 검토하도록 하는 행정명령 N-9-26에 서명했다. 명령은 서명 즉시 발효됐지만, 모든 AI 개발사나 모델에 비상 종료 기능을 바로 설치하라고 요구한 것은 아니다.
현재 효력이 생긴 것은 캘리포니아 주정부 기관이 정해진 기한까지 행정 준비와 제도 설계를 진행해야 한다는 지시다. 기업에 킬 스위치나 외부 검증을 강제하는 조항은 아직 권고 단계이며, Government Operations Agency는 국가 단위 전문가들과 협의해 2026년 11월 16일까지 주지사실에 법 개정안을 제안해야 한다.
즉시 발효된 대상은 기업이 아니라 주정부 기관이다
행정명령 N-9-26 원문 은 명령이 즉시 효력을 갖는다고 명시하면서 Government Operations Agency에 세 가지 일정과 과제를 부여한다. 이 기관은 Governor’s Office of Emergency Services와 협의해 기존 감독 법률의 시행을 준비하고, 추가 안전의무를 주법에 반영할 수 있는지 검토해야 한다.
따라서 ‘즉시 발효’와 ‘기업에 대한 즉시 의무화’는 같은 뜻이 아니다. 명령의 직접적인 수범자는 주정부 기관이며, 민간 개발사가 지금 당장 새로운 종료 기능을 설치하지 않았다는 이유만으로 이 명령에 따라 제재받는 구조는 담겨 있지 않다.
원문 마지막 조항도 이번 명령이 캘리포니아주나 그 기관, 공무원 또는 다른 사람을 상대로 법적으로 집행할 수 있는 새로운 실체적·절차적 권리나 혜택을 만들려는 것이 아니라고 밝힌다. 이는 명령의 현재 효과가 민간 기업을 대상으로 완성된 규제를 시행하는 데 있지 않다는 점을 뒷받침한다.
‘킬 스위치’는 확정된 장치가 아니라 법 개정 검토안이다
행정명령이 요구한 것은 프런티어 모델용 킬 스위치의 기술적 실현 가능성과 예상 효과를 평가하는 일이다. 검토안은 개발사가 모델을 비상시에 종료할 수 있는 기능을 만들고, 지정된 독립 검증기관이 그 기능의 효과를 지속적으로 확인하도록 하는 방안을 포함한다.
적용 범위도 모든 챗봇이나 소규모 AI 서비스로 정해진 것이 아니다. 원문은 법 개정 검토 대상으로 대규모 프런티어 개발자와 프런티어 모델을 지목한다. 다만 어느 정도의 연산 규모나 역량을 기준으로 대상을 나눌지, 어떤 예외를 인정할지는 이번 명령에서 새로 확정하지 않았다.
CBS Sacramento의 현지 보도 도 명령이 AI 기업에 킬 스위치 설치를 즉시 요구하지 않으며, 주정부 관계자와 외부 전문가가 11월 16일까지 가능한 법률 변경안을 권고하는 단계라고 설명한다. 독립 감독기관을 AI 연구시설에 배치해 정기 평가를 수행하게 하는 방안 역시 같은 검토 목록에 들어 있다.
‘종료’의 구체적인 의미도 아직 열려 있다. 모델의 연산을 멈추는 것인지, 외부 접근이나 배포를 차단하는 것인지, 특정 기능만 비활성화하는 것인지에 관한 단일 기술 표준은 제시되지 않았다. 누가 발동 권한을 갖고 어떤 위험과 증거가 있어야 작동시킬지도 후속 권고와 법제화 과정에서 정해야 한다.
11월 권고 뒤에도 입법과 규정 절차가 남는다
이번 조치는 세 단계로 구분해야 한다. 첫 단계인 행정명령과 기관 지시는 2026년 9월 18일부터 유효하다. 두 번째 단계는 전문가 협의를 거쳐 킬 스위치와 독립 검증 의무의 실현 가능성 및 효과를 담은 권고안을 11월 16일까지 제출하는 것이다.
세 번째 단계는 권고 내용을 실제 기업 의무로 바꾸는 절차다. 행정명령은 Government Operations Agency에 ‘기존 주법의 개정’에 관한 권고를 요구한다. 킬 스위치 설치 대상, 준수 기한, 검사 기준과 위반 시 책임을 민간 개발사에 적용하려면 권고만으로는 부족하며, 후속 입법이나 법률에 근거한 규정이 필요하다.
11월 16일은 기업이 킬 스위치를 가동하기 시작하는 시행일도 아니다. 이 날짜까지 나오는 것은 기술적 타당성과 잠재적 효과를 분석한 제도 설계안이다. 어떤 권고가 채택될지, 의회가 법률 개정에 나설지, 최종 규칙이 언제 시행될지는 현재 확정되지 않았다.
기존 독립 검증 체계의 준비는 실제로 앞당겨진다
행정명령은 새 킬 스위치 의무만 검토하는 문서가 아니다. 최근 제정된 SB 813과 AB 1405에 따라 독립 검증기관과 AI 감사기관을 관리할 행정 기반을 예정보다 빠르게 구축하라는 지시도 포함한다.
SB 813은 AI 시스템과 모델의 안전 위험을 평가할 독립 검증기관을 인증하는 틀을 마련한다. AB 1405는 AI 감사기관 등록부를 만들고 감사기관의 독립성·투명성·무결성 기준을 세운다. 그러나 인증·등록 제도가 존재한다는 것과 AI 기업이 그 기관의 검증을 반드시 받아야 한다는 것은 별개의 문제다.
CalMatters의 주정부 정책 보도 는 두 법이 외부 감독기관을 검증하고 등록할 기반을 만들었지만 기업에 그 이용 자체를 강제하지는 않는다고 짚었다. 이번 명령은 대규모 프런티어 개발사의 연구시설에 지정 검증기관을 배치하고, 기업이 제출하는 안전 프레임워크·투명성 보고서·위험 평가를 외부에서 확인하도록 법을 바꿀 수 있는지 검토하게 한다.
기존 제도의 행정 일정은 구체적이다. Government Operations Agency는 독립 검증기관의 신청 요건과 절차, 심사 기준을 2027년 5월 1일까지 마련해 공개해야 한다. 또 관련 법률이 정한 별도의 행정 과제를 2027년 12월 1일까지 마치고 다음 조치를 시작해야 한다.
이 두 날짜 역시 킬 스위치 의무의 시행일은 아니다. 기존 법에 따라 독립 검증기관을 인증하고 감사기관을 관리하기 위한 주정부의 준비 기한이다. 향후 킬 스위치가 의무화되더라도 적용 시점은 별도의 법률이나 규정이 정하게 된다.
외부 검증과 사고 보고 범위도 함께 검토된다
전문가 권고의 범위는 비상 종료 기능에 그치지 않는다. 대규모 프런티어 개발자의 연구시설에 지정된 독립 검증기관을 상주시켜 정기 감사와 평가를 수행하게 하는 방안, 현행법에 따라 제출되는 안전 자료를 독립기관이 검증하게 하는 방안이 함께 검토된다.
‘중대한 안전사고’의 정의를 넓힐지도 검토 대상이다. 명령은 AI 기업이 주정부에 보고해야 하는 사고 범위에 최근 대규모 프런티어 개발자에게서 보고된 여러 통제 상실 유형을 포함하는 방안을 분석하도록 했다. 어떤 사건을 통제 상실로 볼지와 신고 기준은 아직 확정되지 않았다.
이 항목들은 서로 연결돼 있다. 종료 기능을 법으로 요구하더라도 작동 여부를 점검할 독립기관과 사고 발생을 포착할 보고 기준이 없으면 집행하기 어렵기 때문이다. 다만 이러한 연결 구조는 앞으로 마련할 제도의 방향이며, 현재 기업에 적용되는 완성된 집행 체계는 아니다.
다음 분기점은 2026년 11월 16일이다
가장 먼저 확인할 후속 결과는 Government Operations Agency가 주지사실에 제출할 권고안이다. 여기에는 킬 스위치의 기술적 정의, 적용할 개발사와 모델의 범위, 독립 검증기관의 역할, 기존 안전 보고 제도와의 연결 방식에 관한 분석이 담길 수 있다.
현재 확정된 결론은 분명하다. 캘리포니아는 2026년 9월 18일부터 기존 독립 감독 법률의 시행 준비를 앞당겼고, 프런티어 모델의 킬 스위치를 잠재적인 법적 의무로 설계하는 공식 절차를 시작했다. 그러나 기업에 새 종료 장치를 즉시 설치하도록 강제한 것은 아니며, 실제 의무와 시행 시점은 11월 권고 및 그 이후의 법제화에 달려 있다.
함께 읽기:
관련 기사
뉴스레터 구독
최신 Web3, AI, 암호화폐 뉴스를 이메일로 받아보세요.
0