학교 AI에 ‘법적 구속력’ 기준…학생 데이터는 학습에 못 쓴다

미국교사연맹(AFT), 뉴욕시 교사노조(UFT), Microsoft는 2026년 9월 9일 뉴욕에서 학교용 ‘National AI Safety & Privacy Standard’를 공개했다. 공동 발표 내용 은 학생·교직원 데이터를 AI 모델 학습에 쓰지 않고, 추적을 제한하며, 사람에게 영향을 주는 AI 판단에 인간 감독을 두는 보호 장치를 미국 학군의 Microsoft 고객 계약에 편입할 수 있다고 밝힌다.

이는 미국 모든 학교에 즉시 적용되는 새 법률이 아니다. National Academy for AI Instruction과 Microsoft가 체결한 구속력 있는 협약이며, 개별 학군에는 관련 보호 조항이 해당 교육용 AI 계약에 들어간 뒤 계약상 효력이 생긴다. 한국에서도 그 자체로 법적 효력을 갖지는 않지만, 학교가 제안요청서와 개인정보 영향 검토에서 공급자에게 무엇을 요구할지 보여주는 구체적인 비교 기준이다.

열 가지 원칙을 공급자의 의무로 규정했다

31쪽 협약 원문 은 개인정보 보호, 안전, 투명성, 보안, 책임을 열 가지 핵심 원칙으로 구성한다. 이 원칙은 National Academy for AI Instruction이 계약한 AI 공급자에게 모두 의무이며, 참여 공급자는 기준 적용을 선택한 미국 교육 고객에게 제공하는 대상 제품에서도 일부가 아닌 전체 원칙을 충족해야 한다.

보호 대상인 ‘Covered Data’에는 학생 정보와 함께 교사·관리자 및 교육 고객이 제품을 사용하며 생성한 데이터가 포함된다. 학생 데이터는 이름, 학번, 성적, 징계 기록뿐 아니라 프롬프트, 학생과 연결된 AI 출력, 행동 패턴, 기기 식별자, 위치 정보, 음성·영상, 메타데이터와 세션 사이에 유지되는 기억 파일까지 포괄한다.

핵심은 모델 학습 금지다. 공급자는 프롬프트, 응답, 업로드 파일, 행동 신호, 메타데이터와 그 파생물을 모델 개발·미세조정·업데이트·벤치마크·개선에 사용할 수 없다. 비식별화하거나 집계한 보호 데이터도 학습의 우회로로 쓸 수 없으며, 이 금지는 계약 종료 뒤에도 유지된다.

예외는 위해와 보안 위협을 탐지·예방·조사·완화하는 데 필요한 최소한의 처리로 좁게 한정된다. 자해 위험, 아동 성착취물, 그루밍, 폭력 위협, 괴롭힘, 보안 사고와 무단 접근 등이 해당하지만, 처리 결과를 일반 모델 개선이나 광고, 개인화, 프로파일링, 관련 없는 제품 개발에 이용할 수는 없다. 예외 요건을 모두 충족했다는 입증 책임도 공급자에게 있다.

추적 제한과 삭제 권한도 계약 조건이 된다

공급자는 계약한 교육용 AI 제품을 제공하는 데 꼭 필요한 데이터만 수집·처리·보관해야 한다. 교육 고객의 명시적 서면 승인 없이는 정밀 위치의 지속적 추적, 행동 추적, 키 입력 기록, 상시 집중도 감시, 장기 프로파일링이나 얼굴·음성·시선 등을 이용한 생체정보 수집을 할 수 없다. 따라서 발표문의 ‘추적 금지’는 모든 처리를 무조건 금지한다는 뜻이 아니라, 필요성과 학교의 명시적 통제가 없는 감시를 차단한다는 의미다.

보호 데이터는 교육 고객과 이용자에게 귀속된다. 공급자는 이를 판매하거나 광고, 계약과 무관한 연구·제품 개발에 사용할 수 없으며, 반출 가능한 데이터는 JSON·CSV·PDF 같은 표준 형식으로 제공해야 한다. 하위 처리업체가 보호 데이터에 접근한다면 공급자는 그 목록과 변경 사실을 알리고 동일한 의무를 이행하도록 책임져야 한다.

학교에는 보관과 삭제를 직접 관리할 수 있는 도구도 제공해야 한다. 학교가 삭제를 시작하면 법적 보존 의무나 합의된 예외가 없는 한 활성 시스템의 데이터는 최장 180일 안에 영구 삭제해야 하고, 백업도 문서화된 주기에 따라 같은 기간 안에 삭제하거나 상업적으로 복구할 수 없게 해야 한다.

학생 정보를 세션 이후 기억하는 기능에는 별도 통제가 붙는다. 해당 이용자는 저장된 내용을 평이한 언어로 확인하고 영구 삭제할 수 있어야 하며, 서비스 이용권을 잃지 않고 기억 기능을 끌 수 있어야 한다. 학교 관리자는 기억·개인화 기능이 자체 보관 및 삭제 정책을 벗어나면 이를 비활성화해야 한다.

학생 관련 결정은 사람이 검토해야 한다

기준은 AI가 교육자의 판단을 지원할 수는 있어도 독립적으로 대신해서는 안 된다는 선을 긋는다. 학생 징계, 학업 배치, 교직원 평가처럼 사람에게 영향을 주는 결정을 의미 있는 인간 검토나 사전 승인 없이 AI가 내리도록 설계해서는 안 된다.

National Academy for AI Instruction의 교육 지침에서는 인간 검토 없는 자동 채점, 행동 분석에 기초한 자동 징계 결정·권고, 과목 선택·능력별 집단 편성·특수교육 의뢰를 포함한 자동 배치가 금지된다. 학생이나 교직원의 감정·심리 상태 평가와 행동 예측을 위한 감시도 허용되지 않는다. 이는 공급자에게 부과되는 제품 의무와 교육자에게 적용되는 사용 규칙을 구분해 둔 대목이다.

메시지 전송, 과제 제출, 설정 변경, 외부 시스템 접근, 구매처럼 이용자를 대신해 행동하는 기능도 학생 계정에서 끌 수 있어야 한다. 학교 시스템 밖에서 결과를 발생시키는 기능은 기본적으로 비활성화하고, 관리자가 권한 범위를 승인한 뒤 인간 감독과 전체 감사 기록을 마련한 경우에만 켤 수 있다.

공급자는 출력 생성 방식, 모델 학습 데이터의 개요, 알려진 한계와 실패 양상을 평이한 언어로 공개하고 제품이 크게 바뀌면 문서를 갱신해야 한다. 학교에는 학년·연령·사용 목적에 따라 기능을 켜고 끄는 관리 수단을 제공해야 하며, 이용자가 AI와 상호작용하고 있다는 표시와 출력이 틀릴 수 있다는 연령별 안내도 요구된다.

‘법적 구속력’은 계약에 편입된 조항에 적용된다

구속력의 근거는 전국 단위 법률이 아니라 서명된 협약과 개별 고객 계약이다. Government Technology의 검증 보도 도 미국 학군이 보호 조항을 Microsoft 고객 계약에 넣으면 자발적 원칙이 계약 요건으로 바뀐다고 확인했다.

참여 공급자는 효력 발생일부터 90일 안에 미국 교육 고객이 요청할 경우 기준과 같거나 더 강한 실질적 보호를 제공하는 절차를 마련해야 한다. 조항은 기존 개인정보 계약, 라이선스 계약 또는 부속합의에 담을 수 있으며 원문과 표현이 같을 필요는 없다. 편입된 조항을 공급자가 위반하면 해당 학군은 자신의 계약과 적용 법률이 허용하는 범위에서 시정되지 않은 중대한 위반을 이유로 계약을 종료하거나 손해배상 등 구제 수단을 청구할 수 있다.

적용 제품의 범위도 한정돼 있다. 학생·교사·관리자를 위해 주로 설계·판매되고 교육기관과의 계약 아래 인증된 방식으로 사용하는 생성형 AI 서비스나 기능이 대상이다. 교육기관이 구매했더라도 교육용으로 주로 설계되지 않은 범용 생산성·협업·통신·검색·클라우드·개발 도구는 협약의 ‘교육용 AI 제품’ 정의에서 제외된다.

따라서 학교는 공급자가 기준의 이름을 홍보하는지만 볼 것이 아니라 어떤 제품과 기능이 실제 계약 대상인지 확인해야 한다. 계약에 보호 조항이 편입됐는지, 적용 이용자는 누구인지, 하위 처리업체에도 의무가 이어지는지, 위반 시 해지와 구제 절차가 있는지를 함께 봐야 ‘법적 구속력’이라는 표현의 실제 범위를 알 수 있다.

한국 학교의 조달 문서에는 무엇을 넣어야 하나

한국 교육기관이 이 기준을 활용할 때는 미국 협약을 국내법처럼 인용하기보다 검증 가능한 계약 질문으로 바꾸는 편이 정확하다. 개인정보 보호법 등 국내 적용 법령에 따른 적법성 판단은 실제 데이터 처리 구조와 함께 별도로 진행해야 하며, 해외 협약에 서명했다는 사실만으로 국내 학교와 공급자 사이에 같은 의무가 생기지는 않는다.

• 학생·교직원의 프롬프트, 출력, 파일, 로그와 파생 데이터를 모델 학습·평가·개선에 쓰지 않는다는 금지가 계약과 하위 처리업체 조항에 명시되는가.
• 수집 항목과 목적, 보관 기간, 저장·처리 지역, 접근 권한, 하위 처리업체 목록을 학교가 확인할 수 있는가.
• 기억·개인화·행동 추적·생체정보 수집과 외부 행동 수행 기능을 학교 관리자가 학년과 사용 목적별로 통제할 수 있는가.
• 자동 채점이나 징계·배치 등 학생에게 영향을 주는 판단에 담당자의 검토와 승인, 이의제기 및 감사 기록이 남는가.
• 새 기능이 데이터 종류, 처리 목적, 보관 기간, 프로파일링 또는 자율 행동 권한을 바꿀 때 개인정보 영향 검토 자료와 변경 통지를 제공하는가.
• 활성 시스템과 백업의 삭제 기한, 침해 통지 절차, 데이터 반출 형식, 계약 종료 후에도 남는 의무가 구체적으로 적혀 있는가.

현재 확인된 것은 National Academy for AI Instruction과 Microsoft 사이의 협약, 그리고 미국 학군이 요청하면 관련 보호를 계약에 편입할 수 있도록 하겠다는 약속이다. 실제 영향은 앞으로 각 학군이 어떤 교육용 제품 계약에 조항을 채택하는지, Microsoft가 90일 이내의 편입 절차와 설명 자료를 어떻게 운영하는지, 다른 AI 공급자가 열 가지 원칙 전체에 참여하는지에 달려 있다.

함께 읽기:

• Stability AI에 음반 3사가 투자했다…7600만 달러보다 큰 이해관계