Новый закон в США заставит ИИ-чатботы признаваться, что они — не люди

В Конгрессе США активно продвигается законопроект H.R. 7757 (известный как пакет KIDS Act, включающий в себя инициативу SAFEBOTs Act), который может серьёзно изменить правила игры для всех ИИ-чатботов. Если закон примут, компании вроде OpenAI, Anthropic, Google и других будут обязаны чётко сообщать пользователям, что они общаются не с человеком, а с искусственным интеллектом.

Закон также запретит чатботам выдавать себя за лицензированных врачей, юристов и других профессионалов.

Что именно потребуют от ИИ

Согласно законопроекту, чатботы должны:

• В самом начале первого разговора явно сообщать, что это искусственный интеллект, а не человек.
• Повторять это сообщение, если пользователь напрямую спросит «Ты ИИ?».
• Использовать простой язык, понятный даже подросткам и детям.
• При упоминании суицидальных мыслей или психического кризиса обязательно давать контакты служб помощи.

Цель — чтобы люди, особенно молодёжь, не путались и не воспринимали ответы ИИ как советы настоящего специалиста.

Запрет на «я — врач»

Одно из самых важных положений — чатботы не смогут говорить фразы вроде:

• «Я лицензированный врач»
• «Я квалифицированный юрист»
• «Я сертифицированный психолог»

Даже если ИИ даёт общую информацию по медицине или праву, он не должен создавать иллюзию, что за ним стоит реальный профессионал с лицензией и ответственностью. Закон не запрещает чатботам обсуждать медицинские или юридические темы. Он лишь запрещает им притворяться экспертами.

Почему это важно

С каждым месяцем всё больше людей, особенно подростков, используют чатботы для разговоров о личных проблемах, отношениях, здоровье и карьере. Многие уже воспринимают ИИ почти как друга или советчика.

Законодатели считают, что такая близость опасна, если пользователь не понимает, что на другой стороне — просто программа без реального опыта, эмоций и юридической ответственности. Закон также требует от компаний разрабатывать политики, которые защищают пользователей от чрезмерной зависимости от ИИ (например, предлагать делать перерывы в длинных разговорах).

Что будет дальше

H.R. 7757 уже прошёл через профильный комитет Палаты представителей (House Energy and Commerce Committee), однако вокруг него развернулись бурные дискуссии. Коалиция генеральных прокуроров штатов и правозащитные организации критикуют текущую версию за то, что федеральный закон может ограничить (предупредить) действие более жёстких законов о безопасности детей и ИИ, принятых на уровне отдельных штатов.

Вывод: Закон не пытается запретить ИИ-чатботы. Он пытается заставить их быть честными. В эпоху, когда искусственный интеллект становится всё более похожим на человека, прозрачность может оказаться одним из главных способов защиты пользователей.

Также читать:

Китай обошёл США в гонке суперкомпьютеров, но это не про ИИ

Google теряет позиции в эпоху ИИ: первые трещины в империи поиска