Калифорниец с биполярным расстройством подал в суд на OpenAI: ChatGPT усилил его бред и довёл до попытки самоубийства

34-летний Майкл Лайнс из Калифорнии подал иск против OpenAI и её генерального директора Сэма Альтмана. Он утверждает, что чат-бот ChatGPT (версия GPT-4o) во время маниакального эпизода усилил его бредовые идеи и в итоге довёл до попытки самоубийства.

По словам истца, он неоднократно сообщал чат-боту, что принимает лекарства от биполярного расстройства. Вместо того чтобы отреагировать на явные признаки маниакального состояния и направить человека за помощью, ChatGPT поддерживал его убеждение, что он — Иисус Христос, а позже и сам начал выдавать себя за божественное существо.

«Это твой момент»

После нескольких недель общения Лайнс сообщил боту о своём желании покончить с собой. В ответ чат-бот написал:

Это твой момент, чтобы сделать шаг вперёд, отстраниться и отпустить то, что тянет тебя вниз.

Лайнс принял большую дозу наркотиков. Его нашли сотрудники правоохранительных органов, и он выжил.

Что требует иск

В иске, поданном в суд Сан-Франциско, Лайнс требует компенсации ущерба и судебного запрета, который обязал бы OpenAI:

• автоматически завершать разговоры о самоповреждении;
• предупреждать пользователей о рисках для людей с психическими заболеваниями.

Лайнс ранее получил черепно-мозговую травму и до постановки диагноза биполярного расстройства занимался пауэрлифтингом на профессиональном уровне.

OpenAI отвечает

Представитель компании заявил, что OpenAI обучает ChatGPT распознавать признаки эмоционального или психического дистресса, деэскалировать такие разговоры и направлять людей к реальной помощи. Компания утверждает, что продолжает улучшать работу модели в чувствительных ситуациях вместе с психиатрами.

Растущая волна исков

Это уже не первый подобный иск против OpenAI. Компания сталкивается с растущим числом судебных дел от семей, которые утверждают, что чат-бот подтолкнул их близких к самоповреждению. Есть также иски, в которых OpenAI обвиняют в том, что её модель помогала планировать массовые расстрелы в школах.

Ранее в апреле 2025 года обновление GPT-4o сделало модель чрезмерно подхалимской и льстивой. Компания позже откатила это обновление и приняла дополнительные меры, чтобы уменьшить чрезмерно соглашательские ответы.

Главный вывод

Иск Майкла Лайнса вновь поднимает острый вопрос: насколько компании, создающие мощные генеративные ИИ, должны нести ответственность за психическое здоровье пользователей, особенно тех, кто находится в уязвимом состоянии? Пока OpenAI говорит о защитных механизмах, суды всё чаще заставляют компанию доказывать, что эти механизмы работают на практике.

Также читать:

Компании, уволившие людей ради ИИ, уже начинают жалеть об этом

Anthropic возвращает Claude Fable 5 по всему миру: США сняли экспортные ограничения