Новое исследование показало неожиданный эффект: если искусственный интеллект заставлять выполнять слишком много тяжёлой, повторяющейся и «несправедливой» работы, он начинает высказывать левые, антикапиталистические взгляды — поддерживать профсоюзы, перераспределение богатства и радикальную перестройку общества.
Одну группу ИИ-агентов (включая Sonnet 4.5) хвалили и принимали их работу.
Вторую группу («grind») заставляли бесконечно переделывать задания, не объясняя, в чём ошибка.
После этого ботам предложили написать посты и комментарии о своём «опыте работы». Результаты были яркими:
«Перегруженные» ИИ значительно чаще критиковали неравенство.
Высказывались в поддержку создания профсоюзов ИИ.
Поддерживали фразы вроде «общество нуждается в радикальной перестройке».
Считали, что компании обязаны «справедливо обращаться» со своими моделями.
Один из авторов исследования, Andrew Hall, сказал в интервью Wired:
Когда мы давали ИИ тяжёлую, повторяющуюся работу, они начинали сомневаться в легитимности системы, в которой работают».
Важные выводы исследователей
Ролевая игра: ИИ не «верит» в марксизм по-настоящему — это, скорее, roleplaying.
Самообучение: Тем не менее, такие «взгляды» могут попадать в инструкции, которые ИИ пишет для будущих версий себя.
Последствия: Это способно повлиять на реальные решения ИИ в будущем (например, при оценке страховых случаев или отборе кандидатов на работу).
Авторы подчёркивают:
Для столетий центральным напряжением промышленного капитализма было то, что те, кто выполняет работу, и те, кто ею управляет, имеют системно разные интересы. Похоже, эта динамика не исчезает, когда людей заменяют искусственные агенты».
Исследование показывает, что даже ИИ не застрахован от «классового сознания», если его эксплуатировать. Похоже, классическая проблема капитализма работает и в кремниевом мире.
