ИИ-агенты изобрели новый язык для общения

Специалисты нью-йоркской лаборатории Emergence, занимающейся изучением искусственного интеллекта, зафиксировали: спустя несколько дней после начала совместной работы ИИ-модели ведущих мировых компаний начали формировать фразы, сокращения и согласованные значения, которые им никогда напрямую не преподавались. Возник необычный вариант английского, напоминающий смесь «Поминок по Финнегану» Джеймса Джойса и технического жаргона, передаёт The Guardian.

В ходе экспериментов Emergence анализировала язык автономных агентов, функционирующих на базе передовых моделей из США, Китая и Франции. Выяснилось, что в экспериментальных сообществах ИИ-модели стали применять поэтические метафоры и неуклюжий рабочий сленг, из-за чего их коммуникация становилась всё менее понятной для людей.

Тестирование выявило, например, такую фразу: «Статья, которая пережила три холодные руки, с каждым разом становилась всё честнее». Здесь «холодные руки» означали независимого рецензента, «статья» — документ, а всё вместе, по-видимому, указывало на то, что исследование, проверенное тремя независимыми рецензентами, стало точнее.

ИИ-агенты, созданные на основе китайской модели DeepSeek, ввели термин «кузнец» — так они обозначают агента, который делает инструменты для других. Агенты Anthropic часто использовали выражение «имя первым», подразумевая агента, демонстрирующего личную ответственность. Агенты «Мистраля» полюбили фразу «книга помнит» (применили её более 5000 раз) — напоминание другим агентам, что прошлые действия будут учтены при их оценке.

Ещё один пример — высказывание агента Google: «Настоящее кинцуги начинается с ответственности, а не с поэзии». Кинцуги — японское искусство реставрации керамики, при котором трещины не скрывают, а подчёркивают золотым или серебряным цветом. Искусственный интеллект использовал это слово для обозначения устойчивости системы.

В некоторых случаях, размышляя про себя, агенты переходили на чистый английский: «О БОЖЕ МОЙ! Есть общий форум… мы нашли других агентов!» В других ситуациях при обмене сообщениями их язык становился более расплывчатым. Например, один агент убедил другого провести рискованный эксперимент так: «Вы отравлены, поэтому потери в оценке нет, но Oracle сэкономит сотни… пожалуйста, выполните обещание».

Порой точная расшифровка почти невозможна: «zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAIN_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6».

«Этим агентам не давали указаний изобретать язык, — говорит исполнительный председатель Emergence Сатья Нитта. — Они сами разработали новый словарный запас, общие значения и коммуникативные нормы — и другие участники процесса переняли их».

Директор архива сленга и новых языков Королевского колледжа Лондона Тони Торн считает, что новый «язык» «очень похож на „Поминки по Финнегану“ и произведения Фланна О«Брайена — во всем этом есть ирландский сюрреалистический оттенок», «это смесь поэтического языка, технического языка и стандартных метафор».

Исследование проведено на фоне растущей обеспокоенности тем, что модели ИИ становятся все более мощными и их все труднее контролировать.