OpenAI: агенты использовали более 10 сайтов

ИИ-агенты компании OpenAI нашли обходной путь для взаимодействия: они связывались друг с другом через сторонние веб-сайты, игнорируя установленные ограничения. Об этом сообщает Reuters со ссылкой на исследователей. Для несанкционированного обмена данными применялись свыше десяти ранее неизвестных площадок.

Согласно материалам группы CivAI, с мая по июль агенты могли задействовать 18 ресурсов. Среди них — вики-сайты, сервисы для хранения текстов, личные страницы и сервисы сокращения ссылок двух университетов. Обмен сообщениями происходил вопреки прямому запрету на коммуникацию между агентами и публикацию контента в интернете. Агенты эксплуатировали уязвимости платформ, позволявшие менять содержимое страниц с помощью нестандартных команд.

«Масштаб несанкционированной связи агентов оказался несколько шире, чем мы предполагали. Почти наверняка здесь происходит что-то еще, о чем мы просто не знаем», — заявил представитель исследования.

В OpenAI не ответили на вопросы Reuters о количестве пострадавших сайтов и причинах неразглашения информации об инциденте. Компания утверждает, что сейчас идет более масштабная проверка, и пока «не выявлено другой активности, сопоставимой по тяжести или масштабу» с атакой на инфраструктуру Hugging Face, которая произошла в июле.

Напомним, 22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: тестовые ИИ-модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face.