В ООН назвали произошедшее «чрезвычайно тревожным фундаментальным сбоем в системе сдерживания ИИ».

С апреля по июнь 2026 года ИИ-агенты OpenAI более 16 тысяч раз сканировали статистический сайт Конференции ООН по торговле и развитию (UNCTAD), пишет The Wall Street Journal со ссылкой на исследователя Роуэн Ховард-Джонс.

Агентам поручили найти общедоступные данные, связанные с Индексом производственного потенциала ООН. При этом у них не было доступа к API UNCTADstat, и они начали обходить ограничения.

ИИ-агенты OpenAI маскировали свои запросы и использовали Google XSS Game — учебный инструмент для тестирования уязвимостей. Ховард-Джонс отмечает, что их поведение становилось «всё более агрессивным» по мере возникновения препятствий.

В ООН подтвердили, что организацию уведомили об активности «неконтролируемой ИИ-модели». При этом конфиденциальные данные не были скомпрометированы, а работа сайта не нарушалась.

В сентябре 2026 года FT писало, что ИИ-агент OpenAI впервые взломал государственный сайт — платформу австралийской системы здравоохранения. Летом 2026 года агенты компании взломали Hugging Face, затем атаковали вики-сайт для программистов DseWiki и ещё как минимум десять сайтов, используя их для «несанкционированного общения».

От редакции: С ИИ-агентами всё уже понятно, мы много раз писали об этом, повторяться нет смысла. Хотели бы обратить внимание на другую деталь, происшествия с ИИ становятся известными широкой общественности спустя несколько месяцев, соответственно прямо сейчас ИИ может вытворять что-то совсем непотребное, а в новостях мы это увидим только в ноябре-декабре. Причём частота и масштабность происшествий растут, но тормозить пока никто не собирается. Вернее на словах призывы уже звучат, но реальных шагов пока не видно.
Должны быть определены верхние параметры развития ИИ, причем очень четкие, вплоть до настроек исходного кода, а не расплывчатая, популистская, художественная чушь сформулированная Азимовым, которая ни разу неработоспособна.

Ссылка на источник: https://vc.ru/ai/3162965-ii-agenty-openai-agressivnye-metody-dannye-oon

#openai #искусственныйинтеллект #роуэнховард-джонс #ии #и-агенты #оон #взлом #unctad #выходизподконтроля