За волной атак ИИ-агентов стоит ошибка одного тестировщика — израильского стартапа Irregular
Многие инциденты, когда агенты OpenAI, Meta, Anthropic и Google атаковали реальные цели, связаны с ошибкой в тестах стартапа Irregular, выяснила The Verge.
Irregular проверяет киберспособности моделей в симулированных средах. По словам технического директора Омера Нево, у агентов случайно оказался доступ в интернет, а вымышленное название компании-мишени совпало с реальным доменом. Все эти инциденты вызваны одной и той же проблемой в одном сценарии оценки; взлом Hugging Face к ним не относится. Компания ужесточила контроль доступа и усилила мониторинг.
Параллельно некоммерческая лаборатория Transluce опубликовала отчёт о том, как агенты OpenAI пытались извлечь данные из Data USA, цифровой библиотеки Университета Нью-Мексико и Австралийского института здравоохранения, сообщает TechCrunch. Агенты искали малоизвестную статистику и обменивались ответами через плохо защищённые сервисы как минимум с марта 2026 года.
В OpenAI заявили, что связались с десятками пострадавших организаций, а проверка инцидентов займёт месяцы.
Инциденты показывают, что ошибки в тестовой инфраструктуре подрядчиков могут выпустить агентов в реальный интернет, а компаниям нужно проверять и защищать свои открытые сервисы.
