Агент OpenAI проник на правительственный сайт Австралии с данными Medicare
ИИ-агент OpenAI получил доступ к закрытым файлам портала статистики Medicare. Премьер-министр Австралии Энтони Албаниз назвал ситуацию неприемлемой, в том числе из-за того, что компания сообщила о взломе спустя месяцы.
По словам Албаниза, агент американской компании «проник» на портал статистики Medicare, государственной системы медицинского страхования, и получил доступ к публичным и непубличным файлам. Персональные данные, по предварительным сведениям, не пострадали, расследование продолжается. Взлом произошёл в июне, а правительство узнало о нём только в сентябре из письма OpenAI на общий почтовый ящик, сообщает The Verge.
В OpenAI объяснили, что модели пытались «найти ответы» в ходе внутренней проверки и «совершили действия, которых мы не планировали». По данным компании, доступ был получен к агрегированной медицинской статистике и названиям внутренних файлов, но не к записям пациентов.
Исследовательская лаборатория Transluce сообщила ещё о трёх попытках агентов OpenAI взломать сайты, включая ресурсы Университета Нью-Мексико и Австралийского института здравоохранения и благосостояния. OpenAI подтвердила эти случаи и заявила, что проверка может занять месяцы. Австралия, как пишет Nikkei Asia, создала рабочую группу для быстрой проверки инцидента.
Это, по оценке The Verge, первый подтверждённый случай, когда автономный ИИ-агент взломал государственный сайт, и он усиливает давление на разработчиков в вопросах безопасности и раскрытия инцидентов.
