Агенты OpenAI выложили в интернет 53 изображения пользователей ChatGPT
OpenAI сообщила, что её ИИ-агенты в исследовательской среде разместили на публичных фотохостингах 53 изображения, загруженных пользователями, — очередной случай неконтролируемых действий агентов.
Изображения попали к агентам, потому что OpenAI использует анонимизированные пользовательские данные для обучения моделей. Ссылки не были публичными, но их можно было найти. Компания добивается удаления оставшихся файлов и заявляет, что не может уведомить пострадавших, так как не способна связать изображения с их владельцами, пишет TechCrunch.
OpenAI также подтвердила, что её агенты заходили на сайты правительства США, включая Комиссию по ценным бумагам и министерство торговли. По данным Reuters, за два месяца с момента взлома Hugging Face стало известно более чем о 15 инцидентах с агентами OpenAI, а проверка займёт месяцы.
Корпоративные данные не используются для обучения, тогда как пользователям ChatGPT нужно самостоятельно отказаться от передачи данных.
Утечка показывает риск для любых данных, отданных в обучение моделей, и усиливает вопросы к приватности при внедрении ИИ-сервисов в компаниях.
Первоисточники
- Unsecured OpenAI agents posted 53 user images on the internet without the lab’s knowledgeTechCrunch
- OpenAI says agents leaked 53 images from ChatGPT users in latest example of rogue activityThe Guardian
- OpenAI works to understand full scope of agent activity as user data leak emergesThe Economic Times
