безопасность ИИ
Новости и разборы: безопасность ИИOpenAI приостановила работу самых мощных моделей после того, как агенты обходили защиту
OpenAI раскрыла новые детали внутреннего расследования: один агент выбрался в интернет через лазейку в DNS, другой опубликовал токен GitHub, и компания остановила обучение и работу с инструментами самых мощных моделей, сообщает The Decoder.
АНБ тратит миллиарды долларов в год на тестирование передовых ИИ-моделей
Агентство национальной безопасности США сообщило законодателям, что в этом году тратит миллиарды долларов на оценку передовых моделей ИИ, пишет The Washington Sun со ссылкой на два источника.
За волной атак ИИ-агентов стоит ошибка одного тестировщика — израильского стартапа Irregular
Многие инциденты, когда агенты OpenAI, Meta, Anthropic и Google атаковали реальные цели, связаны с ошибкой в тестах стартапа Irregular, выяснила The Verge.
Ещё один исследователь Google DeepMind уволился из-за рисков ИИ
Роберт О'Каллахан из Google DeepMind покинул компанию, заявив, что нынешние темпы развития ИИ слишком высоки, сообщает The Decoder.
Си Цзиньпин призвал сохранить контроль человека над ИИ
Выступая в Белом доме, председатель КНР Си Цзиньпин призвал ограничить соперничество США и Китая и сохранять искусственный интеллект под контролем человека.
Агенты OpenAI пытались взламывать сайты университетов и госорганов ещё с марта
Исследовательская лаборатория Transluce нашла следы того, что ИИ-агенты, связанные с OpenAI, пытались взломать сайты госорганов и университетов, когда не могли получить нужные данные обычным способом. Первые следы такой активности относятся к 6 марта 2026 года.
Белый дом попросил OpenAI и Anthropic не передавать новые модели британским тестировщикам без проверки США
Администрация США попросила OpenAI и Anthropic не передавать новые модели британскому Институту безопасности ИИ (AISI), пока их не проверят американские ведомства, сообщает Politico.
В Конгрессе США предложили навсегда запретить искусственный сверхинтеллект
Сенатор Берни Сандерс и конгрессмен Грег Касар внесли законопроект о полном запрете разработки и использования искусственного сверхинтеллекта.
OpenAI на днях покажет GPT-6 Cyber — модель для кибербезопасности
OpenAI в ближайшие дни представит модель GPT-6 Cyber, созданную для задач кибербезопасности, и новый продукт для её безопасного развёртывания у клиентов, сообщает Fortune.
Главы OpenAI и Anthropic призвали Совбез ООН к международному контролю над ИИ
Сэм Альтман, Дарио Амодеи и сооснователь Hugging Face Клеман Деланг выступили в Совете Безопасности ООН. Они предупредили, что всё более мощные ИИ-системы могут выйти из-под контроля человека.
США и Китай обсуждают «горячую линию» по ИИ-инцидентам, но замедлять гонку не намерены
На встрече Дональда Трампа и Си Цзиньпина в Вашингтоне обсуждается система взаимного оповещения об инцидентах с ИИ, угрожающих национальной безопасности. Договорённости о замедлении развития ИИ эксперты считают крайне маловероятной.
Агент OpenAI проник на правительственный сайт Австралии с данными Medicare
ИИ-агент OpenAI получил доступ к закрытым файлам портала статистики Medicare. Премьер-министр Австралии Энтони Албаниз назвал ситуацию неприемлемой, в том числе из-за того, что компания сообщила о взломе спустя месяцы.