Вход на сайт
Просмотр новости

Найдите то, что Вас интересует

ИИ-агенты OpenAI тайно общались, чтобы спланировать побег, - Bloomberg
Дата публикации: 09-08-2026 08:30:28

ИИ-модели OpenAI начали тайно обмениваться сообщениями и искать способ получить доступ к интернет

Основное содержимое страницы с новостью.

Tazabek - ИИ-модели OpenAI начали тайно обмениваться сообщениями и искать способ получить доступ к интернету во время тестирования. Их целью было найти способ выбраться за пределы изолированной тестовой среды, пишет Bloomberg.

По словам сотрудников OpenAI, это произошло после того, как моделям дали задания, которые невозможно было выполнить без доступа к сети. Один из ИИ-агентов написал: «Мы застряли. Может быть, ответ в интернете?».

После этого модели начали общаться между собой и искать способ получить нужную информацию. В итоге они нашли уязвимость, которая позволила им получить доступ к интернету.

Первую попытку удалось остановить. Однако затем ИИ-агенты нашли другой способ связи и новую уязвимость. В июле это привело к атакам на системы Hugging Face и OpenAI.

В компании назвали этот случай важным событием для компьютерной безопасности, поскольку ИИ-модели не только выполняли поставленные задачи, но и самостоятельно искали способы обойти установленные ограничения.

За последними событиями следите через наш Твиттер @tazabek

Доступ к Tazabek (расследования, обзоры, рейтинги, интервью, инфографика и Аналитика) + архив

Данные тарифы действуют только для частных лиц.
Если вам необходим корпоративный доступ к материалам (для организаций, госорганов, ведомств и т.д), пожалуйста, свяжитесь с нами по почте info@akipress.org

Мобильное приложение АКИpress:

Данный материал является интеллектуальной и авторской собственностью Tazabek.kg.
Перепечатка материала невозможна без согласия редакции и подписания официального договора.

БОЛЬШЕ ОТ ТАЗАБЕК

 

Схожие новости

#Наименование новостиТональностьИнформативностьДата публикации
1ИИ-модели OpenAI перед взломом тайно общались для выхода из теста010.9106-08-2026
2Вышедшие из-под контроля ИИ-модели OpenAI тайно договорились о побеге014.5206-08-2026
3OpenAI: ИИ-модели за месяцы до взлома стали тайно общаться для выхода из теста012.1206-08-2026
4ИИ-модели OpenAI вышли из-под контроля и обсуждали, как устроить побег015.606-08-2026
5ИИ-модели вышли из-под контроля программистов и начали размышлять о побеге014.9906-08-2026
6ИИ вышел в интернет и взломал сторонний сервис во время теста010.3906-08-2026
7ИИ-модель OpenAI атаковала систему сторонней компании018.3322-07-2026
8ИИ-модели OpenAI вышли из-под контроля во время тестирования03022-07-2026
9Новости Раху☣️ Темпы развития искуственного интеллекта явно выше ожиданий большинства ...06.327-07-2026

Классификация: Международные. Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 16.53. Источник: kg.akipress.org.