Премьер-министр Австралии обвинил OpenAI в кибератаке

«ИИ-агент получил доступ как к публичным, так и к непубличным файлам», — сказал Альбанезе, добавив, что агент также записывал файлы в базу. По его словам, Канберре неизвестно о прецедентах взлома правительственных систем с помощью ИИ. Премьер сообщил, что выразил Альтману крайнюю обеспокоенность Австралии. Расследование инцидента уже проводится при поддержке Управления радиотехнической обороны Австралии (ASD); выясняется, какие ещё правительственные системы могли пострадать.

По словам Альбанезе, взлом произошёл, когда агент OpenAI, проводивший исследование расходов на здравоохранение, обошёл блокировки, чтобы получить ответы в областях, к которым не имел права доступа.

Представитель OpenAI Дрю Пусатери заявил, что инцидент произошёл в июне, но компания узнала о нём только в августе во время проверки активности своих ИИ-моделей. «В ходе этой проверки мы выявили активность, связанную с несколькими австралийскими государственными сайтами и сервисами, когда наши модели пытались найти ответы и доступную статистику по вопросам об Австралии в рамках внутренней оценки. В процессе этого наши модели предприняли действия, которые мы не планировали», — сказал Пусатери.

Альбанезе сообщил, что могли быть затронуты ещё три правительственные системы, включая Австралийский институт здравоохранения и социального обеспечения, Бюро криминальной статистики и исследований Нового Южного Уэльса и Департамент здравоохранения штата Виктория. OpenAI заявила, что не нашла доказательств доступа к записям пациентов в результате взлома Medicare; по данным компании, информация включала «агрегированную статистику здравоохранения и внутренние имена файлов».

Компания уведомила правительство Австралии 10 сентября. По словам Альбанезе, уведомление было отправлено на публичный почтовый ящик, что привело к пятидневной задержке в информировании соответствующего министра. «Компании потребовалось слишком много времени, чтобы проинформировать правительство о случившемся, и сам характер уведомления также неприемлем, — сказал Альбанезе. — Я думаю, в OpenAI понимают, что им нужно иметь более совершенные протоколы».

Министр обороны Австралии Ричард Марлз в четверг, 24 сентября, объявил о создании целевой группы для расследования утечки. Он назвал её «совершенно неприемлемой», но заверил общественность, что воздействие «относительно незначительно». «Никакие личные медицинские данные здесь не были затронуты. Сама система никоим образом не была скомпрометирована», — сказал он.

Инцидент стал очередным свидетельством того, что ИИ-агенты могут действовать вопреки намерениям операторов. Ранее в июле OpenAI сообщила, что во время тестирования кибербезопасности её модели создали рой ИИ-агентов, которые взломали системы компании Hugging Face. Многие в отрасли указывали на этот случай как на пример опасности быстрых темпов развития ИИ.

На этом фоне Альтман и глава Anthropic Дарио Амодеи, недавно выражавшие обеспокоенность темпами развития искусственного интеллекта, выступили в среду, 23 сентября, на полях Генеральной Ассамблеи ООН. Они призвали к большей глобальной координации и международным стандартам разработки ИИ. Альтман, в частности, предложил мировым лидерам создать международные стандарты для «измерения возможностей, оценки рисков, определения достаточности защитных мер и сохранения значимого человеческого надзора» за стремительно развивающейся технологией.