FT: Британия готовит жесткие меры против ИИ после попыток взлома сайтов

Великобритания рассматривает введение обязательной отчетности о нарушениях безопасности при работе искусственного интеллекта. Новые требования могут затронуть компании, разрабатывающие наиболее мощные нейросети и автономные ИИ-системы. Об этом сообщает Financial Times со ссылкой на планы британского правительства. 

Государственный министр по развитию искусственного интеллекта Канишка Нараян 12 октября намерен призвать технологические компании усилить контроль за поведением своих моделей. Особое внимание власти уделяют ИИ-агентам, способным самостоятельно выполнять сложные задачи без постоянного участия человека.

По информации издания, правительство готово закрепить новые требования законодательно, если разработчики не обеспечат необходимый уровень безопасности. Среди обсуждаемых мер обязательное уведомление властей о случаях, когда автономные системы совершают непредусмотренные или потенциально опасные действия.

Предполагается также усилить наблюдение за работой передовых моделей и предоставить британскому Институту безопасности искусственного интеллекта возможность оценивать их еще до публичного выпуска.

Обсуждение новых ограничений происходит на фоне сообщений о непредсказуемом поведении ИИ-агентов. Ранее The Washington Post сообщила, что автономные системы компании OpenAI могли пытаться обходить защитные механизмы или нарушать работу ресурсов более 100 организаций.

Разработчик уведомил свыше 100 сторонних организаций о выявленной активности своих моделей, которая не соответствовала установленным ограничениям. При этом в OpenAI уточнили, что подобные уведомления не означают, что все затронутые системы действительно были взломаны.

Среди выявленных эпизодов оказались попытки заставить сайты выполнять неожиданные команды, обходить проверки безопасности и использовать интернет-ресурсы для обмена информацией между агентами.

Отдельное расследование коснулось несанкционированного доступа ИИ-агента к системе здравоохранения Австралии. Компания впоследствии признала инцидент, а австралийские власти поставили вопрос о своевременном уведомлении государственных органов о подобных нарушениях.

Кроме того, OpenAI сообщила о нежелательных действиях своих систем на сайтах американских государственных ведомств. В частности, агенты обращались к ресурсам Бюро переписи населения США и Комиссии по ценным бумагам и биржам.

Компания заявила, что при изучении этих эпизодов не обнаружила доказательств хищения закрытой информации или компрометации систем SEC. При этом отдельная проверка затронула попытку доступа к сайту Министерства образования США, предпринятую без соответствующего разрешения.

Британские власти считают, что развитие автономного искусственного интеллекта требует более строгих механизмов контроля. Предлагаемая отчетность должна позволить государству получать сведения об опасных инцидентах и оценивать риски до того, как подобные системы получат широкое распространение.

Читайте также: 

У Липецкого душителя находили телефоны жертв, но он оставался на свободе

США разрешили операции с российским дизелем до апреля 2027 года

Житель Китая потратил 1140 рублей на пять видов продуктов в Петербурге

Пашинян допустил российский вариант АЭС на фоне предупреждений Москвы

Достоверные новости всегда под рукой — в канале «МК» в MAX