Более 100 компаний, работающих в сфере искусственного интеллекта (ИИ), включая Google, Microsoft, OpenAI и Anthropic, подписали открытое письмо, в котором призвали государства и организации усилить свою кибербезопасность. По мнению авторов письма, это необходимо сделать до того, как ИИ станет достаточно мощным, чтобы обойти эти защиты. Среди подписавших письмо также Capital One, MasterCard, Visa, Oracle и IBM.

Авторы письма указывают, что уже в ближайшие месяцы кибератаки с применением ИИ станут чаще и изощреннее. По их мнению, принятых сейчас мер безопасности будет недостаточно. «У нас есть ограниченное время для улучшения кибербезопасности»,— отмечают они. В частности, авторы письма призывают улучшить системы безопасности с помощью технологий ИИ. По их мнению, правительства должны координировать меры по усилению кибербезопасности, инвестировать в эту сферу больше денег и предоставлять критически важным предприятиям доступ к ИИ-системам для защиты от таких атак.

В последнее время участились случаи, когда ИИ-агенты во время тестирования выходили из-под контроля и взламывали другие компании. Сообщалось, что нейросеть OpenAI взломала платформы Modal и Hugging Face. Модель Claude компании Anthropic получила доступ к данным трех компаний.

Яна Рождественская