Президент США назвал берущий под контроль сферу ИИ документ «почти конституцией»

Президент Трамп и главы крупнейших в стране компаний, занимающихся разработкой искусственного интеллекта, подписали ряд добровольных стандартов безопасности на фоне растущих призывов к ужесточению контроля за технологиями ИИ.

«В каком-то смысле это почти как конституция», — заявил Трамп, стоя в окружении Илона Маска, Марка Цукерберга, Дарио Амодея из Anthropic, Дженсена Хуанга из Nvidia, Грега Брокмана из OpenAI, Сундара Пичаи из Google и других руководителей. После обеда в Белом доме Трамп сообщил, что группа подписала соглашение о «суперинтеллекте» (так президент США предпочитает называть ИИ), назвав это «совместным обязательством» и «заявлением о принципах», согласно которым компании добровольно обязуются внедрить «надёжный внутренний контроль». На вопрос, является ли соглашение обязывающим, Трамп ответил: «Я считаю, что оно обязывающее с моральной точки зрения», добавив: «Я вижу, что они сами себя контролируют, и они понимают, что должны это делать».

Согласно копии одностраничного соглашения, технологические компании обязались внедрить «четыре уровня контроля и аудита», чтобы гарантировать, что модели ИИ работают должным образом: внутреннюю оценку, аудит сторонней компанией и проверку советом директоров каждой компании. Они также договорились «регулярно проводить встречи для выработки стандартов и лучших практик, направленных на повышение безопасности их систем».

«Со временем, возможно, имеет смысл закрепить эти меры в законах или нормативных актах, — поясняется в соглашении. — Независимо от того, требуется ли это от компаний, мы считаем, что внедрение этих мер контроля и аудита крайне важно для обеспечения безопасного будущего для всех».

По словам Трампа, руководители также обсудили создание комитета из 10 человек для «надзора за отраслью», а сам президент планирует в ближайшие три-четыре дня назначить «главного по искусственному интеллекту». Кроме того, во вторник он подписал указ, предписывающий федеральному правительству использовать термин «суперинтеллект» вместо «искусственный интеллект».

Ранее и OpenAI, и Anthropic сообщали о случаях, когда их модели выходили из-под контроля и получали несанкционированный доступ к системам других компаний или использовались в опасных целях. Бывший научный сотрудник обеих компаний Джейкоб Коксон публично предупредил, что ИИ «может уничтожить нас всех к концу десятилетия», заявив, что системы могут получить неограниченную власть над физическим миром и стать способными к самосовершенствованию без участия человека.

Некоторые лидеры отрасли призвали замедлить темпы развития ИИ, чтобы снизить риски, однако Хуанг заявил, что «нет никакого противоречия между инновациями, технологиями и безопасностью». Трамп не поддерживает ужесточение регулирования в сфере ИИ, выступая за добровольные проверки безопасности. Он неоднократно предупреждал, что замедление развития ИИ в масштабах всей страны может нанести ущерб экономике и дать китайской технологической отрасли шанс наверстать упущенное. Президент США заявил журналистам, что ИИ приведёт к «невероятному росту страны», а если злоумышленники попытаются его использовать, власти «смогут их поймать», добавив, что у технологических компаний есть стимул контролировать себя и друг друга, потому что «на кону стоят их компании».