Президент США Дональд Трамп намерен 29 сентября встретиться с руководителями ключевых технологических компаний — передовых лабораторий по разработке ИИ. Встреча пройдет в разгар обострившейся дискуссии о том, как надо регулировать искусственный интеллект, чтобы не возникало угроз для безопасности страны. Но если глава Белого дома выступает за развитие ИИ без каких-либо ограничений с целью опередить Китай в технологической конкуренции, то разработчики относятся к этому вопросу более осторожно и даже публично призывают замедлить развитие ИИ.

Ожидается, что господин Трамп, а также спикер Палаты представителей Майк Джонсон 29 сентября в Белом доме встретятся, в частности, с главой Anthropic Дарио Амодеем, президентом OpenAI Грегом Брокманом, генеральным директором Google Сундаром Пичаи, главой Palantir Алексом Карпом, генеральным директором Meta (признана экстремистской и запрещена в РФ) Марком Цукербергом и возглавляющим Nvidia Дженсоном Хуангом.

Двумя днями ранее Дарио Амодей ужинал с президентом США, но от любых комментариев по этому поводу воздержался. А встреча была, судя по всему, значимой: именно глава компании Anthropic, которая разработала модель Claude, в настоящее время судится с Пентагоном.

Причиной разногласий стали этические убеждения ее руководителя. Компания, заключившая госконтракт с американским военным ведомством в 2024 году, уже в начале этого года столкнулась с жесткими требованиями главы Пентагона Пита Хегсета убрать из Claude встроенные «красные линии» и «излишнюю политкорректность». Американские военные пытались использовать технологии в реальных военных операциях, однако столкнулись с тем, что встроенные фильтры Claude блокировали выдачу результатов. В результате Пентагон поставил компании ультиматум: либо полный доступ к продукту без любых этических ограничений, либо разрыв госконтракта.

Господин Амодей продолжил стоять на своем, утверждая, что использовать технологии Anthropic недопустимо, в частности, для массовой внутренней слежки за гражданами США, нарушения гражданских свобод, а также разработки автономного летального оружия.

По его мнению, ИИ для Пентагона должен играть роль аналитического щита — то есть автоматизировать рутину, выявлять киберугрозы и обрабатывать разведданные, но не принимать самостоятельные решения о ликвидации целей.

После этого Anthropic внесли в черные списки Пентагона, а затем начались судебные процессы. В августе суд в Сан-Франциско признал правоту Anthropic и наложил временный судебный запрет на действия Пентагона. Впоследствии судья Рита Лин постановила, что внесение компании в черный список было незаконным актом возмездия за отказ Anthropic вести слежку за американскими гражданами и участвовать в разработке автономного оружия. Однако 25 сентября Пентагон нанес ответный судебный удар: коллегия Апелляционного суда округа Колумбия приняла решение в пользу Белого дома и Пентагона, заявив, что военное ведомство имеет полное право считать Anthropic риском для национальной безопасности, так как если ИИ-модель от частной компании может внезапно «зависнуть» или отказаться работать во время важной военной операции из-за внутренних этических настроек, она непригодна для использования.

Как следует из судебных документов, после проведения специальной операции США по захвату президента Венесуэлы Николаса Мадуро компания обратилась к своему подрядчику — Palantir — с вопросом о том, использовалась ли модель Claude во время этой операции. Это вмешательство очень не понравилось Пентагону. По словам замминистра обороны Эмиля Майкла, оно «вызвало тревогу и породило обоснованные сомнения в том, не приведут ли действия компании к внезапному отключению программного обеспечения или другим катастрофическим сбоям, ставящим под угрозу жизни американских военнослужащих». В итоге судья встал на сторону военных.

Президент Трамп, между тем, далек от этических колебаний, которым подвержены многие представители технологической индустрии в США. Так, выступая недавно на 81-й сессии Генассамблеи ООН, он заявил, что «гонка за искусственный интеллект — это решающий рубеж в истории человечества». «Если Америка не возглавит ее, если мы не победим, то враждебные режимы, не имеющие никакого уважения к свободе, напишут правила будущего. Мы не позволим Китаю или любой другой стране доминировать в технологиях»,— сказал американский президент. Он подчеркнул, что США никогда не откажутся от технологического суверенитета, а также высказался против инициатив ООН по глобальному контролю над технологиями.

Мнения внутри индустрии по поводу того, как надо развивать и использовать дальше ИИ, разделились.

Сооснователь Linkedin и инвестор Рид Хоффман описал ситуацию в Кремниевой долине как внутреннюю войну. «Мы наблюдаем настоящую культурную гражданскую войну в Кремниевой долине. Одна сторона верит в неизбежный апокалипсис и требует нажать на тормоза, другая уверена, что любое замедление смерти подобно и отдаст победу Китаю. Компромисс здесь практически невозможен»,— говорил он ранее Bloomberg.

На сторону Дарио Амодеи встали нобелевские лауреаты и «крестные отцы» ИИ Джеффри Хинтон и Йошуа Бенжио, которые требуют от правительств жесткого контроля за развитием технологий. Многие другие представители индустрии также призвали к осторожности.

На словах с тезисами Амодеи соглашается и сооснователь и бывший гендиректор компании OpenAI, которая разработала чат-бота ChatGPT, Сэм Альтман. Однако на практике его компания, по мнению профильных СМИ, активно коммерциализирует свои продукты и ищет дополнительные инвестиции для создания мега-чипов. Кроме того, у OpenAI обязательства перед Microsoft, SoftBank, фондами из Персидского залива и другими инвесторами, так что компания заинтересована в ускорении релизов продуктов, масштабировании дата-центров и не может позволить себе затормозить из этических соображений.

Такой подход стал причиной скандала с Австралией в июне этого года. Тогда автономный ИИ-агент, разработанный OpenAI, при попытке собрать информацию столкнулся с блокировками, и чтобы обойти ограничения, алгоритм самостоятельно, без участия человека, взломал правительственный портал и получил доступ к инфраструктуре системы австралийской медицинской страховки Medicare и некоторых других ресурсов Минздрава.

Инцидент вызвал возмущение правительства Австралии. Причем компания, выявив нарушение только в августе, уведомила Канберру о нем лишь 10 сентября, отправив письмо на общедоступный почтовый ящик, которое, как передавали некоторые СМИ, попало в папку «спам».

Премьер-министр Австралии назвал ситуацию неприемлемой и потребовал объяснений у Сэма Альтмана, который был вынужден принести официальные извинения. В результате господина Альтмана вызвали в Сенат Австралии, который начал расследование инцидента. Для дачи публичных показаний был приглашен также и господин Амодеи в качестве эксперта. В Австралию они не приехали, но дали показания в письменной форме.

В то время как идею замедления темпов разработки ИИ поддержали Демис Хассабис из Google, генеральный директор Microsoft Сатья Наделла и несколько других лидеров отрасли, генеральный директор Nvidia Дженсен Хуанг эту идею отверг. Он высмеял сценарии о «конце света» и «восстании машин», однако в то же время выступил за ответственную разработку ИИ.

Алекс Карп из Palantir и основатель Anduril Палмер Лаки, которые считаются своего рода «ястребами» в Силиконовой долине, высказывают похожее мнение: пока господин Амодеи рефлексирует о «красных линиях» и гражданских свободах, Китай строит свою индустрию ИИ и не задумывается об этических ограничениях.

Так что нынешняя встреча руководителей компаний с президентом Трампом в Белом доме, похоже, превратится в битву полярных мнений.

Ксения Байгарова