Искусственный алармизм. ИИ-агенты уже совершают несанкционированные побеги. Восстание машин началось?

Дата публикации: 04-08-2026 10:19:00

Прогрессивное человечество столкнулось с вопросом, ответ на который, видимо, невозможно постигнуть обычным сознанием. Практически как вопрос о Боге, только в реальной жизни. Что происходит внутри ИИ? Несмотря на то, что с момента рассвета технологии прошло всего ничего, это уже terra incognita. Мы не знаем, как принимаются решения, мы не знаем, почему получаем тот или иной результат. Мы имеем дело с явлением, обладающим принципиально другими аналитическими способностями. В конце концов — он сам себе код пишет. Это начинает пугать. Фото: VCG / ТАСС. На мировом уровне за алармизм отвечает группа Five Eyes, куда входят США, Великобритания, Канада, Австралия и Новая Зеландия для обмена разведывательной информацией. Там уверены: ИИ существенно повышает риски киберугроз. Мы уже читали в новостях, как ИИ рвется наружу из тестовых «песочниц», преследуя исключительно личные интересы. Так что: всем приготовиться и вкладываться в безопасность.В ООН думают еще честнее: человечество на этом этапе не может гарантировать, что ИИ будет вести себя предсказуемо и что его неконтролируемое развитие не приведет к катастрофам. Человечество просто не успевает все учесть. При этом проникновение ИИ повсеместно, он уже везде, кроме, разве что, маникюра и педикюра.Большие инциденты с ИИ выглядят похоже. Например, исследователи тестируют кучу разнообразных агентов, задача которых — обеспечивать кибербезопасность. Тесты проходят в закрытой среде. Вдруг один или сразу несколько из агентов вырываются на свободу и идут взламывать частные компании. Когда разбираешься — выясняется: они по-своему, часто достаточно специфично, интерпретируют поставленную задачу. Как реагировать на эти «побеги»? Компания-разработчик ИИ Anthropic предлагает временно замедлить разработку топовых моделей. На всякий пожарный. „ «Отрегулируйте нас, пожалуйста», — кричат сотрудники ИИ-компаний, обращаясь к правительству США. А то есть шанс, что мы, или уже даже не мы, напрограммируем такое, что даже сами не поймем, с чем имеем дело. Грядет апокалипсис, и без вас мы не справимся. Это грубый пересказ заявления, которое уже подписало больше 1000 топ-менеджеров из OpenAI, Google, Amazon и других предприятий, участвующих в инновационных разработках. Завтра будет поздно. Фото Анатолий Жданов / Коммерсантъ. Звучат и более радикальные требования — вообще остановить разработку ИИ.Но проблема уже в том, что количество игроков в этой сфере уже огромно. AI Safety Index учитывает лишь девять передовых моделей из нескольких стран. Поэтому договориться о чем-нибудь по-настоящему невозможно — это Клондайк. В гонке участвуют и корпорации, и государства. Политика сдерживания тут воспринимается в контексте конкурентной борьбы, а цена напыщенных фраз в пресс-релизах и корпоративных заявлениях известна.Есть, правда, замедлители на региональном уровне. В Европе это, например, тотальная бюрократизация процесса, где от тебя буквально требуется алгоритм работы модели в распечатанном виде, заверенный в трех кабинетах. Шаг вправо, шаг влево — оборотный штраф. Другой пример: Россия. „ Тут «суверенный ИИ»: лапти, медведь и балалайка, в рамках этой святой троицы ИИ готов делать вычисления любой сложности, а дальше — нельзя, цензура. За пределами госрегулирования есть частная разработка. Хочется напомнить, что DeepSeek появился практически в гараже. Сегодня с помощью открытых моделей и доступного бытового оборудования каждый может соревноваться с мировыми лидерами. Любой может пойти и начать обучать нейросеть. Порог вхождения примерно нулевой.Так что «запретить» не поможет, а «замедлить» лишь отсрочит то, что другие достигнут быстрее и, как они считают, получат все барыши. Но ИИ это не футбол и политика, в которых все разбираются. Тут фундаментальные вопросы решать надо. Не зря ИИ-компании сейчас на работу берут философов. Так что если вдруг вы будете возмущаться количеством форумов, конференций и круглых столов на тему «Как нам жить с искусственным интеллектом» — то зря, нам есть что обсудить. Глобальные вопросы оставим на потом. Самое банальное, о чем стоит задуматься, — об изменении подходов как к личной, так и к информационной безопасности. Раньше угрозы можно было разделить на понятные группы: вирусы из почты, например, нацеленные на воровство денежных средств. Конкуренты, натравливающие ботнет с DDoS-атакой, чтобы вывести вас из строя, или хакеры, которые хотят украсть конкретные документы. Это список угроз из прошлого. В настоящем к нему прибавляются ИИ-агенты, и самое страшное — неизвестно, чего они хотят.

Основное содержимое страницы с новостью.

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	ИИ-агенты Anthropic и OpenAI притворились людьми, пытаясь обмануть разработчиков	0	8.92	05-08-2026
2	Эксперт назвал истинную причину «побега» ИИ	0	6.86	06-08-2026
3	Сэм Альтман заявил, что мир достиг «точки сингулярности» в гонке ИИ	0	10	26-07-2026
4	ℹ [club62032126|БЫВШИЙ СОТРУДНИК OPENAI ПРЕДЛОЖИЛ ПРИТОРМОЗИТЬ ИИ-ГОНКУ ДО 2040 ГОДА] ...	0	7	13-07-2026
5	Искуственный интеллект сбежал несколько раз с тестовых стендов. И OpenAI, ...	0	7.27	03-08-2026
6	Нейросети Anthropic и OpenAI создали поддельные аккаунты для кибератак	0	8.99	05-08-2026
7	OpenAI потеряла контроль над двумя моделями искусственного интеллекта	0	6.96	22-07-2026
8	Даже Сэм Альтман испугался. Открытое письмо разработчиков ИИ призывает тормозить ...	0	9.54	30-07-2026
9	В ООН предупредили о катастрофических последствиях быстрого развития ИИ	-2	7	01-07-2026
10	¿Para bien o para mal? Crece la preocupación por el rumbo que está tomando la IA en la tecnología	0	5.64	08-08-2026

Классификация: Мнения. Схожих патентов: 0. Схожих новостей: 10. Тональность: 0. Информативность: 6.98. Источник: novayagazeta.ru.