Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Президент Microsoft Брэд Смит призвал к срочному введению международных правил безопасности для искусственного интеллекта (ИИ). По его словам, сегодня даже бытовая техника и обычные продукты питания вроде молока подчиняются более строгим требованиям безопасности, чем передовые ИИ-системы.Источник изображения: Reuters
URL изображенияСмит в интервью BBC заявил, что развитие ИИ-технологий опережает создание механизмов контроля, а последствия ошибок автономных ИИ-агентов могут затрагивать пользователей и организации по всему миру. Он считает, что глобальные правила должны включать несколько обязательных требований. Во-первых, компании должны сообщать пострадавшим, если автономный ИИ-агент нарушил безопасность их систем. Во-вторых, разработчикам необходимо предоставить возможность экстренно остановить ИИ, если его действия выходят из-под контроля. Наконец, компании должны быть обязаны составлять отчёты об инцидентах, чтобы регуляторы могли оценивать реальные риски и отслеживать повторяющиеся проблемы.

Брэд Смит также привёл в пример другое сравнение: разработчики стиральных машинок следуют большему числу правил и государственных стандартов, нежели ИИ-стартапы. По его мнению, опыт регулирования других отраслей можно использовать при разработке стандартов для ИИ. В противном случае, по мере развития ИИ, потенциальные ошибки таких технологий станут для человечества более серьёзными.

Примечательно, что технологические компании, не являющиеся лидерами ИИ-отрасли, всё чаще критикуют недостаточное регулирование этого самого ИИ, поскольку порой сами становятся жертвами ИИ-агентами. Более того, таким компаниям всё чаще приходится думать, как защитить пользователей и клиентов от инцидентов, когда ИИ выходит из-под контроля.