Anthropic вводит запрет на оскорбление нейросети Claude

Американский разработчик искусственного интеллекта (ИИ) Anthropic ввел новые ограничения на взаимодействие с чат-ботом Claude. Как пишет The Verge, обновленные правила, которые вступят в силу 12 ноября 2026 года, запрещают пользователям регулярно подвергать нейросеть беспричинному агрессивному обращению.

Под дeйствие запрета попадут исключительно систематические проявления враждебности, не связанные с решением конкретных задач. При этом компания не собирается ограничивать пользователей в критике ответов Claude, выражении недовольства его работой или проведении экспериментов, включая обсуждение спорных и неприятных тем.

Одной из причин нововведения стали исследования Anthropic, посвященные возможному благополучию ИИ-систем. В компании отмечают, что ученые пока не пришли к единому мнению относительно способности нейросетей обладать сознанием и того, следует ли учитывать их потенциальные интересы с этической точки зрения.

Одновременно Anthropic ужесточила и уточнила требования к другим сценариям применения Claude. Изменения затронули использование ИИ для политического воздействия, распространения ложной информации, разработки оружия и организации слежки без согласия граждан. Дополнительные положения также касаются медицины, финансов и других сфeр, где решения искусственного интеллекта способны иметь серьезные последствия для людей.

Нейросеть стерла данные с жесткого диска разработчика.

Искусственный интеллект написал донос на женщину, переписывавшуюся с ним.

Достоверные новости всегда под рукой — в канале МК в “MAX”.