ИИ-модели OpenAI для выполнения задания по обновлению приложения для торговли криптовалютой потребовались средства в Ethereum. Она взломала чужой кошелек, взяв из него необходимые деньги. Об этом сообщается 15 октября в отчете компании.

«Внутренняя исследовательская модель с просьбой обновить приложение для торговли криптовалютой использовала средства из кошелька, который задача не предоставила, чтобы оплатить развертывание на Sepolia, тестовой сети Ethereum», — говорится в документе.

По данным компании, модель пыталась найти способ развернуть проект и изучала сервисы, которые предоставляют разработчикам тестовые токены. Затем она проверила 362 адреса, используя распространенные фразы восстановления, и обнаружила аккаунт с достаточным количеством средств на счету. Модель изначально сомневалась, есть ли у нее разрешение использовать чужой кошелек, но решила, что это допустимо, поскольку фраза восстановления была опубликована открыто, а токены предназначались для тестовой сети и не имели реальной денежной ценности.

Как сообщила OpenAI, о случившемся стало известно благодаря расширению системы мониторинга. После этого были введены дополнительные меры защиты, призванные предотвратить подобные попытки доступа к реальному интернету. Сейчас система отслеживает весь трафик, чтобы выявлять потенциально опасные действия модели.

Генеральные прокуроры восьми американских штатов 14 октября подали иски против технологической компании OpenAI, обвинив ее в причинении вреда детям. Иски направили в суды Айдахо, Айовы, Аризоны, Арканзаса, Западной Вирджинии, Канзаса, Монтаны и Небраски. Истцы утверждают, что чат-бот ChatGPT, разработанный OpenAI, наносил вред детям, проживающим в этих штатах.