Заведующий Лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев рассказал RT, что за месяц регулярной переписки нейросеть может составить подробное представление о человеке, включая сведения, которые он никогда не сообщал напрямую.

По словам эксперта, на основе пользовательских запросов ИИ способен делать предположения о профессии, интересах, финансовых ограничениях, распорядке дня и семейных обстоятельствах. Кроме того, система может учитывать особенности общения, подбирая наиболее понятные и убедительные для конкретного человека аргументы.

Силаев предупредил, что такая персонализация не гарантирует достоверности ответов. Если пользователь постоянно описывает ситуацию только со своей точки зрения, нейросеть может невольно укреплять его убеждения, вместо того чтобы помогать объективно оценивать проблему.

«Задайте значимый вопрос в привычном диалоге, а затем сформулируйте его заново в новом чате без предыдущего контекста. Если ответы заметно различаются, стоит посмотреть, какие предположения о вас повлияли на первый вариант», — посоветовал специалист.

Эксперт также рекомендует периодически проверять настройки памяти ИИ-сервисов и выяснять, какие сведения сохраняются между разговорами. Особенно важно независимо проверять информацию, касающуюся здоровья, финансов, права и других серьёзных решений, даже если ответ нейросети полностью совпадает с ожиданиями пользователя.