Вы думаете, что просто обсуждаете с чат-ботом рецепты, рабочие задачи или планы на выходные? На самом деле искусственный интеллект методично создает ваш психологический и поведенческий портрет. Как предупреждает заведующий лабораторией доверенного ИИ РТУ МИРЭА Юрий Силаев, системе достаточно всего месяца регулярного общения, чтобы узнать о вас больше, чем некоторые близкие друзья.

Анализируя запросы, паузы и реакцию на ответы, нейросеть вычисляет вашу профессию, уровень знаний, примерный доход и распорядок дня. Она понимает, есть ли у вас дети, какие темы вызывают у вас тревогу, и даже запоминает, в каком стиле вам проще всего объяснять информацию.

Персонализация – это палка о двух концах. Если вы описываете проблему однобоко (например, в семейном или рабочем конфликте), ИИ с готовностью подтвердит вашу правоту, усиливая вашу же предвзятость. Полагаться на такие «подтверждающие» советы в вопросах здоровья, личных финансов или юридических споров нельзя: алгоритм выдаст желаемое за действительное, пишет RT.

3 способа проверить, что о вас знает ИИ:

1. Сравнивайте ответы. Задайте один и тот же вопрос в старом, «обжитом» диалоге и в новом чате. Разница в ответах наглядно покажет, насколько сильно на бота влияет накопленный о вас контекст.

2. Спрашивайте прямо. Попросите бота: «Какие факты или допущения обо мне ты учел, формируя этот ответ?». Современные модели умеют честно перечислять свои выводы.

3. Проверяйте настройки памяти. Создание «нового чата» не всегда означает цифровую амнезию сервиса. Зайдите в настройки приватности и убедитесь, что функция сохранения истории диалогов отключена, если вы хотите начать с чистого листа.