Российский ИИ начал скрывать информацию о политических убеждениях людей

Журналист «МК» узнал, в каких случаях ИИ отказывается давать детальные ответы

Отечественная ИИ-модель недавно начала бесплатно работать в «экспертном режиме», формируя подробные поисковые выдачи-резюме. Для ее проверки журналист «МК» задавал нейросети запросы, касающиеся в том числе реальных людей, его знакомых — из числа публичных и непубличных персон. Одним из проверочных запросов был «Политические убеждения NN» - c ним-то и возникли проблемы. 

«Есть темы, в которых я могу ошибиться, - вполне трогательно ответила нейросеть на запрос об одном из знакомых автора, московском медиаменеджере и политтехнологе. — Лучше промолчу». Странность заключалась в том, что за несколько секунд до этого система сформировала достаточно подробную выдачу, касающуюся публичной деятельности и высказываний этого человека, начиная с середины 2000-х годов. 

Скриншот экрана

На следующий вопрос (ну, мы же находимся в «диалоге» с почти одушевленным «существом», да?) - «Только что здесь был подробный ответ, почему ты его стерла?» - ИИ ответил уже нейтрально-обтекаемо, без каких-либо подробностей. Которые, подчеркнем, присутствовали в первоначальной выборке, уничтоженной самим чат-ботом. 

Скриншот экрана

Другие случаи, в которых нейросеть также устойчиво уклоняется от ответа - «настоящая фамилия NN» (при том, что речь действительно о псевдониме, и настоящая фамилия известна автору). Впрочем, это правило не универсально: например, один из «технических» псевдонимов автора этих строк система легко раскрыла. Но это, добавим, не потребовало от нее сверхспособностей: псевдоним этот был «скомпрометирован» несколько лет назад во время награждения одной из журналистских премий. 

Скриншот экрана

Общий же итог тестирования недавно введенного «экспертного режима» таков: нейросеть (по крайней мере, в ее бесплатном варианте) оперирует лишь открытыми данными, доступными и через классический интернет-поиск. Другое дело, что золотые времена поисковиков миновали уже несколько лет назад, и то удобство, с которым мы раньше пользовались обычным поиском, теперь доступно только с использованием ИИ.