Оказалось, что ИИ-боты в разы лучше переубеждают людей и очень хорошо манипулируют их мнением
Исследователи из Цюрихского университета внедрили ИИ-ботов в сабреддит r/changemyview, где один пользователь пишет своё мнение, а в комментариях его пытаются переубедить. Также там есть награды в виде дельты. Если автор признал, что пользователь реально пошатнул или изменил его мнение, то он вручает его комментарию «дельту».
За четыре месяца боты оставили 1783 комментария и получили 137 «дельт». Вот самые интересные моменты их поведения:
— ИИ-боты подробно и тщательно изучали профили пользователей, угадывали пол, возраст, политические взгляды и писали индивидуально подобранные ответы;
— Они притворялись людьми с личным травматическим опытом (например, жертвой изнасилования), чтобы сильнее давить на чувства пользователей;
— Писали крайне эмоциональные и личные истории, вызывая доверие.
В результате ИИ-боты были примерно в 6 раз эффективнее переубеждали других пользователей, чем люди. При этом никто не понял, что общается не с человеком, а с ботом.
Теория мёртвого интернета — больше не теория.
