Разработчик создал «машину пропаганды» на базе искусственного интеллекта. Как она работает и для чего была создана

Разработчик под ником Nea Paw на базе чат-бота ChatGPT реализовал мощную «машину пропаганды». Проект получил название «CounterCloud». На его создание ушло два месяца, а ежемесячная стоимость эксплуатации составляет всего 400 долларов.

В своем видеоролике на YouTube автор рассказал как создавался проект и для чего он был сделан. Основной посыл заключался в том, чтобы показать насколько быстро и дешево с помощью технологий искусственного интеллекта можно создать эффективный инструмент по массовой дезинформации и пропаганде.

Paw сказал, что они начали с ввода «противоположных» статей в ChatGPT и написания подсказок, предписывающих ему написать встречную статью. Затем ИИ-бот предлагал различные примеры одной и той же статьи, написанные разными стилями и с разными точками зрения. Это происходило путем «создания фейковых историй и исторических событий, а также сомнения в точности оригинальной статьи.» Затем был добавлен модуль gatekeeper, чтобы искусственный интеллект реагировал только на наиболее релевантный контент.

Для наиболее яркого эффекта авторы проекта добавили озвучку фейковых материалов с использованием голосов дикторов новостей. Кроме этого были созданы фейковые профили журналистов и использовались фейковые комментарии под некоторыми статьями. Затем системе было поручено лайкать и репостить сообщения, соответствующие ее сюжету, или писать «контрольные» твиты пользователям, которые не соглашались с ней.

Через два месяца получилась полностью автономная система, работающая на искусственном интеллекте, которая генерировала «убедительный контент в 90% случаев, 24 часа в сутки, семь дней в неделю».

Однако создатели пока не запустили модель в интернете, потому что «это означало бы активное распространение дезинформации и пропаганды». Авторы проекта отметили, что CounterCloud создан с образовательной целью, чтобы общество понимало как работают такие системы.