OpenAI виявила, що росія використала Chat GPT для проведення масштабної кампанії з дезінформації

Російська кампанія Doppelganger за допомогою штучного інтелекту від OpenAI створювала антиукраїнські коментарі у соціальній мережі X (Твіттер Ілона його Маска). OpenAI виявила кампанії прихованого впливу, до яких приєдналися державні структури та приватні компанії в Росії, Китаї, Ірані та Ізраїлі.

У своєму звіті OpenAI заявила, що її інструменти використовувалися в впливових кампаніях, які дослідники відслідковували роками, включаючи російську кампанію під назвою Doppelganger і китайську кампанію під назвою Spamouflage.

Doppelganger використовувала технологію OpenAI для створення антиукраїнських коментарів, розміщених на платформі X англійською, французькою, німецькою, італійською та польською мовами.

Під час п’яти кампаній різної тривалості chat gpt генерував маніпулятивні коментарі з метою впливу на громадську думку в усьому світі.

Операції використовували технологію OpenAI для таких речей:

• створення постів у соціальних мережах,
• переклад та редагування статей,
• написання заголовків
• налагодження комп’ютерних програм.

Інструменти OpenAI також використовувалися для перекладу та редагування статей, які підтримували росію у війні в Україні, а також для конвертації антиукраїнських матеріалів у пости на Facebook.

Експерти зазначили, що це перший випадок, коли велика ШІ -компанія повідомляє про використання своїх технологій у зловмисних цілях.

Тим не менш, в OpenAI підкреслюють, що хоча чат гпт і може допомогти зробити кампанії більш ефективними, потоку переконливої ​​дезінформації так і не було створено.

Так в ОпенАІ ймовірно намагалися заспокоїти користувачів і громадськість проти безконтрольного розвитку ШІ. Але можемо сказати що Росія просто використовувала мало ресурсів, програмуючи не найвитонченіші промти для контенту.