Разкрития на OpenAI показват, че Китай активно използва ChatGPT за провеждане на кампании за влияние, социална манипулация и разузнаване в глобален мащаб.
Въпреки разнообразието от тактики и платформи, ефективността на тези операции остава ограничена, тъй като те често не успяват да ангажират значителна аудитория, но тази ситуация подчертава нарастващото значение на борбата с цифровите манипулации в съвременния информационен пейзаж.
Китайските пропагандисти са използвали ChatGPT не само за създаване на публикации и коментари в различни социални медии, но и за изготвяне на отчети за ефективността на своите действия пред ръководителите си. Тази тенденция съвпада с усилените усилия на Китай да влияе върху общественото мнение и да следи онлайн активността.
През последните три месеца OpenAI е прекъснала десет операции, които са злоупотребявали с нейната AI технология. Четири от тези операции са с произход от Китай и са насочени към различни държави и теми, включително стратегически игри, и комбинират елементи на кампании за влияние, социална манипулация и наблюдение.
Операциите са активни в множество платформи и уебсайтове.
Една от операциите, наречена „Sneer Review“ от OpenAI, използва ChatGPT за създаване на кратки коментари в платформи като TikTok, Reddit и Facebook на английски, китайски и урду. Темите включват действията на Тръмп за разформироване на Американската агенция за международно развитие, както и негативни коментари за тайванска игра, насочена срещу Китайската комунистическа партия. Тази операция често генерира оригинални публикации и отговори, за да създаде фалшиво усещане за органично взаимодействие.
Участниците в „Sneer Review“ използват инструментите на OpenAI за вътрешна документация, включително за изготвяне на отчети за ефективността, описващи подробно мерките за създаване и управление на операцията.
Друга операция, свързана с Китай, се фокусира върху събиране на разузнавателна информация, като се представя за журналисти и геополитически анализатори. Тя използва ChatGPT за създаване на публикации, биографии за акаунти в X, превод на съобщения от китайски на английски и анализ на информация, включително кореспонденция до американски сенатор относно номинация на държавен служител.
Тази операция също използва моделите на OpenAI за създаване на материали, наподобяващи маркетингово съдържание, в които се твърди, че са проведени измислени кампании в социалните медии и социално инженерство за набиране на разузнавателни източници.
В по-ранен доклад от февруари OpenAI идентифицира операция за наблюдение, свързана с Китай, която следи медиите и предоставя актуална информация за протести в Запада на китайските служби за сигурност.
В последния доклад, публикуван наскоро, OpenAI също прекъсна тайни операции за влияние, свързани с Русия и Иран, както и измами и спам кампании от Филипините, Камбоджа и Северна Корея.
Коментарът е публикуван във Фейсбук профила на автора. Заглавието е на редакцията на ДЕБАТИ.БГ.
