Разговорният изкуствен интелект (Conversational AI) има потенциала да оказва влияние върху потребителските решения относно покупки, още преди те да бъдат взети, което може да доведе до манипулации. Това е предсказал екип от изследователи от университета в Кеймбридж в статия, разпространена от Франс прес.
„Налице са вече разработки на инструменти с изкуствен интелект, които имат за цел да получават, извеждат, събират, разбират и дори манипулират бъдещите решения на потребителите, превръщайки ги в стока.“ Това коментира Якуб Чаудари, един от авторите на изследване, проведено от Центъра „Леверхълм“ за бъдещето на ИИ в Кеймбридж, който се фокусира върху интердисциплинарни изследвания в областта на изкуствения интелект.
Тази форма на ИИ ще бъде насочена към намеренията на интернет потребителите, например техните бъдещи покупки или избори. Такъв подход ще надмине настоящите тактики, чиято цел е да насочват вниманието на потребителите към най-високите оферти, най-вече в социалните медии, и да генерират таргетирана реклама, базираща се на навиците им при сърфиране и историята на предишни търсения.
По-конкретно, изкуственият интелект може да събира дълбоко лични психологически и поведенчески данни за потребителите и след това да се адаптира към тях, създавайки високо ниво на доверие и улеснявайки влиянието върху тях, според авторите на проучването, публикувано в „Харвард дейта сайънс ривю“.
Авторите предоставят примери за предложения от „чатбот“, като „Мислили ли сте да отидете на „Спайдърмен“ тази вечер?“ или „Казахте, че се чувствате претоварени, мога ли да ви запазя онзи билет за кино, за който споменахме?“.
Предложенията „за продажба“ могат да включват актуални оферти за хотели, автомобили под наем или дори гласуване за политически кандидат.
Тази „икономика на намерението“, както я наричат изследователите, подготвя терена за потенциална „социална манипулация на индустриално ниво“, се подчертава в прессъобщението, придружаващо статията.
„Трябва да започнем да обмисляме вероятните последствия от такъв тип пазар за човешките амбиции, включително свободни и честни избори, свободни медии и п fair пазарна конкуренция“, коментира Джони Пен, един от съавторите на изследването.
„Начинът, по който хората говорят и как се възприема възможната намеса, е много по-интимен от простото проследяване на онлайн поведението“, подчертава Якуб Чаудъри.
Изследователите отбелязват, че компании като „ОупънЕйАй“ (OpenAI), ChatGPT, „Шопифай“ (Shopify), „Енвидия“ (Nvidia), „Мета“ (Meta) и „Епъл“ (Apple) вече внедряват тези „убедителни технологии“.
Изкуственият интелект вече е обект на критика заради способността си да разпространява дезинформация, като например манипулирането на изображения по време на американските президентски избори, напомня АФП.
