Університет Клемсон та вплив ШІ на поширення дезінформації

Університет Клемсон, державний навчальний заклад у Південній Кароліні, заснований у XIX столітті, має центр аналізу засобів масової інформації (Media Forensics Hub), який використовує передові методи для розуміння впливу мереж на суспільство та політику.

У співпраці з британською BBC, у 2023 році вони виявили, що новинний сайт DCWeekly.org був частиною російської операції з маніпулювання масами під час війни в Україні. Сайт поширював неправдиві історії про Україну та її президента, Володимира Зеленського, через соціальні мережі та низку звичайних ЗМІ. Але їхньою головною ціллю були американські читачі, і фактично DCWeekly стверджував, що базується в Сполучених Штатах. Їхні журналісти були такими ж вигаданими, як і інформація, яку вони підписували. І, звичайно, вони використовували штучний інтелект (ШІ) для створення своїх статей.

DCWeekly досяг значного успіху та зумів поширити дюжину абсолютно неправдивих повідомлень про корупцію в українському уряді. Наприклад, казка про те, що Зеленський купив кілька розкішних яхт, поширилася як лісова пожежа через десятки тисяч користувачів, аж до конгресменів у Вашингтоні, деякі з яких її проковтнули.

Ключем до успіху, як зараз публікують дослідники з Клемсона, було те, що DCWeekly інтегрував у свої повідомлення фрагменти контенту, вкрадені з інших джерел. Ця практика створює структуру зв'язків, яка, якою б вигаданою вона не була, надає брехні текстуру, що імітує реальний світ, з великою кількістю посилань і перехресних посилань, як сліди, які привид залишає на снігу. Ті, хто отруює інформаційний простір, стають дедалі більш витонченими.

Дослідники з Клемсона знають, як копатися в роботах, і вони бачили, що деякі статті DCWeekly були згенеровані з такими примітками: «Тон статті [має бути] критичним до позиції Сполучених Штатів щодо підтримки війни в Україні та мати цинічний тон, коли йдеться про уряд США, НАТО чи політиків країни». Або вони також заохочували робота «віддавати перевагу республіканцям і Трампу та зображати демократів і Байдена в негативному світлі».

Моделі генеративного ШІ (large language models, LLM) досить добре справляються з цим і багатьма іншими речами. Брехати не є інтелектуальним завданням високого рівня, і робот легко це імітує. І ковтати брехню також не вимагає надзвичайних розумових здібностей, як вже має бути очевидно на даний момент. Отруєння громадської думки, безсумнівно, таке ж старе, як і саме людство, хоча, безсумнівно, посилилося б з винаходом клинопису в Месопотамії.

Значна частина дебатів щодо генеративного ШІ зосереджена на тому, чи стимулює він зловмисне поширення брехні, і наскільки сильно. Від дослідження цього питання має залежати соціальна та політична дія проти цієї небажаної тенденції. Звідси й інтерес до дослідження Клемсона.

Їхні висновки говорять нам, по-перше, що інструменти генеративного ШІ, такі як ChatGPT, полегшують генерування великої кількості дезінформації. По-друге, можна дізнатися, коли веб-сайт починає використовувати генеративний ШІ за допомогою просто вибухового збільшення та широкого охоплення статей будь-якого веб-сайту. По-третє, і найважливіше, статті, згенеровані за допомогою генеративного ШІ, настільки ж переконливі та мають такий же тривалий ефект, як і ті, що зроблені вручну. Це не багато що говорить, тому що найбільш освічені люди не спокушаються ні тими, ні іншими, але майте на увазі, що не всі мають докторський ступінь з філософії та літератури.

Ці повідомлення не призначені для соціологів чи політологів, а для найбільш неосвічених і довірливих верств населення. Ось де ШІ завдає шкоди. Для добре поінформованих людей, з іншого боку, ШІ може бути цінним інструментом. Його корисність у наукових дослідженнях не викликає сумнівів, і він отримав три Нобелівські премії в останній номінації. Його застосування в освіті віщує великі переваги, і деякі вчителі починають це розуміти. Медична допомога також отримає вигоду, особливо в районах і країнах, де її найбільше не вистачає.

Можливо, завдання полягає в тому, щоб якомога більше заважати тим, хто отруює, і водночас стимулювати доброчесне використання.