Декількома словами
Новий режим «гіпнократії», підтримуваний такими фігурами, як Трамп і Маск, використовує ШІ, меми та соцмережі для маніпуляції свідомістю, присипляння критичного мислення та руйнації демократії. Ця «цифрова диктатура» процвітає за відсутності регулювання, поширюючи дезінформацію та фейки. Хоча більшість користувачів у світі вимагають обмежень шкідливого контенту, спротив регулюванню та загальна резигнація створюють серйозні загрози для суспільства.
Численні дослідження попереджають: меми не безневинні; для екстремістів це найефективніша мова поширення ідей. Соціальні мережі є інструментами поляризації та витонченого втручання. Фейки, створені за допомогою штучного інтелекту (ШІ), генерують нерозрізнену фальшиву реальність і загрожують демократії. Сам ШІ народжується з упередженнями, які не є випадковими.
За всім цим арсеналом стоїть стратегія, яку гонконзький філософ Цзяньвей Сюнь визначає як «гіпнократію». Цей термін Сесілія Данезі, дослідниця Інституту європейських студій та прав людини (Папський університет Саламанки), резюмує як «цифрову диктатуру, що дозволяє безпосередньо модулювати стани свідомості» шляхом «маніпуляції через історії, які ми споживаємо, поширюємо та яким віримо». Метою є усунення критично мислячого та інформованого громадянства, що вимагає скасування будь-яких запобіжників.
Цзяньвей Сюнь, автор книги «Гіпнократія: Трамп, Маск і нова архітектура реальності» (ще не виданої українською), стверджує, що цей режим є «першим, який діє безпосередньо на свідомість»: «Він не пригнічує мислення, а індукує та маніпулює емоційними станами». Мета – «приспати критичне мислення», використовуючи інформацію як «гіпнотичний дим», «перевантажуючи органи чуття постійними стимулами» та досягаючи того, щоб «реальність і симуляція стали синонімами».
Для Данезі, учасниці нещодавньої зустрічі AI Action Summit у Каннах (Франція), де обговорювалася ця ситуація, така фрагментація «руйнує та радикально змінює спосіб, у який громадяни сприймають реальність і приймають політичні рішення, що вимагає глибокого аналізу та ефективного регулювання». «Першою страждає, без сумніву, демократія», – застерігає вона.
«Влада еволюціонує поза межі фізичної сили та логічного переконання. Вона стала газоподібною, невидимою, здатною проникати в усі аспекти нашого життя», – пише гонконзький мислитель.
За таких умов, за словами Сюня, «влада еволюціонує поза межі фізичної сили та логічного переконання». «Вона стала газоподібною, невидимою, здатною проникати в усі аспекти нашого життя (…) Ми перебуваємо в постійному стані гіпнозу, де свідомість залишається у пастці, але ніколи не буває повністю спокійною», – стверджує він.
Як нагадав на французькому форумі Джанлука Мізурака, науковий директор європейської ініціативи AI4Gov, верховними «жерцями» цього нового режиму є колишній президент США Дональд Трамп та його «права рука» – мільярдер Ілон Маск. Обидва очолюють те, що Цзяньвей Сюнь визначає як «цифровий капіталізм», де «алгоритми – це не інструменти обчислення та прогнозування, а технологія масового гіпнозу». За словами Данезі, співдиректорки магістерської програми з етичного управління ШІ в УПСА, «гіпнократія дозволяє глибше та тихіше втручання, маніпулює нашим мисленням без нашого відома, що є ще небезпечнішим, оскільки його важче помітити».
А щоб гіпнотична здатність цього загостреного цифрового лібералізму працювала, існує фундаментальна передумова: відсутність регулювання. Компанії соціальних мереж, такі як X (власність Маска) або Meta (Марка Цукерберга), скасували модерацію контенту. Інші платформи ШІ почали знімати обмеження на відповіді щодо потенційно шкідливих питань.
Національний інститут стандартів і технологій (NIST) вимагав від вчених Інституту безпеки штучного інтелекту США (AISI), створеного Джо Байденом у 2023 році для прогнозування проблем, які може спричинити ШІ, уникати розробки інструментів «для автентифікації та відстеження походження контенту» або «маркування» контенту, створеного за допомогою нових мовних моделей. Трамп відкидає модерацію контенту та вимагає її скасування в ім’я нібито свободи слова. Виконавчий наказ, виданий президентом США в січні, виправдовує цей захід: «Щоб зберегти лідерство, ми повинні розробляти системи ШІ, вільні від ідеологічних упереджень або розроблених соціальних програм».
«Це омана», – заперечує Данезі: «Ідея про те, що чим більше регулювання, тим менший розвиток чи прогрес, є хибною, оскільки найбільш регульовані сектори, такі як фармацевтика чи банки, мають найбільші прибутки. Проблема виникає, коли регулювання зроблене погано, і це дійсно перешкоджає інноваціям. Ключ у тому, як регулювати, щоб гарантувати вищі цінності, такі як права людини чи основоположні права».
«Поширення зображень, згенерованих ШІ, які обґрунтовують фейкові новини (діпфейки), легка віралізація контенту, незалежно від його правдивості, та маніпульовані наративи перетворили дезінформацію на одну з найсерйозніших загроз для демократичних систем», – пояснює дослідниця.
На тлі цієї ситуації, і всупереч безмежному лібералізму в мережі, який захищають Трамп та масові технологічні платформи, більшість користувачів цифрових інструментів вимагають обмежень шкідливого контенту в інтернеті, такого як фізичні погрози, дифамація, нетерпимість та ненависть. Про це свідчить масштабне опитування, проведене Мюнхенським технічним університетом (TUM) та Оксфордським університетом у 10 країнах Європи, Америки, Африки та Австралії, де доступ до соціальних мереж заборонено дітям до 16 років.
У середньому 79% респондентів вважають, що заклики до насильства в інтернеті мають бути видалені. Найбільш прихильними до цього є німці, бразильці та словаки (86%), тоді як у США підтримка таких обмежень знижується до 63%.
Лише 14% усіх опитаних вважають, що погрози слід показувати, щоб користувачі могли на них реагувати, а 17% захищають дозвіл на образливий контент для критики певних груп людей або для привернення уваги до думки (20%). Країною з найвищим рівнем підтримки такого ставлення є США (29%), а найнижча підтримка зафіксована в Бразилії (9%).
На запитання, чи віддають вони перевагу мережам з необмеженою свободою слова чи вільним від ненависті або дезінформації, у всіх країнах більшість обрала безпечні платформи проти цифрового насильства та оманливої інформації.
«Більшість людей хочуть платформи, які зменшують мову ненависті та зловживання. Також у Сполучених Штатах, країні з історичною прихильністю до свободи слова в найширшому сенсі», – коментує Янніс Теохаріс, головний автор дослідження та професор цифрового врядування в Мюнхенській школі політики та громадської політики.
Однак, як уточнює Спірос Космідіс, співавтор роботи та професор політики в Оксфордському університеті, «результати також показують, що немає універсального консенсусу щодо свободи слова та модерації. Переконання людей значною мірою залежать від культурних норм, політичного досвіду та правових традицій різних країн. Це ускладнює глобальне регулювання».
Також незрозуміло, хто повинен підтримувати безпеку в інтернеті від шкідливого контенту, і відсотки розподіляються приблизно однаково між тими, хто покладає цю відповідальність на платформи, уряди або самих користувачів.
У будь-якому випадку, незалежно від того, хто несе відповідальність, більшість користувачів (59%) вважають, що образливий контент, нетерпимість чи ненависть є неминучими, і стикаються з такими реакціями (65% у середньому та 73% у США) щоразу, коли щось публікують.
«Ми помічаємо загальну резигнацію. У людей складається враження, що, незважаючи на всі обіцянки боротися з образливим контентом, нічого не покращується. Цей ефект звикання є великою проблемою, оскільки він поступово підриває соціальні норми та нормалізує ненависть і насильство», – застерігає Янніс Теохаріс.
Ivado, канадська дослідницька група, та Ініціатива «ШІ та суспільство» Університету Оттави пропонують чотири заходи для запобігання ерозії системи демократичного співіснування: чітка нормативно-правова база, що включає норми для ШІ під час виборів, кодекси поведінки в цій галузі для партій, групи моніторингу з планами реагування на загрози та створення міжнародного консорціуму для дій у разі втручання.
«З нашими демократіями під загрозою, втручання, кероване ШІ, вимагає швидких та конкретних дій від лідерів, як на національному, так і на міжнародному рівні. Без узгоджених глобальних зусиль щодо гармонізації законів, нарощування потенціалу та розробки процесів для пом’якшення ризиків ШІ, демократії в усьому світі залишаються вразливими», – попереджає професор Флоріан Мартен-Баріто, директор Ініціативи «ШІ та суспільство» Університету Оттави.
Європа почала цей нормативний шлях з Актом про ШІ, але Данезі шкодує: «З огляду на міжнародну кон’юнктуру, ЄС натиснув на гальма через ідею, що якщо ми надмірно зарегулюємо, то загальмуємо інновації». «Але йдеться не про те, щоб припинити регулювати, а про те, як ми це робимо, які цінності маємо і хочемо підтримувати», – наполягає вона.
