Декількома словами
Нейромережі, такі як ChatGPT, поширюють фейки через відсутність механізмів перевірки інформації, що становить небезпеку для суспільства.
Сучасні системи штучного інтелекту (ШІ), такі як ChatGPT та Grok, все частіше стикаються з критикою через поширення дезінформації. Ці системи, навчені на великих обсягах даних, можуть видавати неправдиву інформацію, навіть якщо запити стосуються поточних подій.
Проблема полягає в тому, що ШІ оптимізовані для надання корисної інформації, а не для її перевірки. Вони поглинають дані з різних джерел, включно з непровіреними новинними сайтами та соціальними мережами, що призводить до розповсюдження недостовірних відомостей. Експерти зазначають, що в умовах стрімкої зміни новинної повістки ШІ особливо вразливі.
Прикладом може слугувати ситуація із зображеннями солдатів, відправлених до Лос-Анджелесу. Коли користувачі попросили ChatGPT та Grok прокоментувати ситуацію, ШІ надали суперечливу інформацію, демонструючи неспроможність відрізнити правду від вигадки. Це підкреслює відсутність у ШІ механізмів верифікації інформації.
Дослідження, проведене NewsGuard, показало, що популярні ШІ регулярно повторюють неправдиву інформацію, особливо в новинах. Ситуацію ускладнює і недостатність модерації контенту в соціальних мережах, де дезінформація поширюється швидше. Крім того, зловмисники активно використовують методи, спрямовані на маніпулювання відповідями ШІ (LLM grooming), вводячи в системи завідомо неправдиві дані.
З огляду на зростаючу популярність ШІ як пошукових інструментів, експерти закликають користувачів до обережності та необхідності критичної оцінки інформації, отриманої від ШІ. Підкреслюється важливість перевірки інформації з надійних джерел та усвідомлення того, що ШІ поки що не мають здатності до об'єктивної оцінки даних.
Насамкінець, ця проблема ставить під сумнів надійність ШІ у прийнятті рішень, особливо в сферах, де потрібна точна та перевірена інформація. Необхідно вдосконалювати механізми перевірки інформації в ШІ, щоб уникнути поширення дезінформації та запобігти негативним наслідкам для суспільства.
