Відео, яке показує відбудовану смугу Гази як розкішний курорт

Відео, яке показує відбудовану смугу Гази як розкішний курорт, де президент Дональд Трамп п'є коктейлі з прем'єр-міністром Ізраїлю Беньяміном Нетаньягу, викликало обурення не лише своїм змістом, а й способом створення. Соло Авіталь, творець відео з використанням штучного інтелекту, здатного створювати новий контент за допомогою передових моделей — генеративного ШІ — попередив про ризики, які ця комп'ютерна система може становити для людства.

За його словами, генеративний ШІ можна порівняти з радіоадаптацією «Війни світів», зробленою Орсоном Веллсом у 1938 році. У цій передачі Веллс представив ймовірне вторгнення марсіан у Нью-Джерсі як випуск новин у реальному часі, що викликало паніку серед радіослухачів. В інтерв'ю The New Yorker Авіталь уявив, що така ж ситуація може статися з відео «Трампа, який оголошує про початок третьої світової війни та щойно запустив ядерну зброю в бік Росії». З огляду на темпи розвитку генеративного ШІ, швидкість, з якою можна створювати цей тип контенту, дозволяє за лічені години створювати відео з точністю, яка все ближче наближається до реальності.

Саме це сталося з Авіталем. Американський режисер, який народився в Ізраїлі, створив відео на початку лютого разом зі своїм партнером і співвітчизником Аріелем Вроменом, щоб експериментувати з новим програмним забезпеченням генеративного ШІ, розробленим компанією Arcana Labs, що базується в Лос-Анджелесі. Це зайняло у них лише вісім годин, «за один присід і за двома чашками кави», – розповів він в інтерв'ю BBC. The New Yorker він розповів, що мета була сатиричною, щоб «надати палестинцям розкішний спосіб життя в стилі Дубая» та іронічно торкнутися мегаломанії Трампа. Зважаючи на все, Авіталь дав зрозуміти, що він не «повністю проти» плану створення Рів'єри на Близькому Сході: «Що, якби Трамп дійсно захопив Газу? Я маю на увазі, це не погана ідея», хоча він уточнив, що це не «реалістична» пропозиція, якщо вона не включає палестинців.

Відео було поширене його творцями серед деяких друзів і родичів, після чого його партнер завантажив його у свій обліковий запис Instagram, де воно протрималося лише пару годин. «Я думав, що у нас будуть проблеми з президентом, я думав, що ми образимо Білий дім», – сказав Авіталь у розмові з BBC. Він не передбачив, що Дональд Трамп поділиться ним в акаунті, який він має у своїй соціальній мережі Truth Social, яку він перетворив на свого роду офіційний канал свого уряду, де у нього трохи більше дев'яти мільйонів підписників.

«Уявіть, якби ми витратили на це більше восьми годин. За тиждень ви не зможете визначити, чи це відео, зроблене за допомогою ШІ, чи відео, яке було знято», — сказав Авіталь громадському радіо Сполученого Королівства. Вже було кілька зображень і відео, створених за допомогою цього типу генеративного ШІ, які користувачі в соціальних мережах вважали правдивими, як-от зображення Папи Франциска, одягненого в білу куртку Balenciaga у 2023 році. Однак політичне використання цього програмного забезпечення стає все більш поширеним. Лише цього четверга Народна партія викликала скандал, опублікувавши відео, зроблене за допомогою генеративного ШІ — під назвою «Острів корупції» — на якому президент Педро Санчес був зображений на острові, де була зображена карта Домініканської Республіки поруч із прапором країни.

Акаунт Arcana Labs в Instagram показує технічний рівень програмного забезпечення, розробленого компанією. Кілька їхніх відео показують людей, елементи та фантастичних персонажів, які навряд чи можна ідентифікувати як підроблені. «Розроблено голлівудськими режисерами», — йдеться в біографії компанії. Авіталь, один із тих продюсерів, для яких створена модель ШІ, наполягає на тому, що саме як режисер він створив відео: «Ми оповідачі, а не провокатори», — сказав він британській газеті The Guardian. За його словами, Трамп опублікував відео без сатиричного контексту, який мали на увазі його творці, і зробив це без їхньої «згоди чи відома».

Європейський Союз вирвався вперед у регулюванні ШІ, хоча відстає в гонці за його створення. Лише в липні 2024 року Брюссель опублікував Регламент (ЄС) 2024/1689 про штучний інтелект, метою якого є раціоналізація використання ШІ та забезпечення того, щоб його використання здійснювалося відповідно до цінностей і основних прав ЄС. Зважаючи на все, швидкість, з якою розвивається ця вдосконалена модель штучного інтелекту, загрожує застаріти будь-які спроби її регулювання.