Це інтерв'ю було опубліковано в річному журналі проєкту «Тенденції» за 2024 рік, до того, як Meta оголосила про суттєві зміни в своїй політиці модерації контенту, тому в статті це питання не розглядається.

Каталіна Ботеро Маріно (Богота, 1965) протягом чотирьох років була однією з голосів дорадчої ради з питань контенту Meta (раніше Facebook), відомої як «Супер Суд» Facebook. Юристка, колишня Спеціальна доповідачка з питань свободи вираження поглядів Міжамериканської комісії з прав людини (МКПЛ), присвячує своє життя вивченню впливу технологічних платформ на права людини і не має жодної соціальної мережі.

Під час відзначення 45-річчя МКПЛ вона перерахувала дев'ять викликів цифрового середовища для цих прав і демократії, які говорять про найближче майбутнє: серед них захист персональних даних; свобода вираження поглядів онлайн; нейроправа; алгоритмічна дискримінація за допомогою штучного інтелекту (ШІ) та діпфейки – фальшиві відео, зображення або аудіо, які видають себе за іншу людину.

Запитання: Які були найбільші уроки та нові запитання за час вашого перебування в раді Meta?

Відповідь: Було дуже корисно зрозуміти складність модерації контенту в інтернеті та її величезні відмінності від того, як вирішуються справи про свободу вираження поглядів поза мережею. У модерації контенту, через швидкість і масштаб, питання про конкретний випадок полягає не в тому, яке рішення є найбільш справедливим, і це може звучати дивно, а в тому, з якою помилкою ми можемо жити. Я вперше сказала це близько чотирьох років тому і сьогодні підтримую це. Це, мабуть, був один з найважливіших уроків.

Запитання: Чи існує альтернатива?

Відповідь: Неможливо зупинитися і перевірити справедливість кожного конкретного випадку, оскільки платформи повинні робити це з величезною швидкістю і в гігантському масштабі. Що потрібно зробити, так це прийняти правила, які можна застосовувати дуже швидко і в яких, безумовно, будуть помилки, але альтернатива – мати конституційного суддю для кожного випадку – неможлива. Їх мільярди, і ви не можете мати людину, яка перевіряє кожен з них.

Запитання: Дорадча рада розглядалася як переломний момент в саморегулюванні. Чого вимагає нова реальність?

Відповідь: Це другий урок. Платформи, безумовно, повинні мати зовнішні та дійсно автономні органи, які можуть проникати в їхні надра та перевіряти їхню роботу. В іншому випадку командам з прав людини всередині компаній буде дуже важко взяти гору над фінансовими командами. Meta зробила цей крок, але потрібно зробити ще кілька. А є й інші платформи, такі як X, які відстають. В основному, X використовується її власником для власної політичної програми і з повною непрозорістю щодо того, як здійснюється модерація контенту. Перебуваючи в такій Раді саморегулювання, розумієш, які існують справжні обмеження щодо модерації в масштабі, а також те, що можна подолати зусиллями компаній.

Запитання: Що ці компанії можуть зробити на структурному рівні?

Відповідь: Рада з нагляду надала Meta приблизно 250 рекомендацій. Одна з них, наприклад, стосується особливої уваги, яку слід приділяти модерації контенту журналістів, правозахисників та представників опозиції, особливо в країнах із закритим політичним простором. Це було рекомендовано у випадку з Кубою, наприклад.

В авторитарних країнах платформи повинні прагнути захищати, особливо, критичні висловлювання, оскільки це єдиний простір, де люди можуть висловлюватися. Рада також рекомендувала, щоб у критичних ситуаціях у сфері охорони здоров'я, таких як пандемія COVID-19, компанія співпрацювала з іншими секторами, такими як охорона здоров'я та, загалом, наукова спільнота, щоб визначити, який тип контенту може завдати значної шкоди реальному життю людей, і вживала прозорих і пропорційних заходів, таких як маркування або, навіть, у випадках, коли це необхідно, видалення.

Запитання: Багато з цих висловлювань є неорганічними, а скоріше доданим контентом. Який можливий шлях для боротьби з такою зловмисною інформацією?

Відповідь: Доданий контент – це сукупність значної кількості контенту, який окремо може не завдати шкоди. Якщо людина каже іншій людині випити відбілювач, і у неї три-чотири підписники, це, ймовірно, не завдасть істотної шкоди. Але якщо сотні тисяч людей рекомендують це, через те, як працюють упередження, ви схильні думати, що це правда. Зазвичай це інформація, створена з метою дезінформації та поширювана суб'єктами, які мають особливі інтереси, використовують нелюдські взаємодії, ботів і спрямована на населення, схильне вірити в таку інформацію.

Запитання: У 2020 році ви сказали, що «бути невдячними до Facebook» – ваш обов'язок...

Відповідь: У Meta є принаймні три речі, яких немає в інших великих платформ. З одного боку, неймовірно потужна, технічно дуже підкована і віддана команда з прав людини. Вона створила такі механізми, як ця Рада, і, крім того, інвестувала ресурси в спроби здійснювати модерацію контенту з урахуванням місцевих ринків. Але є й труднощі, такі як те, що ця команда з прав людини не обов'язково має таку ж вагому вагу, як ті, хто визначає бізнес-модель. Ще багато чого потрібно зробити, щоб платформа відповідала моїм уявленням.

Запитання: І що вони повинні робити?

Відповідь: Платформи несуть відповідальність у сфері прав людини, і це має спонукати їх враховувати в кожному своєму дизайнерському рішенні не лише свої економічні інтереси, а й суспільні інтереси, які можуть бути порушені. Коли я кажу про суспільні інтереси, я маю на увазі міжнародне право прав людини і, загалом, демократичну систему. В Європі платформи зобов'язані, наприклад, проводити оцінку ризиків щодо своїх дизайнерських рішень. Це змусить їх включити в рівняння суспільні інтереси.

Я також вважаю, що різні платформи повинні бути повністю сумісними. Ідеалом справжнього конкурентного ринку, орієнтованого на користувачів, було б, наприклад, якщо користувач не готовий прийняти спосіб функціонування платформи, він міг би перейти зі своїми підписниками на іншу. Я знаю, що це технічно дуже складно, дехто стверджує, що це неможливо, і я знаю, що це повністю суперечить бізнес-моделі, але важливо подумати про заходи, які дозволять користувачам вибирати між різними пропозиціями, без непропорційних витрат, таких як втрата всієї спільноти або мережі, яку вони побудували. І для захисту впливу платформ на права людини вкрай важливо здійснювати більш ретельний нагляд і контроль за використанням систем штучного інтелекту.

Запитання: У Раді ви приймали рішення щодо складних справ. Які з них ви б виділили?

Відповідь: Справи глав держав були дуже цікавими. Важливо не лише визнавати, що глава держави може говорити, а люди слухати те, що він говорить, а й те, що він має владу та здатність створювати образи та генерувати насильство більше, ніж будь-який інший користувач. У випадку з Камбоджею, наприклад, платформі було рекомендовано оцінити можливість видалення облікового запису прем'єр-міністра, оскільки він використовував його, буквально, для залякування членів опозиції. Коли людина, яка є важливим впливовим діячем через свою здатність впливати на поведінку людей, підбурює до насильства або криміналізує опозицію, це підвищує ризик для людей, які її критикують, і використовує платформу всупереч її правилам.

Запитання: За цей період ви отримали справи, що стосуються нападу на Конгрес у Бразилії.

Відповідь: Був ідентифікований контент, який підбурював до насильницьких дій, таких як захоплення органів державної влади в Бразилії, на основі інформації, яка не мала жодного емпіричного обґрунтування, про те, що на виборах були шахрайства. Є країни, в яких крадуть вибори, а є країни, в яких ні. Різниця полягає в доказах. У Венесуелі зараз є докази того, що уряд програв вибори. У Бразилії ж вся виборча система працює. Однак були люди, які стверджували, що вибори були вкрадені, і що потрібно протестувати, навіть захопивши органи державної влади. Ми дали Meta низку рекомендацій щодо того, як контролювати дезінформацію у виборчих контекстах, особливо коли вона може призвести до насильства, як у випадку з Капітолієм у Сполучених Штатах або Бразилії.

Колумбійська юристка Каталіна Ботеро в Sofitel Ciudad de México 15 вересня 2024 року. Аджі Гардуньо

Запитання: Як пояснити те, що певний контент повинен поширюватися, навіть якщо він образливий?

Відповідь: Інформація може бути неприємною, тривожною та образливою, але якщо вона становить суспільний інтерес, то це важливіше для демократичного суспільства, ніж можлива шкода, яку може завдати інформація. Наприклад, журналістське розслідування злочинів корупції може завдати репутаційної шкоди політикам, які беруть у ньому участь, але це настільки важливо для демократичних суспільств, що захищається правом на свободу вираження поглядів. Якщо потім зацікавлена особа не згодна і вважає, що інформація є неправдивою, вона може попросити виправлення. Існує багато способів відновити порушене право згодом, але необхідно захищати можливість поширення інформації.

Запитання: Як встановити межі в цьому цифровому контексті?

Відповідь: Саме цифровий контекст ускладнює встановлення меж. Однак не вся інформація, яку людина поширює, має однаковий ефект. Сама людина в пустелі Сахара може кричати все, що завгодно, і це не має потенціалу завдати шкоди. Але якщо два мільйони людей кажуть, що в певному будинку, показуючи його місцезнаходження, живе хтось, хто вчинив сексуальне насильство над беззахисними дітьми, навіть якщо невідомо, чи є ця інформація правдивою чи неправдивою, це може завдати величезної шкоди в реальному житті. Ми бачили це кілька тижнів тому в Англії. Це було абсолютно непропорційно, навіть якби новина була правдивою.

Запитання: Ви якось сказали, що світ ділиться на дві групи: очисники інтернету і ті, хто вважає, що нічого не потрібно робити, як це, здається, відбувається в X.

Відповідь: Ілон Маск визначає себе як великого захисника свободи вираження поглядів. Але насправді він є захисником свободи вираження поглядів людей, які думають так само, як і він. X припинив публікувати звіти про прозорість, але ті, які були опубліковані, показали, що він був набагато поблажливішим до запитів на видалення контенту з боку урядів, таких як Індія чи Туреччина. Twitter чинив опір вимогам урядів з більш авторитарними тенденціями; X – ні. Маск поступається вимогам авторитарних урядів, але ставить під сумнів судові рішення, які можуть бути хорошими чи поганими, і має внутрішні ресурси в демократичних країнах. Я б не ставив X в крайність великих лібертаріанців. Інша річ – Deep Web, де циркулює все: порнографія, жорстоке поводження з тваринами, насильство над людьми, продаж зброї, наркотиків. Потім є центр, який каже, що інформацію не можна видаляти лише тому, що вона неприємна.

Запитання: А з іншого боку спектру – очисники...

Відповідь: Деякі люди вважають, що необхідно здійснювати більш жорстку модерацію. Це важко спростити, тому що тут є дві течії: ті, хто хоче, щоб в інтернеті бачили лише котиків і песиків, і, звичайно, це усуває всі звинувачення в корупції та порушення прав людини, з чим я не згодна. А є й люди, які роблять це, тому що хочуть усунути або очистити власну інформацію, вони не зацікавлені в її поширенні, як це намагалися зробити кілька політиків у Латинській Америці.

Запитання: Ми бачимо в соціальних мережах простори для суперечок між главами держав і власниками платформ, як це щойно сталося з Ніколасом Мадуро у Венесуелі.

Відповідь: Для блокування платформи необхідно мати надзвичайно вагомі демократичні підстави, що в праві називається «суворим тестом на пропорційність». У випадку з Венесуелою немає демократії, було закрито 500 засобів масової інформації, і лише в післявиборчий період було ув'язнено 12 журналістів. Немає жодної можливості висловити свою думку, крім як через соціальні мережі. В режимі Мадуро немає незалежної юстиції, ні належної правової процедури, тому неможливо гарантувати цей суд пропорційності.

Запитання: З іншого боку, є блокування X в Бразилії за наказом судді.

Відповідь: Бразилія, навпаки, є демократичною державою з незалежною судовою владою, яка поважає належну правову процедуру, хоча, як і в будь-якій демократії, може помилятися. Демократії гарантують не те, що судді не роблять помилок, а те, що вони застосовують певні гарантії. Ілон Маск повинен був скористатися наявними засобами оскарження рішення, з яким він не згоден. Twitter попросили про запобіжний захід для запобігання масовій дезінформації в Бразилії. Платформа прийняла його, але, коли Маск купив її, він почав приймати рішення, які порушують її власну політику, і відновив облікові записи особам, які підбурювали до насильства і переховуються від правосуддя. Йому виписали штраф, і він вирішив, що не буде його платити, перебуваючи в стані постійного непокори.

Запитання: Цей випадок породжує напругу між свободою вираження поглядів і необхідністю того, щоб компанії дотримувалися рішень.

Відповідь: Це рішення має походження, яке необхідно вивчити, і це непокора людини, яка вирішує, тому що у неї багато грошей, що вона може не виконувати закони країни. Це неправильно. По-друге, це рішення було прийнято після того, як були вжиті інші, менш обтяжливі заходи, і наприкінці процедури. По-третє, я вважаю, що це рішення є непропорційним, принаймні в тій частині, яка забороняє користувачам входити через VPN [віртуальну приватну мережу], щоб уникнути блокування, оскільки воно стосується людей, які не піддавалися належній правовій процедурі. І, нарешті, оскільки воно зачіпає мільйони користувачів, воно також є непропорційним. Головне питання полягає в тому, що може зробити демократична держава, коли власник платформи вирішує не підкорятися і порушувати правила власної мережі, а також демократичні норми країни.

Запитання: Це саме один з дев'яти викликів, які ви згадали перед МКПЛ.

Відповідь: Головний виклик полягає в тому, як створити механізми контролю над платформами, щоб вони не стали інструментами політичної влади, як це робить X сьогодні в Індії, наприклад; і щоб вони також не були інструментами, якими керує виключно бізнес-модель або репутаційні чи політичні інтереси власників платформ, а міжнародне право прав людини.

Запитання: Як досягти цієї мети?

Відповідь: Європа створила дуже важливу нормативну систему для управління платформами, яка виходить за рамки Закону про цифрові послуги. Деякі країни навіть вжили заходів для обмеження ринкової влади великих платформ, захисту надійних джерел інформації, таких як професійна преса, та сприяння плюралізму. Я вважаю, що необхідно докладати значних зусиль для підвищення сумісності, прозорості та гарантій належної правової процедури для користувачів. Одним із заходів, який може дати кращі результати, є створення зовнішніх аудитів з перспективи прав людини, здатних оцінювати вплив дизайнерських рішень на права людей, наприклад, на психічне здоров'я дівчат і хлопців, на людей з розладами харчової поведінки або, навіть, на саму демократичну систему.

Запитання: Насправді, ви також згадали інші виклики, які говорять про конкретний вплив на права людини. Який з них ви вважаєте найбільш нагальним?

Відповідь: Необхідно переосмислити захист даних. Які дані збирають платформи? Хто їх використовує? Для чого і як їх використовує? Це має бути прозорим. Ми повинні знову говорити про право на приватність. З тією величезною кількістю інформації, яку ми передаємо платформам, не лише соціальним мережам, а й платформам охорони здоров'я, транспорту чи співпраці, вони можуть складати профілі, досліджувати або шпигувати за людьми. Хто контролює ці дані? Як ними керують? Як їх адмініструють?

Запитання: Зараз, коли ми всі говоримо про штучний інтелект, виникають запитання про регулювання, створення діпфейків, упередження...

Відповідь: Системи штучного інтелекту здатні створити текст, який виглядає як найбільш надійний науковий текст, відео або аудіо, які, здається, точно відображають те, що сталося. Головне занепокоєння полягає в тому, що ці системи, які спотворюють реальність на основі реальних фрагментованих і маніпульованих даних, мають принаймні два наслідки. Перший полягає в тому, що вони можуть змусити людей ні в що не вірити і шукати притулку у власному упередженні підтвердження, чого прагнуть великі кампанії з дезінформації. Оскільки все ззовні є брехнею, ніщо не є правдою і всі докази є підозрілими, люди шукають притулку у власних упередженнях, і руйнується довіра не лише до інших, а й до влади та традиційних джерел.

Довіра – це те, що створює соціальну згуртованість, яка дозволяє нам співпрацювати, щоб просуватися вперед як суспільство. Зі зруйнованою довірою суспільства можуть увійти в величезну демократичну кризу. Це не означає, що я не можу сумніватися або ставити під сумнів. Це означає, що якщо існують великі кампанії з дезінформації, підживлювані системами штучного інтелекту, які унеможливлюють розрізнення правди чи брехні, то ми говоримо не про дебати з раціональними питаннями, а про факти та паралельні реальності. Для демократії це граната.

Запитання: І екзистенційна тривога від невіри в те, що ми бачимо...

Відповідь: Ці системи розвиваються швидше, ніж ми здатні як вид. Як ми можемо жити у світі, де ми не можемо довіряти тому, що бачимо або сприймаємо за допомогою органів чуття? Екзистенційна криза, яку це може викликати, є величезною. Важливо маркувати всю інформацію, створену штучним інтелектом, та ідентифікувати ту, яка може не відповідати реальності.

Запитання: Це сьогодення, але ви говорите про виклики майбутнього, такі як нейроправа.

Відповідь: Це ще одна сфера розвитку, яка може захоплювати емоційні реакції, дані про розумову діяльність людини та впливати на когнітивні процеси дедалі потужнішим чином. З тією швидкістю, з якою розвиваються ці технології, рекомендується, щоб існували форуми для співпраці між різними дисциплінами, щоб спільно розробляти заходи контролю за цими новими технологічними розробками.

«Тенденції» – це проєкт Джерело новини, за допомогою якого газета прагне відкрити постійну розмову про великі виклики майбутнього, з якими стикається наше суспільство. Ініціатива спонсорується Abertis, Enagás, EY, GroupM, Iberdrola, Iberia, Mapfre, Організацією іберо-американських держав (OEI), Redeia та Santander і стратегічним партнером Oliver Wyman.

Ви можете підписатися тут, щоб отримувати щотижневу розсилку Джерело новини Tendencias щовівторка від журналіста Хав'єра Самп'єдро.