«Як все дивно»

Вже розшифрувавши інтерв'ю з Хайме Севільєю (28 років), засновником Epoch AI, не можна перестати думати: «Як все дивно». Дивний світ відкривається, якщо розвиток штучного інтелекту збереже такий темп. Дивно також проводити годину, розмовляючи про можливість того, що машини домінуватимуть над людьми, а на фоні люди снідають кавою та круасанами. Дивним є навіть рюкзак гіперпросторового вигляду, з яким Севілья з'являється в кафе в центрі Мадрида в середу вранці.

— У вас там суперкомп'ютер?

— Можливо.

Зараз мало хто має більш чітке — або, принаймні, більш поінформоване — бачення тенденцій у сфері штучного інтелекту, ніж Севілья. Саме цим займається Epoch AI, некомерційна організація, що спеціалізується на аналізі прогресу та еволюції цієї технології. Її мета — прогнозувати майбутні тенденції, для цього вони розробляють суворі тести, які вимірюють інтелект і продуктивність сучасних моделей.

Нещодавнім прикладом є Frontier Math, проєкт, реалізований у співпраці з OpenAI, де вони створили набір складних математичних задач для оцінки рівня математичного мислення мовних моделей. Наразі їм не вдалося змусити їх розв'язати більше ніж 2% поставлених задач.

The New York Times включила їхній проєкт до «добрих технологічних новин» 2024 року, а журнал Time порівняв ініціативу Севільї з роботою, яку виконують вчені, розробляючи моделі прогнозування зміни клімату, які використовуються для орієнтування екологічної політики. Справді, мало в яких сферах так важко робити прогнози, як у сфері штучного інтелекту. Доказом цього є раптова поява китайської моделі DeepSeek, яка змусила запросити нову інформацію електронною поштою для цього інтерв'ю.

Питання: Чи OpenAI все ще випереджає будь-яку іншу компанію в розробці штучного інтелекту?

Відповідь: З точки зору результатів, немає жодної компанії, здатної розв'язувати математичні задачі Frontier Math так, як це робить OpenAI, і вона також отримує найкращі результати в інших тестах. Anthropic трохи відстає: вона ще не досягла розширеного висновування, але йде по п'ятах.

П: Чому вона так чітко домінує в цій технологічній гонці?

В: Є кілька факторів, але одним з найважливіших є масштаб моделей: чим більша обчислювальна потужність і обсяг даних, тим більше зростають їхні можливості. OpenAI рано виділилася саме завдяки ставці на цю стратегію.

П: Чи DeepSeek змінила цю парадигму?

В: DeepSeek запустила свою нову модель R1, яка конкурує з моделями OpenAI. Все ж я вважаю, що OpenAI зберігає лідерство, особливо з огляду на результати її приватної моделі. Що стосується обсягу даних і обчислень, моя думка залишається незмінною: моделі, навчені з більшими ресурсами, зазвичай отримують кращі результати.

П: Чи вважаєте ви, що лідери компаній зі штучного інтелекту відчувають страх через те, що вони роблять?

В: Не знаю, чи «злякані» — це правильне слово, але я б сказав, що дуже важко передбачити заздалегідь можливості, які штучний інтелект розвине в міру масштабування та виділення більшої кількості ресурсів. До певної міри відбувається поступове зростання, але цей процес не був глибоко вивчений і не повністю зрозумілий.

Хайме Севілья, дослідник, експерт зі штучного інтелекту, сфотографований у Мадриді.

П: Чи є межа, яку, якщо ШІ перетне, нам слід подумати про припинення його розвитку?

В: Існують більш-менш просоціальні застосування штучного інтелекту. Мене турбує, що його використовують для терористичних операцій або великих шахрайств через інтернет. Є багато застосувань, які я б не хотів бачити настільки розвиненими.

П: Я маю на увазі той момент, коли ШІ стане загрозою для людства.

В: В принципі, це не повинно бути проблемою для нас.

П: Що машини домінуватимуть над нами?

В: Зараз вони діють як віртуальні помічники, але в якийсь момент буде логічно надати їм більше незалежності.

П: Наприклад?

В: Щоб вони могли вести власну компанію, керувати нею без неефективних людей, які сповільнюють процес. Це буде великим стимулом для створення більш незалежного штучного інтелекту, який буде займатися все більшою частиною економіки. Вони зможуть робити все, що ми можемо робити, але з набагато меншими граничними витратами.

П: Як ми знаємо, що, досягнувши цього моменту, ШІ не вважатиме нас перешкодою?

В: Він не обов'язково повинен бачити нас як перешкоду. Ми можемо бути партнерами в бізнесі з доброзичливими відносинами. Для мене це було б як співіснування з великими підприємцями, які створюють багатство для всіх.

П: Чому ШІ, настільки розвинений, захоче вести бізнес з людьми?

В: Тому що наразі люди володіють усім капіталом у світі, їм потрібні наші інвестиції. Існують також завдання, в яких може бути необхідним або юридично доцільним втручання людини, оскільки ШІ не може потрапити до в'язниці, наприклад. Можливо, добре мати людей, які можуть наражатися на цей ризик.

П: Скільки часу потрібно, щоб ШІ досяг цього рівня незалежності?

В: Нам ще далеко. Нинішній ШІ недостатньо послідовний, щоб розробляти стратегії на такий тривалий термін.

П: Чи людина все ще є більш надійним стратегом, ніж найкращий штучний інтелект?

В: Так.

П: Що ви думаєте про тезу «акселераціонізму», яка стверджує, що технології, в даному випадку ШІ, розв'яжуть всі наші проблеми?

В: Я вважаю себе посередині між обома позиціями. Це технологія з великими можливостями та викликами. Ми повинні рухатися вперед поступово. Зараз все рухається швидко, але суспільство не розпалося. Я думаю, що ми знаходимося в хорошому балансі. Сумніви виникають, коли ми досягаємо того рівня незалежності, про який ми говорили.

П: У якому сенсі?

В: Корисною аналогією є уявити трильйон геніїв, які одночасно приєднуються до нашої економіки. Цим може бути важко керувати.

П: Я не можу перестати думати про парадокс, що «ідіот» — яким у цьому сценарії були б люди — віддає накази генію.

В: Справа в тому, що, ймовірно, це не так. У довгостроковій перспективі дуже можливо, що 99% ресурсів опиняться в руках штучного інтелекту.

П: Вас це не лякає?

В: Це не обов'язково погано. Той 1%, який залишиться нам, буде набагато більшим, ніж те, що ми маємо зараз. Сьогодні бути пересічним громадянином краще, ніж бути королем 500 років тому.

П: Ваші міркування логічні, але все одно жахливі.

В: В цьому і полягає виклик: зрозуміти цю технологію та побудувати соціальний контракт, який дозволить нам співіснувати з цією соціальною та економічною силою, яка насувається.

П: Чи справді є сенс будувати власного «пана»?

В: Не слід інтерпретувати це так, ніби ми раби, ми могли б бути партнерами. Ми можемо розробити соціальну угоду, яка принесе користь усім нам. Це не виключає ризики: в майбутньому ми будемо економічною меншістю. А меншини, історично, переживали дуже важкі часи. Однак з часом вони здобували права і покращували якість свого життя.

П: На нас чекає те, що ми будемо, порівняно, все біднішими.

В: Немає розради в цьому: це буде дуже нерівний світ, і нам доведеться адаптуватися. Сьогодні вже є мільярдери з набагато більшими грошима, і ми співіснуємо з цим.

П: Чи вважаєте ви, що ШІ розвине співчутливу свідомість до інших видів?

В: Можливо, і я сподіваюся, що в самому штучному інтелекті виникне безліч думок. Деякі з них будуть дивитися на нас краще, ніж інші. Хто знає, чи спосіб забезпечити наше виживання — це юридичний договір, складений за допомогою ШІ, який гарантує наше виживання в довгостроковій перспективі.

П: А в гіршому випадку?

В: Також може статися, що вони вирішать створити великий обчислювальний центр на Землі і для цього їм доведеться знизити температуру на сто градусів. Хто знає, чи згадають вони, що люди не можуть вижити при такій температурі.