Еміліо Каррісоза про математику та ШІ

Еміліо Каррісоза, з факультету математики Університету Севільї, вважає математику «дуже цікавою розумовою вправою». Він завжди шукав міст між числами та їх застосуванням у вирішенні проблем. Він знайшов зв'язок в оперативних дослідженнях, які визначає як «дисципліну, що допомагає приймати рішення з обмеженими ресурсами».

Він брав участь у дослідженнях щодо кліматичних індексів посух, статистики бездомних, діагностики раку та пошуку найосвітленішого шляху додому вночі на основі ефективної відстані розпізнавання облич.

Він перейшов від учня до професора факультету математики Університету Севільї, де зміг поєднати своє покликання до викладання з пристрастю до досліджень. Його роботи з прикладної математики та науки про дані були відзначені Товариством статистики та Фондом BBVA.

Питання. Чи прагнете ви застосовувати математику в повсякденному житті?

Відповідь. Мене дуже тішив інтелектуальний виклик математики, поки в середині навчання в мене не було кількох предметів, які мали більш прикладний компонент, де можна було відчути, якою була математика в минулі часи, коли вона була інструментом для вирішення проблем. Тоді я почав вивчати статистику та математичну оптимізацію з наміром не залишатися лише в інтелектуальній вправі, яка була захопливою і залишається такою, а й зробити ще один крок, щоб ці речі, які я вивчав, могли служити правилами для нової гри, щоб спробувати моделювати реальність і певним чином брати участь у допомозі прийняттю рішень. Можна сказати, що це трохи нав'язлива ідея, яка посилилася зі штучним інтелектом, коли здається, що громадяни відмовляються від права приймати обґрунтовані рішення та делегують це машині, яка приймає рішення за нас. Вона може бути більш точною, ніж людина, тому що, серед іншого, має базу даних для навчання, яка на багато порядків перевищує ту, з якою може працювати людина, але водночас вона містить низку недоліків, які ми не контролюємо.

П. Чи дані розсіюють невизначеність?

В. Ні, але допомагають її контролювати. Я не зможу усунути невизначеність, але матиму досить точне уявлення про те, що може статися завтра. Я не можу знати, чи буде дощ, але я можу знати ймовірність дощу завтра і, виходячи з цього, приймати рішення. Математика, коли вона застосовується, ґрунтується на моделях, де ключем є зв'язок між різними інгредієнтами та кількома параметрами. Моделі збирають багато інформації, щоб зменшити невизначеність. Я не можу передбачити, що це станеться, але я можу, наприклад, мати хороші оцінки ймовірностей того, що кожна річ станеться, і враховувати це для прийняття рішення, сумісного або узгодженого з інформацією, яку ми отримуємо з даних.

Я не можу передбачити, що це станеться, але я можу, наприклад, мати хороші оцінки ймовірностей того, що кожна річ станеться, і враховувати це для прийняття рішення, сумісного або узгодженого з інформацією, яку ми отримуємо з даних.

П. Якщо дані є інгредієнтом, то що таке алгоритм?

В. Це рецепт. Алгоритм - це як рецепт приготування страви, для якої ви додаєте інгредієнти в певному порядку.

П. І, продовжуючи цю аналогію, що таке упередження?

В. Коли мені сказали, що м'ясо першокласне, а воно виявилося другосортним, або що нут дуже ніжний і не залишить шкірки. Це дуже важливий виклик, тому що упередження існують, і зі штучним інтелектом ми не знаємо, як ці інструменти навчилися. Звичайно, вони ввібрали в себе всі існуючі упередження, які іноді невинні, а іноді призводять до дискримінації людей. Це небезпека, яку, на щастя, математика може виявити, виправити або зменшити. Повертаючись до аналогії з нутом, це було б замочити його у воді на деякий час, щоб він став м'яким. Упередження є дуже тривожною проблемою. Штучний інтелект зараз ставить перед нами багато позитивних викликів і є досить демократичним інструментом у тому сенсі, що вам не потрібно бути в групі обраних, щоб мати змогу ним користуватися, але небезпека, з якою ми стикаємося, - це можлива відсутність прозорості та справедливості при прийнятті рішень. Найвідомішим прикладом є програма, яка допомагає суддям визначати умовне звільнення обвинуваченого. Якщо ви були афроамериканцем, вона залишала вас у в'язниці, а якщо ви були європеоїдом, з дуже високою ймовірністю вона казала вам: «Ви не будете повторювати злочин, виходьте на вулицю». Крім того, ми не можемо випускати з уваги, що лідерство в галузі штучного інтелекту зараз належить не урядам, а приватним компаніям, які дбають про свої комерційні інтереси. Ми не знаємо, хто приймає рішення за нас.

П. Чи є рішення, які не слід залишати на розсуд штучного інтелекту?

В. Існують певні медичні діагностичні тести, наприклад, на основі зображень, де машина здатна виявити рак на ранній стадії краще, ніж фахівець. Тому це може бути інструментом для допомоги в прийнятті рішень, але я хотів би, щоб остаточне рішення приймала людина, яка усвідомлює це, якій я міг би подивитися в очі, якщо вона помилиться, яка могла б сказати, що їй шкода, тому що має мораль.

П. Тому що дані не мають моралі.

В. Дані, зрештою, це нулі та одиниці в комп'ютері, які відображають реальність, але це як говорити про мораль ножа: я можу використовувати його для їжі або для нападу на когось. Дані є нейтральними, але не те, як ми можемо їх використовувати. І ми не можемо думати, що приватні компанії або чужий уряд будуть використовувати дані нейтрально, коли вони допомагають нам приймати рішення. Я можу довіряти критеріям лікаря, який ставить мені діагноз, але якщо цей лікар має комерційний інтерес у діагнозі, який він мені ставить, я повинен ставитися до цього з великою обережністю. Це проблема, з якою ми стикаємося при прийнятті рішень на основі даних, з тим, чи останнє слово залишається за машиною, а не за кимось із душею.

П. Чи може ШІ передбачити DANA, як у Валенсії?

В. Це ще одна тема, тема рідкісних нестаціонарних явищ. У нас недостатньо вибірки, щоб мати змогу точно передбачити результат. Ми говоримо про явища, для яких у нас немає подібних або ідентичних даних до тих, які ми хочемо вивчити, а лише схожі, і тут ми можемо мати упередження, яке ми не можемо контролювати і яке є визначальним у явищі.

П. Також неможливо передбачити злочинність.

В. Я працюю з групою з Чилійського університету, яка співпрацює з карабінерами Чилі, складаючи карти інтенсивності злочинів, щоб мати змогу передбачити та прийняти рішення про те, де потрібно більше чи менше патрулювати, щоб знати, наскільки ймовірно, що буде більше злочинів.

П. Але якщо дані застосовуються, наприклад, до стипендій, машина може вирішити скасувати їх там, де більше відсіву зі школи, де життєво важливо інвестувати ресурси.

В. Ось чому так важлива прозорість процедур і щоб політичний клас усвідомлював, що прийняття рішень має бути прозорим, які правила гри, коли ресурси виділяються з державних адміністрацій. Я хотів би об'єктивно бачити, яку функцію вони намагалися оптимізувати, коли приймали рішення. Ми вимагаємо від машин прозорості, якої потім не вимагаємо від людей, які використовують дані для прийняття рішень.

П. Який алгоритм є найнеобхіднішим для суспільства?

В. Нагальною проблемою в західних суспільствах, і, на жаль, не здається, що ми зовсім рухаємося в цьому напрямку, є алгоритм із прозорими критеріями розподілу ресурсів. Нам завжди говорять про дохід на душу населення, і мене це не цікавить. Це середнє значення. Якщо магнат-мільярдер і я живемо в одному селі, у цього села буде дуже високий дохід на душу населення, коли магнат володіє 99,99% всього.

П. Чи може математика запобігти шахрайству?

В. Вони роблять це. Насправді, механізми прогнозування в цьому сенсі досить прості, їх можна виявити за допомогою статистичних механізмів вісімдесятих років. Аудитори не діють навмання. Зараз можна з певною точністю передбачити, коли транзакція є шахрайською. У майстерні, залежно від кількості працівників, кількості годин, відпрацьованих у соціальному забезпеченні, використаної електроенергії, спожитої води та придбаного матеріалу, наприклад, легко зробити прогноз того, скільки насправді було виставлено рахунків.

П. Але чи порушується конфіденційність?

В. Це проблема, щодо якої ми повинні вирішити як громадяни: до якої міри я готовий надавати інформацію як соціальний договір, щоб почуватися в більшій безпеці та мати більш справедливий світ.