Чи зможе людина створити штучний інтелект, який її знищить

Чому так важко створити ШІ (штучний інтелект), схожий на людину, і в чому головна задача тих, хто його розробляє.

Якщо людину, не пов’язану з вивченням штучного інтелекту професійно, попросити описати, що це таке, вона швидше за все почне говорити про міфічний розум, рівний людському, з якого потім виросте надрозум, що помістить нас у матрицю. Такий образ формує мистецтво.

У реальному ШІ виділяють два напрямки – загальний штучний інтелект (ЗШІ) і вузькоспеціалізований (ВШІ). Вони один від одного досить сильно відрізняються.

ВШІ, вже створений і успішно функціонує, вирішує конкретні завдання. Він вміє класифікувати картинки, грати в комп’ютерні та інші детерміновані ігри, на кшталт шахів, керувати системами в обмежених умовах – літаком і автомобілем, робить машинний переклад, розпізнає мову.

ЗШІ, якщо говорити про нього метафорично, повинен наче повторювати людину – вміти вчитися, адаптуватися до обставин і вирішувати різні завдання. Поки він цього не вміє, і незрозуміло, коли ситуація зміниться. Навіть завдання ведення діалогу на відкриті тематики для ШІ дуже складно: можуть знадобитися звернення до знання, яке для людини очевидне, а у системи до нього немає доступу, вона не зчитує цю інформацію.

Над спільним ШІ інженери працюють. Правда, побудувати його для всього навколишнього світу складно, тому обмежуються світами ігор. Наприклад, компанія Деміса Хассабіса DeepMind, яку викупив Google, розробляє алгоритм, який зможе грати і в шахи, і в го, і в сьогі (японська гра шахового типу).

Також ця команда робила алгоритм, який зможе грати в усі ігри консолі Atari, причому, якихось специфічних знань про правила гри не закладалося, ШІ знав, що приблизно відбувається, але правила повинен був зрозуміти в процесі. І, в кінцевому рахунку, їх система навчилася грати в 49 різних ігор, а в 22 з них перевершила людину.

Потрібно розуміти, що цей алгоритм може навчитися грати краще людини, але тільки за умови, що зіграє набагато більше разів, пройде багато партій і по них навчиться.

Є принципові проблеми, які поки не дозволяють перейти від спеціалізованого ШІ до загального. Вони пов’язані з тим, як сучасні нейромережеві системи, які найбільш ефективні і найбільш поширені в світі, навчаються. Вони наче завжди замкнені всередині завдання і змушені апроксимувати вибірку – тобто на прикладах шукають їх властивості, усереднюють показники, а потім повторюють, що бачили. Але зустрічаються, звичайно, приклади поза навчальною вибіркою, і алгоритм не знає, як з ними справлятися.

Навчився у нас алгоритм грати в одну гру, його посадили за другу, а він не в курсі, що з нею робити. Людина може дійти логікою, додумати, використовувати загальні уявлення і сконструювати на їх основі нові рішення. ШІ – ні.

Наявна важлива проблема – у сучасних алгоритмів немає робочої пам’яті, що дозволяє швидко навчатися.

Люди, потрапивши в нетипову ситуацію, відразу ж запам’ятовують, як з неї вибратися, їм не потрібно кілька разів повторювати. А алгоритм буде потрапляти знову і знову, помилятися і узагальнювати висновки. Зазвичай алгоритм тренують так – він грає в гру багато разів, всі його ходи записуються, а потім вся ситуація повторюється неодноразово, щоб ШІ побудував статистичну модель вибору дій, що призводять до виграшу.

Третя проблема частково пов’язана з першими двома. У нас немає нормальних способів побудувати цілісну модель навколишнього світу. Є мовні моделі, алгоритм може вивчити, в якій послідовності слова йдуть одні за одними, але міркувати на основі цієї моделі він не може.

Зараз мовні моделі одна з «гарячих» тем в ШІ. Є GPT-3, який «натренувала» компанія OpenAI, використовуючи 175 млрд. параметрів. Вона може продовжувати тексти, есе, вірші, відповідати на питання. Якщо дати їй на вхід деякий текст, то вона згенерує продовження, що майже не відрізняється від людської мови. Питання в тому, наскільки це наближає нас до спільного ШІ. Такій моделі можна давати вирішувати приклади, на зразок 2 + 2 = 4, 3 + 3 = 6, 2 + 3 = 5, а потім запросити рішення 5 + 7 =, і вона спробує видати відповідь. Більш того, вона здатна згенерувати програму, яка це виконає. У теорії – так, це розвиток загального ШІ, на практиці вона починає помилятися в зовсім простих речах, де будь-яка розсудлива людина зробила б все правильно.

В ідеалі при розвитку ЗШІ ми повинні отримати алгоритм, який здатний навчатися не гірше, ніж людина. Людина для нас – точка вимірювання прогресу. Багато дослідників вважають, що раз природа вже створила екземпляр того, що може так добре навчатися, потрібно зрозуміти, як це відбувається і використовувати інформацію. Інші вважають, що можна придумати власну модель навчання.

Що стосується потенційної загрози для людства, про яку часто говорять в кіно або книгах, де роботи захоплюють світ, – немає ніяких підстав вважати, що вона є.

Всі зберігають удома кухонний ніж, але не всі застосовують його проти сусідів. Питання в тому, які цілі ми переслідуємо, програмуючи наш ШІ, і яким чином збираємося його контролювати. Коли з’явилися комп’ютерні віруси, на зорі інтернету, багато панікували, що програма, здатна самостійно розмножуватися, знищить або захопить всі комп’ютери. Але виявилося, що здібності адаптації у вірусів дуже слабкі. Більшість з них створюються людьми, і люди ж з ними успішно борються. Те ж саме з штучним інтелектом. Взагалі-то, його завжди створюють так, щоб можна було контролювати – включати і вимикати.

Ми можемо обмежити штучний інтелект так само, як людину – позбавивши її волі, наприклад. Давайте подивимося на ШІ, з точки зору продовження еволюції людини. Сучасна людина – один з етапів еволюції на землі. Вона взаємодіє з багатьма іншими видами на планеті. Мурахи навряд чи думають, як ми далі будемо розвиватися і чи не завадимо їм. Мурашкам, ймовірно, все одно. Або, чи будемо ми розуміти майбутній ШІ так, як клітини нашого організму розуміють нас, як цілісну особистість?

Незрозуміло, якою буде взаємодія штучного інтелекту майбутнього з людством. Можливо, люди зможуть об’єднатися з ним, стати його частиною. Можливо, у цього нового розуму будуть інші потреби в енергії, може, він буде жити в іншому масштабі часу. Сценаріїв – величезна кількість. Завдання людей, що займаються створенням ШІ – реалізувати адекватні для нас і гальмувати неадекватні. У ядерних ракет теж є пульти управління, ніхто їх не відпускає у вільний політ. Коли і якщо ми наблизимося до точки, де щось може вийти з-під контролю, тоді суспільство і буде вирішувати, чи підтримувати подальші дослідження в галузі ШІ або згорнути їх.