Десять «розумних» технологій, які обіцяли змінити світ, але виявилися фейками

Технологічний прогрес невблаганний, але деякі компанії у своєму прагненні обійти конкурентів і справити враження недомовляють і навіть відверто брешуть. Так автоматизація виявляється уявною, а досягнення — скромними. Ось кілька яскравих прикладів.

3 квітня 2024 року Amazon відмовилася від своєї технології Just Walk Out («Просто виходь») у магазинах у США. Суть її роботи була такою: покупець міг прийти до магазину, відсканувати QR-код, взяти потрібні товари та просто вийти. Компанія заявляла, що систему повністю автоматизовано. Але з’ясувалося, що за нею стояло 1 тис. працівників з Індії, які займалися оформленням товарів.

І це не єдиний приклад, коли за «проривом в автоматизації» стоїть прихована людська робоча сила.

В англомовному просторі це явище назвали The Mechanical Turk (дослівно перекладається як «Механічний турок») на честь шахового автомата, що з’явився у 1770 році. Його рекламували десятиліттями по всьому світу як першу машину, здатну зіграти у шахи з будь-якою людиною. Однак пізніше з’ясувалося, що це був обман, — усередині автомата сидів професійний шахіст.

Схожа ситуація сталася і на початку 1800-х в Англії. Браян Мерчант у своїй книзі Blood in The Machine («Кров на машині») пише, що на той час виробники одягу вирішили замінити кравців на нові «автоматизовані» машини. І хоча для роботи цих пристроїв справді не були потрібні майстри, ними все одно керували люди — діти-сироти. Одяг, зшитий автоматами, був поганої якості, але дешевий. Ці пристрої створили серйозну конкуренцію фахівцям. Ті, у свою чергу, обурилися, і цих активістів прозвали «луддитами» (учасники протестів в Англії проти впровадження машин. —  GSMinfo ).

Трюк, використаний у The Mechanical Turk, не забутий. Хоча зараз є вражаючі приклади справжньої автоматизації, багато технологічних компаній у гонитві за лідерством впроваджують АІ-технології раніше, ніж насправді готові до цього. І щоб підтримувати їхню роботу, доводиться у великому обсязі використовувати людську працю.

Ось десять прикладів, у яких роль прихованої робочої сили зіграла чи грає важливу і навіть вирішальну роль.

1. Just Walk Out від Amazon Fresh

Amazon стверджувала, що Just Walk Out – це велика система сканерів та камер, яка автоматично зчитує інформацію та виписує клієнтам чеки.

Виявилося, щоб керувати цією системою, Amazon найняла команду з понад 1 тис. співробітників в Індії. 2022 року приблизно 70% покупців насправді обслуговували живі люди.

2. Автоматизовані автокафе

Компанія Presto Voice створила свою систему “автоматизації”, яку продавала кільком ресторанам на заправках. У Presto Voice запевняли, що можуть замінити всіх людей, які працюють в автокафе, своєю технологією, тому що AІ чудово зможе самостійно обслуговувати відвідувачів.

Проте нещодавно Комісії з цінних паперів та бірж США стало відомо, що понад 70% замовлень компанії виконують люди. Presto Voice наймала віддалених працівників на Філіппінах, і вони приймали замовлення клієнтів та вручну вводили їх у комп’ютерні системи.

3. Віртуальний асистент М від Facebook

У 2015 році компанія Facebook запустила віртуального помічника на ім’я M. Він спілкувався з користувачами в месенджері і міг (нібито) взяти квитки в кіно, дізнатися погоду та замовити їжу з ресторану неподалік.

Якщо ви дивуєтесь, як компанії вдалося створити генеративний AІ в 2015 році, то можете заспокоїтися: вона цього не робила.

M було створено з урахуванням раннього, догенеративного АІ. Але переважно за роботу помічника відповідали живі оператори. У компанії хотіли, щоб згодом M став досить «розумним» та виконував завдання самостійно. Але цього так і не сталося. Помічником змогла користуватися лише маленька група людей, яких залучили до тестування beta-версії. А компанія не могла «найняти стільки операторів, щоб у кожного користувача у світі був особистий помічник».

4. Демоверсія Gemini від Google

У грудні 2023 року Google провела вражаючу презентацію Gemini – АІ-модель, яка нібито може розшифровувати відео, зображення та аудіо в режимі реального часу. Але через чотири місяці ця обіцянка так і не втілилася в життя.

Демонстрація виявилася підробкою. По-перше, відео, представлене Google, прискорили та відредагували. По-друге, щоб досягти хоч якогось результату від Gemini, у неї завантажили багато текстових та графічних підказок. Так, цим інструментом можна скористатися. Але Gemini насилу відповідає на складні питання, але це далеко до тих фокусів, які вразили всіх під час грудневої презентації.

5. Mechanical Turk від Amazon

Цей торговий майданчик Amazon навіть назвав на честь фейкової автоматизації. На ній роботодавці можуть знайти фахівців для роботи, з якою комп’ютери не справляються. Завдання можуть бути практично будь-якими: від маркування зображень до навчання АІ модерації онлайн-контенту.

Реальним людям, які виконували завдання замість машин, часом платили лише $0,01 за завдання. Також випливли жахливі історії, коли при розшифровці конфіденційних файлів працівники стикалися з лякаючим змістом (наприклад, з жорстокими кадрами поліцейського насильства).

6. Expensify

У 2017 році гучна історія сталася з компанією Expensify, яка автоматизувала передачу звітів про витрати. За допомогою їх нової технології можна було просто сфотографувати квитанцію, щоб сплатити за неї. Програма Expensify автоматично підтверджувала, що витрати відповідають вимогам, і надсилала дані до потрібного відомства.

Пізніше компанія повідомила, що коли АІ не справляється, вона залучає до команди надійних технічних фахівців, які оформлюють витрати від імені користувача. У деяких випадках цими “надійними фахівцями” були працівники з майданчика Amazon Mechanical Turk. Тобто сторонні люди отримали доступ до особистої інформації користувачів, таких як номери кредитних карток, імена та адреси. І невідомо, скільки з цих звітів про витрати потрапило до чужих рук.

7. Віртуальні помічники X.ai

Ще до того, як Ілон Маск купив X.ai, компанія опинилася в центрі скандалу з уявною автоматизацією. У 2016 році цей АІ-стартап запустив віртуальних помічників, у яких був доступ до даних користувача. Вони могли вносити події до календаря та відповідати на електронні листи.

Однак усі ці операції здійснювала жива людина. Працівники, які видавали себе за АІ, відповідали на електронні листи, заносили зустрічі у календар і навіть замовляли їжу для користувачів. Коли все розкрилося, компанія виправдовувалася тим, що АІ перебуває на ранній стадії розвитку.

8. Персоналізована реклама в пошті Google

Раніше Google сканував поштові скриньки кожного користувача, щоб налаштувати персональну рекламу, але пообіцяв припинити. Але це не завадило компанії передати це завдання набік. У 2018 році співробітники компанії Edison Software, яка розробляє програмне забезпечення, розповіли Wall Street Journal, що особисто переглядали листи користувачів, щоб використовувати цю інформацію для створення нових функцій.

І це не єдина компанія, яка дозволяла співробітникам читати особисті листи, щоб налаштовувати програмне забезпечення та розробляти інші маркетингові інструменти. Одне з джерел WSJ назвало реальність, в якій сторонні мають доступ до особистого листування користувачів, «брудним секретом індустрії».

9. Аналіз крові від Theranos

2023 року Елізабет Холмс посадили у в’язницю на 11 років за велике шахрайство, пов’язане з її стартапом Theranos. Компанія заявляла, що розробила автоматизований пристрій, який може точно визначити стан здоров’я пацієнта з кількох крапель крові, взятих з пальця.

Однак це виявилося обманом. Жодного прориву в галузі автоматизації збору та аналізу крові не сталося. Під час презентацій для керівників аптек співробітники Theranos таємно проводили випробування на сторонньому лабораторному устаткуванні.

Це одне з найбільших в історії шахрайств, пов’язаних із автоматизацією.

10. Scale.AI і не тільки

Навіть великі компанії, які займаються розробкою у сфері АІ, перебільшують досягнення своїх продуктів, адже до навчання нейромереж все ще залучають тисячі людей. Наприклад, The Washington Post повідомляє, що до навчання Scale AI, АІ-моделі стартапу із Сан-Франциско вартістю $7 млрд, залучено 10 тис. віддалених працівників на Філіппінах. Вони маркують тисячі зображень політиків та знаменитостей, редагують фрагменти тексту, навчають нейромережі розпізнавати об’єкти у відеороликах тощо.

Для навчання сучасних АІ-моделей поки що потрібні тисячі працівників. І часто компанії пропонують їм невигідні умови або роботу за копійки. А саме Scale AI, між іншим, співпрацює з такими компаніями, як Meta, Microsoft та OpenAI.