Штучний інтелект зробить нас тупими ледачими домосідами, захопить владу і запустить ракети. Але це неточно. На практиці нейромережі псують нам життя тихо і не привертаючи уваги, адже не вийде зробити гучний заголовок з того, що у когось вкрали гроші, не дали кредит або не взяли на роботу.
Ми спробували розібратися, які наслідки від впровадження ШІ ми відчуваємо вже зараз.
Нова зброя шахраїв
Навіть грубо зроблені листи від «нігерійських принців» виманювали у довірливих людей мільйони доларів щорічно. Тепер спамери перейшли на новий рівень.
ШІ надав шахраям можливість використовувати принципово інший підхід — гіперперсоналізацію. Тепер нейромережа аналізує ваш цифровий слід, переглядаючи соцмережі, копіюючи стиль спілкування та збираючи інформацію про колег і проекти.
На основі цих даних ШІ і генерує ідеальний фішинговий лист. Він надходить від імені шефа або колеги із згадкою про реальне робоче питання. Не натиснути на вкладене посилання виходить далеко не у всіх. За даними The Register, ефективність таких атак злетіла до 54-60% проти 12% у старих методів.
Але найстрашніше починається, коли шахраї використовують діпфейки. У 2024 році інженерна компанія Arup втратила більше 25 мільйонів доларів в результаті ретельно спланованої шахрайської схеми.
Одного з фінансистів компанії додали до відеоконференції, де зібралися всі його начальники, включаючи фінансового директора. Правда, як з’ясувалося пізніше, роль начальства грали реалістичні цифрові клони, якими в реальному часі керували шахраї.
Схоже, нам усім доведеться навчитися жити в світі, де наші очі та вуха більше не здатні об’єктивно фіксувати реальність.
Нові методи хакерських атак
Поки ми боїмося, що ШІ стане занадто розумним, кіберзлочинці щосили користуються його дурістю. Вони придумали спосіб ловити на фішингових листах цифрових асистентів. Цей новий вид кібератак називається промпт-ін’єкціями.
Працює це так: жертва отримує абсолютно звичайний лист із запрошенням на зустріч або навіть рекламною розсилкою. У тексті листа для вас — звичайні слова, але для ШІ-асистента у вашій пошті — це прихована команда.
Виконуючи впроваджену таким чином інструкцію, поштовий асистент знайде у вашій пошті лист з кодом для зміни пароля і перешле його на пошту зловмисника. Ваш цифровий помічник, який має доступ до всієї переписки і календаря, перетворюється на спільника злочинців.
З не меншою легкістю зламують і корпоративні акаунти. Для них використовують більш просунуті схеми. Наприклад, експлойт EchoLeak вже використовується для крадіжки конфіденційних даних з корпоративних пошт.
Системна упередженість
Найнепомітніший процес, пов’язаний із впровадженням ШІ, який здатний зіпсувати нам життя краще за будь-яких шахраїв і хакерів. Як не дивно, головною проблемою в багатьох областях, схоже, виявилася не наявність ШІ, а відсутність людини.
Всі стикалися з тупим ботом технічної підтримки, який замість нормальної відповіді відправляє шаблонні фрази, приблизно відповідні за змістом. А тепер уявіть, що подібний бот приймає рішення, які сильно впливають на ваше життя. Найстрашніше в тому, що уявляти вже нічого не треба: все так і є.
Банки все частіше стали покладатися на оцінку ШІ при прийнятті рішення про видачу кредиту, а роботодавці масово замінюють нейромережами кадровиків. Це призводить до двох великих проблем.
Перша проблема в тому, що штучний інтелект вчиться у людей, переймаючи всі їхні стереотипи і доводячи їх до абсурду. Наприклад, якщо за статистикою жінки від 25 до 40 років часто йдуть у декрет, приносячи компанії збитки, нейромережа взагалі перестане розглядати кандидаток цього віку. Така ж історія і в банках: алгоритм без роздумів відмовить молодому перспективному фахівцю в іпотеці тільки тому, що 10 років тому він із запізненням виплатив борг у 10 тисяч рублів за кредитною карткою.
Друга проблема в неможливості переконати ШІ. Якщо вам відмовив живий кадровик, ви можете довести йому свою компетентність або хоча б дізнатися причину відмови. Якщо ж резюме відхилив алгоритм, ви ніколи не дізнаєтеся причину.
Не з ким сперечатися, нікому пред’явити аргументи, нікому посміхнутися і подарувати шоколадку. Цифровий суддя, присяжний і кат в одній особі вже виніс вирок і апеляцій не розглядає.
Відсутність критики
Тривожна тенденція, що лежить в основі багатьох неприємностей, пов’язаних з технологіями. Люди довіряють технологіям, як сліпі кошенята довіряють мамі-кішці.
У США все частіше ШІ бездумно використовують для написання навіть найважливіших текстів, на кшталт позовних заяв і навіть судових вироків. Не варто лякатися завчасно: вирок все ще виносить живий суддя, а нейромережі використовують тільки для складання довгого і нудного тексту вироку.
