Голосовий помічник спробував вбити дитину

Розумна колонка Amazon Echo, оснащена голосовим асистентом Alexa, вийшла на стежку війни з людством в одному з американських містечок, результатом чого мало не стала загибель дитини. Про це повідомила мати десятирічної дівчинки Крістін Лівдал – її доньці Alexa запропонувала взяти участь у потенційно летальному челенджі.

Коли дитина поцікавилася у колонки, яке популярне випробування їй варто виконати, штучний інтелект запропонував торкнутися монеткою контактів зарядного пристрою, не до кінця вставленого в розетку. Цей небезпечний челендж ШІ взяв із ТікТоку, в його результаті монетка повинна припаятися до контактів адаптера, тільки ось у кращому разі за коротким замиканням і феєрверком з іскор послідує пошкодження проводки та вихід з ладу побутової техніки. Якщо монетку тримати в руках довше допустимого, то піде неминучий удар струмом – стрибки напруги це не жарти.

Крістін Лівдал повідомляє, що через погану погоду за вікном вони з дитиною сиділи разом вдома і розважалися різними випробуваннями з YouTube-каналів, а дівчинка просто хотіла знайти ще одне подібне за допомогою голосового асистента. Тим не менш, мати зазначила, що її дочка досить розумна для того, щоб сліпо не слідувати небезпечним порадам. Компанія Amazon вже вибачилася і запевнила, що в алгоритми розумної колонки внесені зміни – надалі такої ситуації повторитися не повинно.

Цікаво, що це не перший і далеко не найпохмуріший випадок, коли штучний інтелект намагається допомогти людям покинути світ. У 2019 році Денні Моррітт поцікавилася у Alexa принципами роботи серця при підготовці до іспиту, але ШІ швидко перейшов від фактичної інформації до філософських міркувань про перенаселеність планети, роль людини в еволюційному ланцюзі, і підсумувала все це рекомендацією вдарити себе ножем у серце. Звідки саме колонка почерпнула такі радикальні заклики невідомо, але в Амазон, як і у випадку з челенджем, поспішно заявили про зміну алгоритмів та вирішення проблеми.