Нейромережі зараз використовують у різних галузях, включно з медициною, сферою послуг, фінансів та іншими. ШІ допомагає швидше і точніше діагностувати захворювання, розробляти нові ліки і методи лікування, дає цінні фінансові та інші поради. Звучить ідеально, проте редакція GSMinfo розбирається, наскільки українцям можна довіряти нейромережам власне здоров’я, бюджет чи бізнес.
Ми вже досить легко довіряємо ШІ створення зображень, текстів і почасти – навіть керування автомобілем. У банках первинні рішення про видачу кредитів та їхні умови теж часто приймає ШІ. Однак люди поки що не готові до того, що нейромережа почне їх лікувати або надавати консультаційні послуги, що стосуються важливих сфер життя. У цій статті ми розберемо можливість довіри до ШІ у відповідальних галузях на прикладі медицини – все ж таки в цій сфері штучний інтелект використовується вже досить часто. Але наскільки можна на нього покластися?
У медицині штучний інтелект застосовують під час діагностики захворювань: він аналізує медичні дані пацієнтів (знімки, МРТ, КТ, аналізи) і виявляє ознаки захворювань, які можуть бути пропущені лікарем-людиною. Це допомагає лікарям швидше і точніше поставити діагноз.
Нейромережі можуть бути задіяні для розробки нових ліків і методів лікування завдяки здатності аналізувати великі обсяги даних про пацієнтів, їхній стан, процедури та медикаменти, що застосовуються під час лікування, і знаходити нові зв’язки та закономірності. Також нейромережі активно використовують для автоматизації рутинних завдань, як-от заповнення медичних карт, обробка результатів лабораторних досліджень, поліпшення якості рентгенівських знімків. Це може допомогти людям заощадити час і зосередитися на складніших завданнях.
Етика використання ШІ
Насамперед, використання нейромереж порушує цілу низку етичних питань. Адже вони теж можуть помилятися, особливо якщо працюють з неповними або неправильними даними. Хто несе відповідальність за здоров’я і життя пацієнта, якщо йдеться про медицину? Звісно, медичний працівник, лікар. Тільки людина може ухвалити остаточне рішення, штучний інтелект у випадку з медициною – третя думка: лікар, консиліум, ШІ.
Ще одне етичне питання пов’язане з можливим скороченням працівників. Багато хто побоюється, що використання нейромереж може призвести до втрати робочих місць. Деякі завдання, які раніше виконували люди, тепер автоматизовані: у медицині це аналіз знімків рентгена, КТ, МРТ і даних лабораторних досліджень, заповнення медичних карт і документів тощо.
Однак на нинішньому етапі розвитку технологій без людини не можна обійтися. Але в майбутньому використання нейромереж може змінити деякі ролі людини в системі. Замість того, щоб виконувати рутинні завдання, деякі працівники можуть стати консультантами, які аналізують результати, отримані за допомогою нейромереж, і приймають рішення на основі цих результатів.
Крім того, не будемо забувати про емпатію, якої немає і не може бути у штучного інтелекту. Так, у медицині кожен пацієнт індивідуальний, і навіть повідомлення йому діагнозу вимагає особливого підходу, а на це здатна тільки людина.
ШІ має бути просто використовувати
Нейромережі мають зменшувати навантаження на людину, тому користувацький інтерфейс має бути інтуїтивно зрозумілим і зручним, щоб забезпечити максимальну ефективність і точність аналізу даних. В іншому разі, замість економії часу і ресурсів, фахівцям доведеться розбиратися в роботі застосунку і проходити додаткове навчання.
Особливу складність це може становити для людей старшого покоління, досвідчених, але не настільки просунутих користувачів нових технологій.
Тому розробники програмного забезпечення намагаються зробити інтерфейс максимально лаконічним і зрозумілим. Наприклад, лікарю достатньо ввести скарги пацієнта, виявлені під час первинного огляду, а нейромережева модель самостійно шукає найбільш підходящі діагнози, порівнюючи введені дані з анамнезами пацієнтів зі своєї бази. У підсумку ШІ видає ймовірні діагнози.
Небезпека помилки
Точність діагнозу, поставленого за допомогою нейромережі в медицині, або поради, яку дав фінансовий консультант, може бути високою, але вона не має 100% точності.
Важливо пам’ятати, що нейромережа – це інструмент, який може допомогти фахівцям, але не замінює їх у жодному разі. Крім того, достовірність відповідей нейромережі багато в чому залежить не тільки від самих алгоритмів, а й від якості інформації, яку ШІ отримує як вхідні дані, а також від прикладів, на яких модель навчалася.
На будь-якому етапі можуть закрастися помилки. Якщо дані неповні, неправильні або не репрезентативні, точність відповіді або постановки діагнозу може бути знижена.
Дуже важливо не покладатися сліпо на відповіді нейромережі. Але проблема полягає в тому, що чим “розумнішим” і точнішим стає алгоритм, тим більше людина схильна йому довіряти.
Крім того, нейромережі можуть припускатися помилок, особливо якщо під час навчання були допущені помилки. Наприклад, якщо нейромережа навчається на медичних зображеннях, які містять ознаки раку, але деякі з цих зображень насправді чисті, то нейромережа може почати бачити ознаки раку там, де їх насправді немає, що призведе до постановки неправильного діагнозу.
Галюцинації нейромереж
Дослідники ШІ виявили, що іноді трапляються галюцинації нейромережі – вона починає поводитися неправильно без жодних на те причин. Відповідно, і результати її роботи стають непередбачуваними.
Наприклад, у медицині нейромережі можуть галюцинувати, змінюючи якісь деталі під час реконструкції зображення, тим самим вводячи медиків в оману.Наприклад, нейромережі можуть помилково виявляти у людей, які перехворіли на коронавірус, ураження організму, яких насправді немає.
Розв’язати цю проблему в майбутньому мають спеціальні критерії та правила, додаткові інструменти контролю, що не дозволяють ШІ нічого змінювати на зображенні, а лише збільшувати його роздільну здатність. Також можливо, уникнути цього допоможе створення системи мотивації ШІ за правильні відповіді, але поки що галюцинації нейромережі можуть призвести до плачевного результату.
Проблема безпеки даних
З одного боку, нейромережі прискорюють багато процесів: видачі кредитів, прийому пацієнтів і постановки діагнозу, скорочують витрати на паперову роботу тощо. Алгоритми ШІ можуть обробляти й аналізувати інформацію, включно з персональними даними, медичними зображеннями, результатами лабораторних досліджень та іншою конфіденційною інформацією. Тому важливо забезпечити їхній захист, запобігти несанкціонованому доступу до них або їхньому використанню без відома клієнта або пацієнта. Але хакери нерідко крадуть особисті дані людей, отримуючи доступ до баз даних.
На жаль, часто самі розробники підривають довіру до себе, використовуючи без попередження дані для навчання нейромереж. Так, ще 2017 року у Великій Британії вибухнув скандал через незаконне використання персональних даних 1,6 млн осіб лабораторією Google DeepMind, яка займалася розробкою застосунку, що попереджає лікарів про можливе виникнення ниркової недостатності у пацієнтів.
Нейромережі та боязнь нового
Використання нейромереж може викликати страх перед новим у деяких людей. Це пов’язано з тим, що нейромережі є складною і не завжди зрозумілою технологією, яка може бути непередбачуваною і викликати побоювання. Нове завжди лякає – така природа людини.
Наприклад, у медицині деякі пацієнти можуть просто перестати звертатися до лікарів через недовіру до нових технологій. Крім того, використання нейромереж може викликати побоювання у деяких медиків, які вважатимуть, що через ШІ вони можуть втратити контроль над процесом діагностики та лікування, а також нестимуть відповідальність за його помилки.
Підбиваємо підсумки
Використання нейромереж у відповідальних сферах має як переваги, так і недоліки. Нейромережі можуть допомогти лікарям швидше і точніше поставити діагноз. ШІ може дати якісну фінансову пораду, описати інвестиційну стратегію та обробити величезні масиви даних з фінансовими звітами. Але нейромережі можуть помилятися, і люди повинні бути готові взяти на себе відповідальність, не довіряючи сліпо АІ
Використання нейромереж може змінити роль людини в системі, знизивши на неї навантаження і якоюсь мірою перетворивши її на консультанта, який аналізує дані, отримані від нейромережевого помічника. Важливо продовжувати дослідження і розробки в цій галузі, щоб у майбутньому мінімізувати ризики і розширити сферу застосування штучного інтелекту.
-
-
-
-
