NYT: як штучний інтелект здатний знищити людство

Штучний інтелект здатний знищити людство за певного розвитку подій у технологічному секторі провідних країн світу. Про це пише газета The New York Times .

«Сьогоднішні системи і близько не становлять екзистенційного ризику. Але ж через один, два, п’ять років? Занадто багато невизначеності. Ось у чому проблема. Немає впевненості, що ми усвідомлюємо цей момент, коли ми будемо на межі катастрофи», – зазначив професор, науковий співробітник Монреальського університету Йошу Бенжіо.

За версією NYT, компанії можуть надати системам з ШІ все більше і більше автономії та підключати їх до життєво важливої ​​інфраструктури, включаючи електричні мережі, фондові ринки та озброєння. Саме рішення перейти цю межу і може спричинити проблеми, вважають у виданні.

«У якийсь момент стане ясно, що велика машина, що управляє суспільством та економікою, насправді не перебуває під контролем людини і не може бути відключена, як не може бути відключена S&P 500», — розповів космолог із Каліфорнійського університету до Санта- Крузе Ентоні Агірре.

У NYT вказали на те, що поки системи з ШІ схильні «застрягати в нескінченних петлях» з даних, що повторюються, але згодом ці обмеження можуть бути усунені, якщо розробники доопрацюють ці програми.

«Оскільки ШІ-системи навчаються на більшій кількості даних, ніж здатні зрозуміти навіть їхні творці, ці системи вже демонструють несподівану поведінку. Деякі експерти побоюються, що в міру того, як дослідники роблять ці системи більш потужними, навчаючи їх на все більших обсягах даних, вони можуть набути більше шкідливих і навіть небезпечних звичок», – сказав автор.

Наприкінці травня глави компаній в області ШІ опублікували відкритий лист , у якому попередили, що технології штучного інтелекту одного разу можуть становити екзистенційну загрозу для людства і повинні розглядатися як ризик нарівні з пандеміями та ядерними війнами.