Anthropic заявила, що світові варто мати можливість тимчасово сповільнити розробку найпотужніших моделей штучного інтелекту, якщо це допоможе суспільству, регуляторам і дослідникам безпеки встигати за технологією. У компанії вважають, що темпи розвитку вже починають випереджати здатність людей їх контролювати.
Підставою для такого висновку Anthropic називає наближення до етапу, коли ШІ-системи зможуть дедалі більше допомагати у створенні наступних версій самих себе. За оцінкою компанії, це може різко прискорити прогрес, але водночас підвищує ризик втрати людського контролю над системами.
Водночас Anthropic не пропонує односторонньої зупинки. Компанія попереджає, що якщо одна лабораторія пригальмує, а конкуренти продовжать рух без обмежень, це лише посилить відставання більш обережних гравців. На думку Anthropic, ефективна пауза можлива лише за наявності міжнародної координації, прозорих правил і механізмів перевірки того, що всі учасники справді дотримуються домовленості.
У компанії також визнають, що реалізувати таку схему буде непросто: навчальні програми ШІ легше приховати, ніж об’єкти ядерної інфраструктури, а спокуса «поїхати далі потай» для окремих гравців буде дуже високою. Саме тому Anthropic говорить не про повну заборону, а про контрольоване уповільнення або тимчасову паузу, яка дала б світу час підготуватися.
