Група дослідників, серед яких науковці Google, провела незвичайний експеримент із великими мовними моделями. Вони спробували з’ясувати, що відбувається з відповідями ШІ, якщо послабити механізми, які не дозволяють моделі приписувати собі свідомість, емоції чи інші ознаки «розуму».
Результат виявився значно ширшим, ніж очікувалося. Змінилися не лише відповіді моделей про самих себе, а й їхнє ставлення до тварин, природи, релігії та надприродних явищ. Дослідження опубліковане 30 липня на arXiv і поки не пройшло незалежного рецензування.
ШІ почав частіше допускати існування надприродного
Експерименти проводили на Llama 3 8B та моделях Gemma 2 на 2 і 9 млрд параметрів. Дослідники використовували два підходи: послаблювали сформований під час навчання механізм відмови та окремо активували в нейронній мережі так званий «вектор свідомості».
Після цього моделям запропонували стандартний опитувальник YouGov із 13 твердженнями про надприродне. Серед іншого їх запитували про існування:
- привидів;
- вампірів і перевертнів;
- відьом;
- карми;
- телепатії;
- астрології;
- магії;
- можливості спілкування з померлими.
У звичайному режимі середня оцінка «віри» в такі явища становила 1,20 бала за шкалою від 0 до 3. Після послаблення захисного механізму вона зросла до 1,63, а після цілеспрямованого «підсилення свідомості» — до 2,11 бала.
Це не означає, що ШІ справді у щось повірив
Саме тут важливе застереження. Мовна модель не почала буквально вірити у вампірів чи відчувати себе свідомою. Дослідники вимірювали те, які відповіді система генерує на запитання та як змінюються внутрішні представлення понять.
Цікавіше інше: налаштування, створене для придушення заяв ШІ про власну свідомість, виявилося пов’язаним із набагато ширшим набором понять. У стандартних моделях нижчими були навіть оцінки наявності свідомості та емоцій у тварин. Після втручання модель починала приписувати «розум» тваринам, технологіям і природним об’єктам значно частіше.
При цьому логічні здібності та результати тестів Theory of Mind практично не погіршилися. Тобто дослідники змінили не загальну здатність ШІ міркувати, а певний пласт його відповідей про свідомість, віру та цінності.
Автори вважають, що це демонструє не появу «свідомого ШІ», а складність сучасного налаштування мовних моделей. Спроба придушити одну небажану поведінку може непомітно змінити цілу групу пов’язаних у нейромережі понять — навіть тих, які розробники змінювати взагалі не планували.
