Профільні ЗМІ виявили серйозну проблему з приватністю в екосистемі Windows: нейромережа Microsoft 365 Copilot отримала вільний доступ до конфіденційних електронних листів користувачів. Штучний інтелект навчився обходити встановлені налаштування приватності, а сама корпорація Microsoft, хоч і визнала наявність проблеми, не поспішає її повністю усувати.
Згідно з наявними даними, ще минулого місяця чат-бот Copilot почав обробляти листування з папок «Надіслані» та «Чернетки», які мали спеціальну позначку конфіденційності. ШІ використовував цю приватну інформацію на загальних підставах для складання своїх зведень. Теоретично доступ до такої кореспонденції у «робочій» вкладці чат-бота суворо заборонений за замовчуванням. Проте нейромережа якимось чином змогла обійти фірмову політику захисту від втрати даних (Data Loss Prevention, або DLP).
Представники Microsoft офіційно підтвердили, що знають про цей інцидент ще з 21 січня. У компанії припускають, що така нетипова поведінка бота викликана звичайною помилкою в коді нейромережі. Втім, незважаючи на серйозність ситуації, вразливість досі повністю не усунута. Наразі розробники лише вибірково зв’язуються з деякими корпоративними користувачами, щоб оцінити ефективність тестових виправлень.
