Anthropic передала поліції переписку користувачки з Claude. Що це означає для приватності розмов із ШІ

Жителька Флориди потрапила під арешт після розмови з чат-ботом зі штучним інтелектом, у якій пригрозила нападом на місцеве управління шерифа. Поліцію про це сповістила не людина, а система компанії, що створила чат-бот. Історія нагадує, що розмови з ШІ можуть бути менш приватними, ніж гадають багато користувачів.

Інцидент стався наприкінці вересня. 30-річна жителька Бонита-Спрінгс у чаті з Claude написала, що збирається напасти на офіс шерифа округу Лі. Наступного дня вона надіслала ще одне повідомлення, в якому йшлося про купівлю нової зброї. За даними поліції, жінка сприймала чат-бот як щоденник і не усвідомлювала наслідків.

Розмови з Claude перевіряють автоматичні фільтри, які шукають небезпечний зміст. Повідомлення жінки спрацювали як сигнал, і їх передали на перевірку співробітникам Anthropic. Ті визнали загрозу реальною й повідомили правоохоронців. Політика приватності компанії дозволяє передавати дані поліції у винятках, коли існує пряма загроза життю чи здоров’ю. За даними видання Daily Caller, на момент публікації Anthropic прохання про коментар не відповіла.

Жінку затримали вдома 30 вересня, і вона не чинила опору. Їй висунули звинувачення в письмовій погрозі насильством. За законами Флориди це тяжкий злочин другого ступеня, за який загрожує до 15 років в’язниці й штраф до 10 тис. дол. Судове засідання призначили на початок листопада. Поки вона вважається невинною.

Шериф Кармайн Марсено наголосив, що користувачі чат-ботів не можуть розраховувати на повну анонімність. Це не поодинокий випадок, бо від серпня поліції повідомили щонайменше про ще два інциденти з розмовами в Claude, зокрема про погрози початковій школі в Техасі та керівнику Anthropic.

Для українських користувачів висновок простий. Чат із ШІ не є замкненим щоденником, і правила щодо звернень до правоохоронців існують у різних розробників. Раніше про подібну практику заявляла, зокрема, OpenAI. Погроза чи опис планів насильства в чаті може мати ті самі правові наслідки, що й повідомлення в месенджері, а за погрози в Україні також передбачена кримінальна відповідальність.