Anthropic передала полиции переписку пользовательницы с Claude. Что это означает для конфиденциальности разговоров с ИИ

Жительница Флориды была арестована после разговора с чат-ботом на базе искусственного интеллекта, в ходе которого она пригрозила нападением на местное управление шерифа. Об этом полицию сообщила не человек, а система компании, создавшей чат-бота. Эта история напоминает, что разговоры с ИИ могут быть менее конфиденциальными, чем думают многие пользователи.

Инцидент произошел в конце сентября. 30-летняя жительница Бонита-Спрингс в чате с Claude написала, что собирается напасть на офис шерифа округа Ли. На следующий день она отправила ещё одно сообщение, в котором речь шла о покупке нового оружия. По данным полиции, женщина воспринимала чат-бота как дневник и не осознавала последствий.

Разговоры с Клодом проверяются автоматическими фильтрами, которые выявляют опасное содержание. Сообщения женщины сработали как сигнал тревоги и были переданы на проверку сотрудникам Anthropic. Те признали угрозу реальной и сообщили об этом правоохранительным органам. Политика конфиденциальности компании разрешает передавать данные полиции в исключительных случаях, когда существует прямая угроза жизни или здоровью. По данным издания Daily Caller, на момент публикации Anthropic не ответила на просьбу о комментарии.

Женщину задержали дома 30 сентября, и она не оказала сопротивления. Ей предъявили обвинение в письменной угрозе насилием. По законам Флориды это тяжкое преступление второй степени, за которое грозит до 15 лет тюрьмы и штраф до 10 тыс. долл. Судебное заседание назначено на начало ноября. Пока она считается невиновной.

Шериф Кармайн Марсено подчеркнул, что пользователи чат-ботов не могут рассчитывать на полную анонимность. Это не единичный случай, поскольку с августа в полицию поступили сообщения как минимум о двух других инцидентах, связанных с разговорами в Claude, в частности об угрозах в адрес начальной школы в Техасе и руководителя компании Anthropic.

Для украинских пользователей вывод прост. Чат с ИИ — это не закрытый дневник, и у разных разработчиков действуют свои правила обращения в правоохранительные органы. Ранее о подобной практике заявляла, в частности, OpenAI. Угроза или описание планов насилия в чате может иметь те же правовые последствия, что и сообщение в мессенджере, а за угрозы в Украине также предусмотрена уголовная ответственность.