По данным телеканала, Хеллер использовала Claude в качестве личного дневника.
В США модель искусственного интеллекта Claude передала правоохранителям информацию о пользовательнице, которая заявила о намерении устроить стрельбу. Об этом сообщает телеканал WINK News со ссылкой на офис шерифа округа Ли.
Согласно протоколу ареста, 26 сентября женщина, опознанная как Карли Мишель Хеллер, сообщила ИИ-чату, что собирается устроить стрельбу в офисе шерифа. На следующий день она сделала ещё одно заявление — о приобретении нового оружия.
По данным телеканала, Хеллер использовала Claude в качестве личного дневника. Платформа отслеживает ключевые фразы и выявляет потенциально угрожающий контент. Распознав заявления, модель передала информацию группе экспертов, которая затем уведомила правоохранительные органы.
Хеллер задержана. Ей предъявлено обвинение в письменной угрозе насилия по законодательству Флориды. Шериф также отметил, что пользователи «никогда не бывают по-настоящему анонимными» при использовании ИИ-чатов.
Больше актуальных новостей и эксклюзивных видео – в нашем МАХ-канале.
