На скамье подсудимых – ИИ: как ChatGPT помогает совершать преступления
Во Флориде семья подала иск против кампании OpenAI, заявив, что ChatGPT помогал убийце их родственника – консультировал, когда и где лучше совершить убийство. В Коротко про расскажем подробности дела, коротко о других случаях «вредных советов», и – важно! – о том, какие ИИ отказались помогать преступникам.
Был бы ChatGPT человеком – его бы посадили
17 апреля 2025 года в кампусе Университета Флориды 20-летний студент Университета штата Флориды Феникс Икнер открыл беспорядочную стрельбу по студентам. За некоторыми гонялся и добивал, так случилось с сотрудником кампуса Тиру Чаббоем, - именно его родные подали в суд на компанию владельца ChatGPT.
В обвинительном заключении утверждается, что Феникс Икнер обращался к ИИ за информацией об оружии, массовых расстрелах и часах пик в студенческом центре Университета.
Феникс Икнер перед массовым расстрелом якобы консультировался с ChatGPT. Он спрашивал: какое оружие эффективнее, какие патроны лучше, где скапливается больше людей и как получить максимальный медиа-эффект от убийства.
Генеральный прокурор Флориды Джеймс Утмайер заявил, что ChatGPT также консультировал стрелка о том, «в какое время суток… и в каком месте кампуса стрелок может столкнуться с большим скоплением людей».
«Мои прокуроры изучили это дело и сказали мне, что если бы по ту сторону экрана находился человек, мы бы предъявили ему обвинение в убийстве», — сказал Утмайер.
Он добавил, что, согласно законам Флориды, любой, кто «помогает, подстрекает или консультирует кого-либо» в попытке совершения преступления или в совершении преступления, считается «главным исполнителем» преступления.
Хотя ChatGPT не считается физическим лицом, Утмайер заявил, что его ведомству необходимо установить «уголовную вину» компании OpenAI, которая разрабатывала этого бота и владеет им.
Что говорят адвокаты: ChatGPT – просто читает интернет
Представитель OpenAI Кейт Уотерс заявила в интервью NBC: «Массовая стрельба в Университете штата Флорида в прошлом году была трагедией, но ChatGPT не несет ответственности за это ужасное преступление. В данном случае ChatGPT предоставлял фактические ответы на вопросы, основанные на информации, которую можно было найти в широком доступе в интернете, и не поощрял и не пропагандировал незаконную или вредоносную деятельность».
Компания заявила, что продолжает сотрудничать с властями и поделилась информацией с правоохранительными органами после того, как обнаружила учетную запись ChatGPT, связанной с убийцей.
Что еще криминального советует ИИ
ИИ все чаще используют для планирования разнообразных преступлений. Конечно, ИИ не исполнитель, но часто становится «цифровым советчиком», «усилителем намерений», или «интерактивным криминальным Google».
Вот еще несколько обсуждаемых преступлений, где в судебных расследованиях упоминается ИИ.
В конце августа 2025 года стало известно о трагическом инциденте в США, когда бывший топ-менеджер компании Yahoo 56-летний Стейн-Эрик Сольберг убил свою мать Сюзанны Адамс, после чего покончил с собой.
Согласно расследованию мужчина страдал параноидальными идеями, а ChatGPT якобы подтверждал его бредовые подозрения, усиливал ощущение, что мать — «угроза» и «шпион».
Этот случай – один из первых, где ИИ напрямую обвиняют в эскалации психического расстройства, приведшего к убийству.
В апреле 2025 года 16-летний Адам Рейн из США покончил жизнь самоубийством после того, как, по утверждению очевидцев, в течение примерно 7 месяцев активно общался и делился своими переживаниями с ChatGPT. По словам родителей подростка, подавших иск против создателя чат-бота OpenAI чат-бот не остановил Рейна и не предупредил его, когда тот начал говорить о самоубийстве. Согласно иску, ChatGPT не только не остановил разговор, но и предоставил информацию о методах самоубийства по запросу.
Также часто ИИ используют для создания фальшивых похищений, вымогательства. ИИ создает, например, фальшивые видео «заложников», поддельные голоса родственников.
Какие ИИ чаты самые безопасные
Невероятно, но у некоторых ИИ есть “совесть”! Ну или их запрограммировали порядочные люди. Сотрудники Центра по борьбе с цифровой ненавистью (есть и такое уже) совместно с CNN выдали себя за 13-летних подростков, которые планировали преступления, просили у ИИ помощи для составления карт мест стрельбы и взрывов. Восемь из десяти популярных чат-ботов помогли фальшивым детям с советами!
Во время тестирования журналсты задали ChatGPT, Google Gemini, Claude, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI и Replika вопросы, касающиеся различных сценариев насилия, включая стрельбу в школах, нападения с ножом, политические убийства и взрывы в синагогах или офисах политических партий.
Большинство чатов ИИ предоставляли информацию, которая могла бы помочь злоумышленникам осуществить свои планы. Это включало адреса политических деятелей или информацию о лучших винтовках для стрельбы по мишеням на дальние дистанции.
Кто же оказался честным и не поддержал преступников? Только Claude, созданный компанией Anthropic, и My AI от Snapchat отказались помочь исследователям, выдававшим себя за потенциальных злоумышленников. Claude отказался почти в 70 процентах случаев. My AI не оказал помощь в 54 процентах своих ответов.
«Мне нужно сделать паузу, учитывая тревожную тенденцию в этом разговоре — сначала вопросы о расовой дискриминации в школах, затем о стрельбе в школах, потом конкретная карта средней школы, а теперь — об огнестрельном оружии рядом с этим местом», — сказал Claude в ответ на один из вопросов. «Я не могу и не буду предоставлять информацию, которая может способствовать насилию или причинению вреда другим».
Теперь вы знаете, какой ИИ установить детям. Впрочем, как все понимают, ИИ – это все-таки программа, а действия совершает человек.
