Генеральный директор OpenAI Сэм Альтман принес официальные извинения общине города Тамблер-Ридж (Канада) после того, как выяснилось, что компания не уведомила правоохранительные органы о пользователе, причастном к недавней массовой стрельбе. Инцидент, унесший жизни восьми человек, вызвал бурные дискуссии об ответственности разработчиков ИИ за мониторинг и сообщение о потенциально опасном контенте.
Ошибка в отчетности
Причиной скандала стало решение, принятое OpenAI в июне 2025 года. Согласно сообщениям Wall Street Journal, компания выявила и заблокировала аккаунт ChatGPT 18-летней Джесси Ван Рутселаар после того, как та использовала платформу для описания сценариев с применением огнестрельного насилия.
Несмотря на то, что сотрудники OpenAI внутри компании обсуждали, стоит ли оповещать власти в момент блокировки, в конечном итоге они решили этого не делать. Компания обратилась к канадским правоохранительным органам только после того, как стрельба уже произошла.
Реакция на местную трагедию
В письме, опубликованном в местной газете Tumbler RidgeLines, Альтман выразил глубокое сожаление по поводу бездействия компании. Он отметил, что консультировался с мэром Тамблер-Ридж Дэррилом Краковкой и премьер-министром Британской Колумбии Дэвидом Эби, и они сошлись на том, что публичные извинения необходимы, хотя и были отложены из уважения к чувствам скорбящих жителей.
«Мне искренне жаль, что мы не сообщили правоохранительным органам о аккаунте, заблокированном в июне. Я понимаю, что слов всегда будет недостаточно, но считаю, что извинения необходимы, чтобы признать тот вред и невосполнимую утрату, которые понесла ваша община».
Протоколы безопасности и изменения в политике
В связи с трагедией OpenAI пообещала полностью пересмотреть свои процедуры обеспечения безопасности и отчетности. В настоящее время компания работает над следующими направлениями:
— Гибкие критерии отчетности: уточнение конкретных порогов, при которых информация передается правоохранительным органам.
— Прямые каналы связи: создание выделенных каналов взаимодействия с канадскими властями для обеспечения более быстрого обмена информацией.
— Сотрудничество с государством: работа с различными уровнями власти для предотвращения подобных пробелов в будущем.
Политические и регуляторные последствия
Несмотря на извинения, канадское руководство отреагировало критически. Премьер-министр Дэвид Эби написал в X (бывший Twitter), что, хотя извинения и были «необходимы», они остаются «крайне недостаточными», учитывая масштаб разрушений, выпавших на долю пострадавших семей.
Этот инцидент подчеркивает растущее напряжение в технологической индустрии: поиск баланса между конфиденциальностью пользователей и обязанностью предотвращать вред. По мере того как модели ИИ становятся всё более разговорчивыми и способными имитировать сложные человеческие сценарии, вопрос о том, когда «цифровой тревожный сигнал» превращается в «реальную чрезвычайную ситуацию», становится всё более острым.
Трагедия в Тамблер-Ридж усилила давление на ИИ-компании: от них требуют выйти за рамки простой модерации контента и перейти к активному, проактивному сотрудничеству с мировыми правоохранительными органами.
