Генеральний директор OpenAI Сем Альтман вибачився перед громадою міста Тамблер-Рідж (Канада) після того, як з’ясувалося, що компанія не повідомила правоохоронні органи про користувача, причетного до недавньої масової стрільби. Інцидент, який забрав життя восьми людей, викликав бурхливі дискусії про відповідальність розробників ІІ за моніторинг та повідомлення про потенційно небезпечний контент.
Помилка у звітності
Причиною скандалу стало рішення, ухвалене OpenAI у червні 2025 року. Згідно з повідомленнями Wall Street Journal, компанія виявила і заблокувала акаунт ChatGPT 18-річної Джессі Ван Рутселаар після того, як та використовувала платформу для опису сценаріїв із застосуванням вогнепального насильства.
Незважаючи на те, що співробітники OpenAI усередині компанії обговорювали, чи варто сповіщати владу в момент блокування, зрештою вони вирішили цього не робити. Компанія звернулася до канадських правоохоронних органів лише після того, як стрілянина вже сталася.
Реакція на місцеву трагедію
У листі, опублікованому в місцевій газеті Tumbler RidgeLines, Альтман висловив глибокий жаль з приводу бездіяльності компанії. Він зазначив, що консультувався з мером Тамблер-Рідж Деррілом Краковкою та прем’єр-міністром Британської Колумбії Девідом Ебі, і вони зійшлися на тому, що публічні вибачення необхідні, хоча й були відкладені з поваги до почуттів скорботних мешканців.
«Мені щиро шкода, що ми не повідомили правоохоронним органам про обліковий запис, заблокований у червні. Я розумію, що слів завжди буде недостатньо, але вважаю, що вибачення необхідні, щоб визнати ту шкоду і непоправну втрату, яку зазнала ваша громада».
Протоколи безпеки та зміни в політиці
У зв’язку із трагедією OpenAI пообіцяла повністю переглянути свої процедури забезпечення безпеки та звітності. В даний час компанія працює над такими напрямками:
– Гнучкі критерії звітності: уточнення конкретних порогів, за яких інформація передається правоохоронним органам.
– Прямі канали связи: створення виділених каналів взаємодії з канадськими владою задля забезпечення швидшого обміну інформацією.
– Співпраця з державою: робота з різними рівнями влади для запобігання подібним прогалинам у майбутньому.
Політичні та регуляторні наслідки
Незважаючи на вибачення, канадське керівництво відреагувало критично. Прем’єр-міністр Девід Ебі написав у X (колишній Twitter), що, хоча вибачення і були «необхідні», вони залишаються «вкрай недостатніми», враховуючи масштаб руйнувань, які випали на долю постраждалих сімей.
Цей інцидент підкреслює зростаючу напругу в технологічній індустрії: пошук балансу між конфіденційністю користувачів та обов’язком запобігати шкоді. У міру того, як моделі ІІ стають все більш говіркими і здатними імітувати складні людські сценарії, питання про те, коли «цифровий тривожний сигнал» перетворюється на «реальну надзвичайну ситуацію» стає все більш гострим.
Трагедія у Тамблер-Рідж посилила тиск на ІІ-компанії: від них вимагають вийти за рамки простої модерації контенту та перейти до активної, проактивної співпраці зі світовими правоохоронними органами.
