Generální ředitel OpenAI Sam Altman vydal formální omluvu komunitě Tumbler Ridge v Kanadě poté, co bylo odhaleno, že společnost neinformovala orgány činné v trestním řízení o uživateli zapojeném do nedávné hromadné střelby. Incident, který si vyžádal osm mrtvých, vyvolal vášnivou debatu o odpovědnosti vývojářů umělé inteligence za sledování a hlášení potenciálně škodlivého obsahu.
Chyba při hlášení
Příčinou skandálu bylo rozhodnutí OpenAI v červnu 2025. Podle zpráv z Wall Street Journal společnost identifikovala a pozastavila účet ChatGPT 18leté Jessie Van Rootselaar poté, co platformu použila k popisu scénářů násilí se zbraněmi.
Přestože zaměstnanci OpenAI interně diskutovali o tom, zda v době zablokování informovat úřady, nakonec se rozhodli tak neučinit. Společnost kontaktovala kanadské orgány činné v trestním řízení až poté, co již ke střelbě došlo.
Reakce na místní tragédii
V dopise zveřejněném v místních novinách Tumbler RidgeLines Altman vyjádřil hlubokou lítost nad nečinností společnosti. Poznamenal, že to konzultoval se starostou Tumbler Ridge Darrylem Krakowkou a premiérem Britské Kolumbie Davidem Ebym a tito se shodli, že je nutná veřejná omluva, i když byla odložena kvůli respektu k pocitům truchlících obyvatel.
“Upřímně lituji, že jsme neinformovali orgány činné v trestním řízení o účtu, který byl zablokován v červnu. Chápu, že slov nebude nikdy dost, ale věřím, že omluva je nezbytná, abychom uznali újmu a nenahraditelnou ztrátu, kterou vaše komunita utrpěla.”
Bezpečnostní protokoly a změny zásad
V reakci na tragédii se OpenAI zavázala, že kompletně přepracuje své bezpečnostní a ohlašovací postupy. Společnost v současné době pracuje v následujících oblastech:
– Flexibilní ohlašovací kritéria: objasnění konkrétních prahových hodnot, při kterých se informace předávají donucovacím orgánům.
– Přímé komunikační kanály: Zřízení vyhrazených komunikačních kanálů s kanadskými úřady pro zajištění rychlejší výměny informací.
– Spolupráce s vládou: spolupráce s různými úrovněmi správy, aby se předešlo podobným mezerám v budoucnu.
Politické a regulační důsledky
Navzdory omluvě kanadské vedení reagovalo kriticky. Premiér David Eby napsal na X (dříve Twitter), že i když byla omluva „nezbytná“, zůstává „žalostně nedostatečná“ vzhledem k rozsahu devastace, kterou postižené rodiny utrpěly.
Incident poukazuje na rostoucí napětí v technologickém průmyslu: vyvažování soukromí uživatelů s odpovědností předcházet škodám. Jak se modely umělé inteligence stávají konverzačními a schopnými simulovat složité lidské scénáře, stává se stále naléhavější otázka, kdy se „digitální alarm“ stane „skutečnou nouzovou situací“.
Tragédie Tumblr Ridge zvýšila tlak na společnosti s umělou inteligencí, aby přešly od pouhého moderování obsahu k aktivní a proaktivní spolupráci s globálními donucovacími orgány.
