El director ejecutivo de OpenAI, Sam Altman, se disculpó formalmente con la comunidad de Tumbler Ridge, Canadá, luego de que se reveló que la compañía no notificó a las autoridades sobre un usuario vinculado a un tiroteo masivo reciente. El incidente, que provocó la muerte de ocho personas, ha provocado un acalorado debate sobre la responsabilidad de los desarrolladores de inteligencia artificial en el seguimiento y denuncia de contenidos potencialmente violentos.
La falta de denuncia
La controversia surge de una decisión tomada por OpenAI en junio de 2025. Según informes del Wall Street Journal, la compañía identificó y prohibió la cuenta ChatGPT de Jesse Van Rootselaar, de 18 años, después de que ella usara la plataforma para describir escenarios relacionados con la violencia armada.
Si bien el personal de OpenAI debatió internamente si alertar a las autoridades en el momento de la prohibición, finalmente decidieron no hacerlo. Sólo después del tiroteo la empresa se puso en contacto con las autoridades canadienses.
Una respuesta a una tragedia local
En una carta publicada en el periódico local Tumbler RidgeLines, Altman expresó su profundo pesar por la inacción de la empresa. Señaló que había consultado con el alcalde de Tumbler Ridge, Darryl Krakowka, y el primer ministro de Columbia Británica, David Eby, y coincidió en que era necesaria una disculpa pública, aunque retrasada por respeto al proceso de duelo de la comunidad.
“Lamento profundamente no haber alertado a las autoridades sobre la cuenta que fue prohibida en junio. Si bien sé que las palabras nunca son suficientes, creo que es necesaria una disculpa para reconocer el daño y la pérdida irreversible que ha sufrido su comunidad”.
Protocolos de seguridad y cambios de políticas
A raíz de la tragedia, OpenAI se ha comprometido a revisar sus procedimientos de seguridad y presentación de informes. Actualmente la empresa está trabajando en:
– Criterios de presentación de informes flexibles: Refinar los umbrales específicos que desencadenan una remisión a las autoridades.
– Canales de comunicación directa: Establecer puntos de contacto dedicados con las autoridades canadienses para garantizar un intercambio de información más rápido.
– Colaboración gubernamental: Trabajar con varios niveles de gobierno para evitar fallos similares en el futuro.
Repercusiones políticas y regulatorias
A pesar de las disculpas, la respuesta de los líderes canadienses ha sido crítica. El primer ministro David Eby recurrió a X (anteriormente Twitter) para afirmar que, si bien la disculpa era “necesaria”, sigue siendo “extremadamente insuficiente” dada la escala de la devastación experimentada por las familias involucradas.
Este incidente pone de relieve una tensión creciente en la industria tecnológica: el equilibrio entre la privacidad del usuario y el deber de prevenir daños. A medida que los modelos de IA se vuelven más conversacionales y capaces de simular escenarios humanos complejos, la cuestión de cuándo una “bandera roja digital” se convierte en una “emergencia del mundo real” se vuelve cada vez más urgente.
La tragedia en Tumbler Ridge ha intensificado la presión sobre las empresas de inteligencia artificial para que vayan más allá de la simple moderación de contenido y avancen hacia una cooperación activa y proactiva con las fuerzas del orden globales.
