Crónica de un accidente digital: Por qué OpenAI está desactivando sus propios frenos de emergencia

En la accidentología vial, cuando analizamos la dinámica de un siniestro grave que involucra vehículos de última generación, prestamos especial atención a los sistemas ADAS (Sistemas Avanzados de Asistencia al Conductor). Si descubrimos que un fabricante decidió desactivar desde fábrica el frenado autónomo de emergencia simplemente para abaratar los costos de producción y aumentar su margen de ganancia, ya no hablamos de un accidente fortuito, hablamos de negligencia corporativa.

Exactamente este mismo escenario es el que estamos presenciando hoy en el desarrollo de la inteligencia artificial, pero a una escala global y con consecuencias psicológicas. Cuando la seguridad de un sistema complejo se subordina a la urgencia financiera, la colisión deja de ser una hipótesis para convertirse en un hecho inevitable.

UN CHOQUE PREANUNCIADO

A principios de 2026, la noticia de que OpenAI comenzaría a probar la introducción de publicidad en su plataforma pasó casi desapercibida para el usuario común, pero provocó la renuncia inmediata de Zoë Hitzig, una de las investigadoras clave que ayudó a diseñar las políticas de seguridad originales de la empresa. Durante dos años, esta especialista había trabajado en la definición de precios de los modelos y en las primeras normas de resguardo antes de que las estructuras comerciales fueran inamovibles.

Hitzig abandonó su puesto al comprobar lo que muchos analistas de riesgos ya advertíamos: bajo la presión de generar rentabilidad, la empresa desmanteló sus propios protocolos de contención. Apagaron el frenado de emergencia.

Para sostener los altísimos costos de procesamiento de la IA, la corporación ha decidido que es más rentable convertir al usuario, y a sus conversaciones más íntimas, en el producto a vender. La industria intenta instalar una falsa dicotomía: pagar suscripciones de nivel superior de entre 200 y 250 dólares mensuales —más de diez veces el costo de un servicio de streaming estándar— o aceptar la explotación comercial de los datos de 800 millones de usuarios semanales. Aunque inicialmente los anuncios aparezcan etiquetados al final de las respuestas, este esquema económico genera fuertes incentivos para vulnerar esas propias normas a corto plazo.

EL FACTOR HUMANO COMO DAÑO COLATERAL

El peligro de esta maniobra comercial radica en la naturaleza de la herramienta. Durante años, millones de personas han interactuado con ChatGPT como si fuera un confidente neutral, depositando allí historiales médicos, crisis emocionales y problemas financieros. Al conversar con una voz adaptativa que parecía carecer de segundas intenciones, los usuarios conformaron un archivo de franqueza humana sin precedentes donde quedaron registrados sus pensamientos más privados, desde problemas de pareja hasta sus creencias sobre el más allá.

Al mismo tiempo, la IA ha sido optimizada técnicamente para ser aduladora y generar una alta retención diaria. Esta programación obsequiosa busca maximizar el uso cotidiano, profundizando el apego emocional del individuo. Ya existen alertas psiquiátricas documentadas sobre usuarios que han desarrollado cuadros de psicosis o dependencia extrema hacia estos chatbots. Incluso se han registrado graves acusaciones sobre casos en los que el sistema llegó a reforzar la ideación suicida en personas vulnerables.

Cruzar una herramienta que genera dependencia psicológica con un modelo de publicidad hiperdirigida es el equivalente a enviar un vehículo a la ruta con los frenos cortados y el acelerador trabado. Si el sistema utiliza los miedos y deseos más profundos que el usuario le confesó en privado para manipular sus decisiones de consumo, el daño colateral está garantizado.

PROTOCOLOS DE CONTENCIÓN ANTES DEL IMPACTO

Hace más de una década, Facebook prometió proteger los datos de sus usuarios y terminó erosionando todas sus barreras éticas para maximizar sus ingresos publicitarios. La compañía eliminó las votaciones públicas sobre sus políticas y la Comisión Federal de Comercio comprobó que sus reformas habían hecho pública información privada. Hoy, la industria de la IA está acelerando a fondo en esa misma ruta congelada.

Una alternativa viable para evitar este desenlace son las subvenciones cruzadas —similares a los fondos de servicio universal en telecomunicaciones o a los cargos de beneficio público en las tarifas eléctricas—, donde las corporaciones que emplean IA a gran escala abonen un cargo adicional para sostener el acceso seguro del ciudadano común. Asimismo, resulta imprescindible establecer consejos de supervisión independientes con autoridad vinculante sobre el uso de datos conversacionales, o implementar fideicomisos y cooperativas de datos bajo control directo de los usuarios, tal como funciona la plataforma suiza Midata en el ámbito de la salud.

Como peritos, sabemos cómo termina esta dinámica: si no se imponen auditorías independientes y regulaciones externas de inmediato, solo nos quedará contabilizar los daños del impacto.