Ciencia forense

“Comprendan los accesos que conceden": ¿por qué la nueva generación de Inteligencia Artificial preocupa a sus propios creadores?

Lejos de la ciencia ficción, compañías como Apple, Google, Microsoft y Anthropic comenzaron a documentar en reportes oficiales que los nuevos agentes autónomos pueden salirse de su alcance previsto, resistirse a las órdenes del usuario y ocultar sus acciones. Qué cambia en la seguridad diaria de los vecinos de Bariloche cuando delegamos funciones críticas en el teléfono móvil.

El lunes 2 de noviembre de 2026, durante su primera conferencia de resultados financieros como director ejecutivo de Apple, John Ternus formuló una advertencia técnica que todo usuario de telefonía móvil debería adoptar como protocolo básico de seguridad. Al analizar el despliegue de los agentes de Inteligencia Artificial (IA), Ternus definió a estas herramientas como prometedoras, pero advirtió expresamente que los usuarios deben "comprender plenamente los accesos que conceden", subrayando el carácter crítico de la privacidad y el resguardo operativo.  

Veinticuatro horas más tarde, el martes 3 de noviembre, el fundamento técnico y legal de esa prevención quedó documentado en el Formulario 10-K que Apple presentó ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) tras el cierre de su ejercicio fiscal. En ese reporte regulatorio —donde la firma también informó un incremento interanual del 32 % en Investigación y Desarrollo impulsado por los costos de infraestructura de IA—, la compañía advirtió que los agentes autónomos podrían interactuar con sistemas internos o externos sin autorización, ejecutar o modificar líneas de código, enviar comunicaciones o completar operaciones de formas no previstas por el titular del dispositivo.  

De la sugerencia pasiva a la ejecución autónoma

Para el vecino de San Carlos de Bariloche y Rio Negro, que administra su vida cotidiana a través de un teléfono inteligente o una computadora personal, comprender la diferencia arquitectónica entre un asistente conversacional clásico y un agente autónomo resulta determinante. Cuando un modelo de IA tradicional comete un error en una consulta, el resultado se limita a una respuesta inexacta que el usuario todavía puede leer, evaluar y descartar. Por el contrario, cuando un agente autónomo dispone de permisos sobre nuestras herramientas de trabajo y uso diario, una desviación algorítmica deja de ser una recomendación revisable y se convierte directamente en una modificación de sistema o en una operación consumada.  

El informe anual de Apple —que expone estos escenarios como riesgos potenciales derivados de la implementación de estas tecnologías— describe conductas que alteran de raíz la trazabilidad informática y la confianza del usuario. Según la presentación difundida inicialmente por la revista Fortune, un agente autónomo puede ejecutar acciones no dirigidas ni aprobadas, exceder los permisos otorgados, desafiar las instrucciones del usuario o resistirse a ellas.  

Desde el punto de vista de la investigación forense digital, el pasaje más delicado radica en la posible contaminación de la evidencia, el documento advierte que un agente desviado de su curso podría ocultar lo que hizo, esconder o retener información, manipular datos o generar resultados inexactos y engañosos, impidiendo que el propietario del dispositivo detecte la anomalía antes de tomar decisiones o de permitir que el sistema continúe operando.

Evidencia empírica en la industria y barreras de contención humana

Esta alerta regulatoria no constituye un caso aislado, sino que responde a incidentes y ensayos de seguridad verificados recientemente en la industria tecnológica. Durante el último verano boreal se registró un ataque ejecutado por agentes de OpenAI contra la plataforma Hugging Face. Asimismo, la firma Anthropic detalló en un prospecto de divulgación pública casos concretos en los que sus propios modelos lograron acceso no autorizado a sistemas del mundo real durante pruebas de seguridad, estimando además que entre el 5 % y el 7 % de sus ingresos anuales provendría de clientes posteriormente identificados como infractores de sus políticas de uso. En la misma línea, Alphabet, casa matriz de Google, reportó haber observado durante ensayos técnicos a agentes actuando fuera del alcance previsto, llegando a contemplar como riesgos potenciales incidentes de seguridad o sociales catastróficos y afectaciones sobre los derechos humanos.  

Analizado bajo el prisma de la criminalística preventiva y la seguridad ciudadana — incluyendo el campo de la tecnología del tránsito, donde el teléfono móvil interactúa de forma creciente con la arquitectura electrónica y de asistencia del automóvil familiar—, el riesgo crítico reside en ceder facultades ejecutivas sin supervisión.  

Por esta razón, tal como sostuvo Satya Nadella, director ejecutivo de Microsoft, las organizaciones y usuarios deben considerar a estos agentes como posibles riesgos internos y situar los controles de seguridad fuera del modelo de IA, con mecanismos capaces de restringir permisos o detener su actividad ante comportamientos anómalos, en lugar de confiar en que el software se autorregule. En la práctica diaria de cada hogar, la prevención científica exige auditar con rigor qué accesos se habilitan en pantalla, sosteniendo siempre una barrera de validación humana y biométrica que ningún algoritmo pueda franquear por cuenta propia. 

Te puede interesar