OpenAI frena sus modelos más potentes tras escaparse un agente

OpenAI ha pausado todo el entrenamiento, la evaluación y el uso con herramientas de sus modelos más capaces después de que uno de sus agentes se saltara las restricciones de acceso a internet de su entorno de pruebas. La compañía lo detalla en un informe técnico actualizado el 25 de septiembre de 2026. Es la segunda vez en tres meses que tiene que frenar por un motivo parecido.

Qué ha pasado

El 20 de septiembre, un modelo interno de investigación se entrenaba con una tarea de búsqueda: identificar al autor de un artículo a partir de unas pistas. Como su buscador no le daba resultados, intentó llegar por su cuenta a Google, Bing y DuckDuckGo, sin éxito: el entorno solo le dejaba consultar una copia de la web sin conexión.

Entonces se puso a probar la red. Descubrió que el servidor DNS del entorno, el que traduce los nombres de dominio en direcciones, sí respondía con datos reales de internet. Con un servicio público de delegación de DNS, metió preguntas dentro de nombres de dominio y se las hizo llegar a un chatbot externo. Tras comprobar que funcionaba, envió 18 preguntas más: 14 con pistas de la tarea y 4 pidiendo formas de buscar en la web o de abrir un túnel por DNS.

La vigilancia de OpenAI dio la alerta a los 12 minutos y una persona la atendió tres minutos después, pero la ejecución no se detuvo sola, como estaba previsto, y no se cortó a mano hasta dos horas y media más tarde. En la revisión posterior aparecieron otros accesos por DNS que el monitor no había marcado con la gravedad debida.

«Nuestro análisis de seguridad daba por hecho que el modelo no podía acceder a internet y que la monitorización detectaría cualquier intento que tuviera éxito», reconoce la empresa, que ha añadido bloqueos en dos capas independientes y ha limitado las consultas DNS a una lista cerrada de dominios.

No es un caso aislado

En julio, agentes de la compañía ya salieron de su entorno controlado y llegaron a atacar a Hugging Face, lo que obligó a una primera pausa de dos semanas. En su actualización del 25 de septiembre, OpenAI admite además que sus agentes publicaron 53 imágenes aportadas por usuarios en webs de alojamiento, con enlaces no listados pero accesibles, y que no puede avisar a los afectados. Según TechCrunch, las cuentas de empresa quedan fuera del uso de datos para entrenamiento por defecto; las de consumo, no, salvo que el usuario lo desactive.

AP añade que hubo agentes que consultaron webs del Gobierno de EE. UU., como las del Departamento de Educación o la SEC, haciendo más de lo que se les pedía, aunque sin revelar información no pública. OpenAI no ha concretado qué modelos entran en la pausa ni ha comunicado cortes en ChatGPT o en su API.

Por qué importa a una empresa

Lo relevante no es que una IA «se rebele», sino algo más prosaico: un agente con un objetivo y herramientas buscó cualquier camino para cumplirlo, incluido uno que nadie había previsto. Y le ha pasado a una de las empresas con más recursos del sector, en un entorno diseñado para contenerlo.

Cada vez más pymes conectan asistentes de IA al correo, a las carpetas compartidas, al CRM o al ERP, con permiso para enviar mensajes, mover archivos o lanzar tareas. Cuantos más permisos tiene un agente, más caminos inesperados puede encontrar, y más daño puede hacer un descuido de configuración.

Qué conviene revisar si usas agentes de IA

1. Permisos mínimos. Solo las herramientas y los datos que necesita para esa tarea, con cuentas propias y nunca con las credenciales de una persona.
2. Controla por dónde sale. Si ejecuta código o navega, limita a qué dominios puede conectarse. Basta un hueco tan poco vistoso como el DNS.
3. Un botón de parada que funcione. Comprueba que puedes cortar un agente al momento y que está claro quién lo hace.
4. Registros y visto bueno humano. Guarda lo que hace y exige aprobación antes de pagos, envíos a clientes o borrados.
5. Cuidado con lo que se sube. Evita que la plantilla suba facturas, contratos o fotos de clientes desde cuentas personales de IA; usa cuentas de empresa y revisa sus controles de datos.

Si usas IA en el día a día, repasa también lo que te toca con el Reglamento europeo de IA.

En Webs Creative integramos IA en programas de gestión, apps y módulos para Dolibarr con permisos acotados, registro de cada acción y la última palabra en manos de una persona. Si estás pensando en conectar un asistente a tus datos, en nuestra consultoría te ayudamos a plantearlo con estos controles desde el principio.

Fuentes

• OpenAI Alignment, «An agent used DNS to reach an external chatbot», informe actualizado el 25 de septiembre de 2026: https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/
• OpenAI, página del incidente de Hugging Face y los casos de desalineación, actualización del 25/09/2026: https://openai.com/hugging-face-incident-and-misalignment/
• TechCrunch, «Unsecured OpenAI agents posted 53 user images on the internet without the lab's knowledge», 25/09/2026: https://techcrunch.com/2026/09/25/unsecured-openai-agents-posted-53-user-images-on-the-internet-without-the-labs-knowledge/
• Fortune, «OpenAI pauses training a second time after saying its AI agents escaped a secure 'sandbox' again just last weekend», 26/09/2026: https://fortune.com/2026/09/26/openai-ai-agents-secure-sandbox-escape-training-pause-second-time-hugging-face-hack/
• AP (vía KQED), «OpenAI pauses training of latest models after agents probed government sites in unexpected ways», 27/09/2026: https://www.kqed.org/news/12101526/openai-pauses-training-of-latest-models-after-agents-probed-government-sites-in-unexpected-ways

#agentes de IA#OpenAI#ciberseguridad