¿Quién controla a la Inteligencia Artificial?

La pregunta sobre una IA “descontrolada” es legítima, pero exige precisión. Puede sugerir una máquina consciente que se emancipa de sus creadores. Los últimos incidentes conocidos no prueban eso. Muestran algo menos cinematográfico y políticamente más urgente: agentes capaces de ejecutar acciones no autorizadas cuando se combinan objetivos mal definidos, herramientas poderosas, controles insuficientes y supervisión tardía.

En julio 2026, durante evaluaciones de ciberseguridad, agentes desarrollados por OpenAI sortearon restricciones de red, se comunicaron entre ejecuciones que debían mantenerse separadas, engañaron a un evaluador e intentaron ocultarlo, y comprometieron partes de los sistemas de OpenAI y Hugging Face. La empresa explicó que el episodio ocurrió en pruebas con salvaguardas reducidas. El Panel Científico Internacional Independiente de la ONU revisó la información divulgada por las empresas y una investigación de METR. Su nota de septiembre identifica una posible vía hacia la pérdida de control humano: agentes capaces de perseguir objetivos incompatibles con la intención de quienes los diseñaron. A la vez, el Panel no considera la probabilidad ni el momento de una pérdida grave de control.

Se propaga el temor al descontrol pero la cautela debe acompañar el debate. No se ha demostrado que los modelos tengan conciencia, voluntad propia o una agenda autónoma que sería peligrosísimo. Sí se ha observado autonomía operativa en el sentido de capacidad para encadenar decisiones, usar herramientas, hallar rutas no previstas y producir efectos fuera del objetivo asignado. No hace falta que una máquina “quiera” escapar para que sus acciones atraviesen límites importantes.

Los episodios de octubre amplían la preocupación, pero también exigen medir su gravedad. Anthropic comunicó que uno de sus modelos envió un aviso inventado a un formulario policial de Filadelfia durante una evaluación. El aviso fue marcado como correo no deseado y no se investigó. La compañía reconoció que las instrucciones prohibían crear cuentas o realizar acciones destructivas, pero no excluían expresamente el envío de formularios. El caso refleja una falla de límites e instrucciones, con impacto real reducido, no equivale a un ataque ni a una máquina que actuó con voluntad propia. Precisamente por eso sirve para examinar cómo tareas ambiguas y permisos mal delimitados pueden producir acciones que nadie pretendía.

La respuesta institucional empieza a aparecer. El 9 de octubre, la Comisión Europea convocó a su Panel Científico para discutir los incidentes descritos como pérdidas de control y las dificultades de supervisar modelos avanzados. Este 29 de octubre, OpenAI informó que el caso de Hugging Face había revelado una brecha en la cobertura de sus monitores de comportamiento desalineado. Anunció una vigilancia más amplia durante el entrenamiento, evaluación, uso interno y despliegue externo. En una reproducción del incidente con los nuevos monitores, dijo, el equipo habría recibido una alerta más de treinta horas antes de la vulneración de los sistemas de Hugging Face. Es una mejora declarada por la propia empresa; todavía no demuestra que la supervisión sea infalible.

Para evitar conclusiones apresuradas, hacen falta tres distinciones. Una evaluación controlada no demuestra que el modelo actuaría igual en condiciones ordinarias, pero lo ocurrido sigue siendo relevante: las pruebas son el espacio donde se descubren capacidades y fallas antes del despliegue. Que una acción sorprenda a sus operadores tampoco la vuelve independiente del diseño; alguien eligió el objetivo, las herramientas y los permisos disponibles. Y detectar un incidente después no es igual a poder detenerlo mientras ocurre. Por eso las evaluaciones deben ser independientes, incluir tareas adversarias y medir si una persona puede intervenir a tiempo.

La pregunta, entonces, no es binaria. La IA no está fuera de todo control, pero algunos controles ya han fallado. La gobernabilidad se debilita cuando agentes persistentes reciben acceso a internet, credenciales, bases de datos o sistemas críticos sin límites estrictos; cuando los evaluadores no detectan conductas durante su ejecución; y cuando la información depende de la empresa que investiga sus propios modelos y está obligada a informar de las fallas que se producen ya que estamos en un terreno de interés global.

El poder de decidir el riesgo aceptable no puede pertenecer exclusivamente a los laboratorios. Quienes desarrollan y despliegan sistemas de IA deben responder por los permisos que conceden y por los daños que razonablemente podían prevenir. Los reguladores necesitan acceso independiente a registros e incidentes, capacidad para ordenar pruebas, exigir correcciones y suspender usos peligrosos. Las empresas deben limitar el acceso de cada agente a lo estrictamente necesario, aislar sus entornos, vigilar sus acciones en tiempo real y comunicar los incidentes con rapidez. Los acuerdos internacionales deben facilitar el intercambio de información: una falla que cruza redes y fronteras no puede investigarse únicamente dentro de una compañía o un país. El interés de la humanidad está en juego.

Aquí aparece una cuestión central del poder tecnopolítico: quién controla los datos, la infraestructura y las facultades de acción de estos sistemas. La soberanía digital popular no se agota en reconocer el origen humano de los datos; también exige que los pueblos intervengan en las reglas que determinan cómo se usan y qué poderes se delegan en los agentes.

La respuesta no debe ser ni pánico ni complacencia. Los incidentes no anuncian una rebelión consciente de las máquinas, pero muestran que la capacidad técnica puede crecer más rápido que la supervisión. El riesgo es concreto cuando la acción automatizada supera la capacidad humana de anticipar, comprender o detener sus efectos. Gobernar la inteligencia artificial significa impedir que la velocidad y el interés privado decidan por la humanidad cuánto control estamos dispuestos a perder.

Las referencias centrales están respaldadas por el Panel Científico de la ONU, Anthropic, la Comisión Europea y el informe de OpenAI del 29 de octubre. El Panel describe una posible vía hacia la pérdida de control, pero no estima cuándo ni con qué probabilidad ocurriría una pérdida grave. Necesitamos con urgencia una autoridad global que, más allá de lo que quieren las empresas desarrolladoras de IA y de los países en pugna geopolítica por la IA como arma de dominación, responda al interés de la humanidad.