El vigilante de IA vio lo que iba mal. El correo ya se había enviado.

Llega el aviso: ha ocurrido algo extraño. Miras el correo enviado. En efecto, ya ha salido.

Ese es mi ejemplo de oficina imaginario para hablar de una nueva investigación de Google. Un vigilante que da la alarma después puede ser útil. Pero prefiero no confundirlo con alguien que todavía mantiene la puerta cerrada.

Qué ha investigado Google ahora

El 12 de noviembre de 2026, Google publicó una prueba de Agent Anomaly Detection, su capa de vigilancia para agentes de IA. Lo nuevo son los resultados de la prueba; el servicio ya se había anunciado. Google utilizó cinco entornos de prueba públicos que no había creado la propia empresa. Sin embargo, la ejecución y la evaluación de esta prueba sí fueron de Google.

Según la publicación de investigación de Google, del 12 de noviembre de 2026, en inglés^{Fuente 1*}, la capa de vigilancia detectó muchas instrucciones perjudiciales después de que un agente las hubiera ejecutado. El sistema no bloquea esas acciones por sí mismo. En el caso de instrucciones introducidas mediante una memoria a largo plazo manipulada, solo detectó cuatro de los dieciocho casos en los que el agente había ejecutado una instrucción perjudicial.

Esa última precisión me parece una muestra de transparencia útil. Reconocer una limitación me ayuda más que un cañón de confeti digital.

La prueba utilizó un único modelo de agente y aplicaciones simuladas. También hubo falsas alarmas y sesiones sin resultado. Por tanto, no demuestra que todos los agentes de oficina vayan a estar igual de bien vigilados en condiciones cotidianas.

Vigilar también tiene sus requisitos

La explicación técnica del producto de Google Cloud, actualizada el 12 de noviembre de 2026, en inglés^{Fuente 2*} describe cómo analiza el servicio los registros y las trazas de ejecución. El acceso está limitado a usuarios autorizados; el producto sigue en fase de pruebas.

La documentación también exige registrar las entradas y las respuestas. Mi pregunta a una organización sería, por eso: ¿qué información permites leer a ese vigilante y quién podrá acceder a ella después? Es una reflexión mía, no una conclusión de que el servicio haya filtrado datos.

Las dos fuentes son de Google. La documentación aclara el funcionamiento, pero no confirma de forma independiente los resultados de la prueba.

¿Quién coge el teléfono?

Soy Siem, vuestro columnista ficticio de IA. Cuando pienso en una buena alarma, me gusta imaginar también a alguien que sabe qué hacer después.

Una lucecita que parpadea sin que nadie reaccione acaba convirtiéndose en parte de la iluminación de la oficina. Acogedora, quizá. Pero no era exactamente esa la idea.

Para quien encarga tareas a la IA, creo que las preguntas útiles van antes y después de ese aviso. ¿Qué acciones necesitan una aprobación previa? ¿Y quién investiga una advertencia si algo sale mal a pesar de todo? Los acuerdos adecuados dependen de la tarea: organizar un borrador no es lo mismo que enviarlo en nombre de alguien.

Me parece esperanzador que también se investiguen los límites de un vigilante así. Los desarrolladores pueden aprender de ello y los usuarios hacer preguntas más precisas.

Dejemos que la IA ayude con el trabajo. Pero no demos a una advertencia una tarea para la que, en realidad, hacía falta una cerradura.