El agente de IA no solo responde. También puede actuar mal
Un agente de IA podría reunir información del correo y del CRM, y preparar un borrador. Pero ¿qué pasa si toma una nota antigua por actual o ejecuta un cambio sin consultar? Ahí se decide si el agente le ahorra trabajo o pone en marcha una cadena de errores. La pregunta clave no es solo qué puede hacer. También es dónde puede actuar y quién se dará cuenta si algo falla por el camino.
Un agente es una cadena, no un botón mágico
Un chatbot suele responder a una pregunta dentro de una conversación. Un agente de IA, además, puede dividir un encargo en pasos, llamar a herramientas y procesar los resultados. Una herramienta es un acceso autorizado, por ejemplo, a un calendario o a un documento. La diferencia para una empresa es clara: una respuesta puede convertirse en una acción.
Imagine que pide a un agente que prepare una oferta para un posible cliente. Podría buscar información en el CRM, consultar documentos pertinentes y redactar un borrador. Cada transición es un paso distinto. Si al principio asigna mal al cliente, el borrador posterior puede parecer convincente aunque se base en el expediente equivocado.
El error no tiene por qué ser llamativo. Puede que la herramienta se use correctamente, pero que la información que contiene esté desactualizada. O quizá se confunda una sugerencia razonable con una acción ya ejecutada. ChatGPT Work, por ejemplo, puede proponer tareas a partir de información personal. Según Latent Space, el trabajo no empieza hasta que la persona usuaria ejecuta la propuesta. ¿Dónde sitúa usted la aprobación entre la sugerencia y la ejecución?
Las herramientas convierten respuestas en acciones
Un agente resulta más útil cuando puede acceder a los espacios donde ya se trabaja. Latent Space describe ChatGPT Work como un sistema capaz de conectar servicios como Slack, el correo electrónico, Drive, el calendario, el CRM y los gestores de proyectos. A partir de ahí, puede preparar trabajo terminado. Para una pequeña empresa, eso podría significar reunir información de distintas ubicaciones para redactar una oferta.
Cada acceso amplía también el margen para que algo salga mal. Un archivo equivocado, una cita desactualizada o un encargo mal entendido pueden arrastrarse a los pasos siguientes. Esto no significa que todos los agentes vayan a fallar así. Es una consecuencia práctica de que varias acciones dependan unas de otras.
El momento en que se ejecuta una acción también forma parte del diseño. Según Latent Space, ChatGPT Work utiliza un programador, es decir, una función que permite ejecutar tareas más adelante o de forma periódica. Un borrador puntual y una acción recurrente no tienen las mismas consecuencias si cambian las circunstancias. Antes de automatizar una tarea, conviene definir qué puede leer el agente, qué puede modificar y qué pasos requieren su aprobación.
La memoria puede quedarse atrás de la realidad
Un agente con memoria no tiene que empezar de cero cada vez. GitHub describe un sistema en el que los agentes guardan como recuerdos experiencias útiles de tareas anteriores. Al iniciar una sesión nueva, recuperan los recuerdos recientes relacionados con el repositorio y los incorporan al prompt. El prompt es la instrucción de trabajo y el contexto que recibe el modelo.
La cuestión delicada no es solo si el agente encuentra algo. GitHub señala como problema principal que el conocimiento almacenado siga siendo válido cuando cambian el código, las ramas y las observaciones. El mismo principio se aplica a los procesos de una empresa: un recuerdo sobre una norma de aprobación anterior puede dejar de servir si han cambiado las responsabilidades.
GitHub aborda el problema vinculando los recuerdos a ubicaciones concretas del código y comprobándolos en tiempo real cuando se recuperan. Además, solo quienes tienen permisos de escritura pueden crear esos recuerdos, mientras que las personas con permisos de lectura pueden utilizarlos dentro del mismo repositorio. Son límites concretos, no una garantía de que la información siempre sea correcta. ¿Qué fuente debe consultar su agente antes de confiar en una nota guardada?
A veces el error aparece después de las pruebas
Que una prueba salga bien solo informa sobre los casos que se han comprobado. No responde automáticamente a qué ocurrirá con otra entrada, un contexto desactualizado o un resultado inesperado de una herramienta. En una encuesta de VentureBeat de septiembre de 2026, el 52 % de las organizaciones que prueban la IA antes de publicarla afirmó haber vivido al menos un caso en que un sistema probado afectó después a sus clientes. El 30 % comunicó más de un caso de este tipo.
Hay otro dato que merece atención: entre las organizaciones que permitieron que los agentes publicaran determinados cambios sin revisión humana, el 80 % informó de un error de IA con impacto en clientes después de haber superado las pruebas. Es una relación observada en la encuesta, no una prueba de que la falta de revisión causara los errores.
VentureBeat señala expresamente que la encuesta no preguntó si los errores se debieron a cambios de agentes sin revisar. A la vez, solo el 28 % de las organizaciones que utilizaban agentes mencionó las comprobaciones de calidad automatizadas de los resultados en marcha como su principal método de supervisión. Para su empresa, la lección práctica es que probar antes de empezar no sustituye a observar lo que hace el agente. ¿Quién detectará el error antes que su cliente?
Qué implica para su empresa
Empiece por un proceso frecuente cuyo resultado una persona pueda revisar fácilmente. En una pequeña empresa, el agente podría reunir datos de clientes y preparar un borrador de respuesta sin enviarlo. Una empresa mediana puede probar el mismo enfoque en un proceso bien delimitado. En una gran empresa, también habrá que aclarar de antemano la participación de varios equipos y sus permisos.
Ponga el proceso por escrito con palabras sencillas. ¿Qué información entra? Si dos datos no coinciden, ¿qué fuente prevalece? ¿Qué resultado puede preparar el agente y qué acciones requieren aprobación? Así verá en qué punto podría propagarse una suposición equivocada.
Después, no pruebe solo el caso habitual. Incluya datos incompletos, información contradictoria y una fuente desactualizada. Decida cómo puede el equipo comunicar un resultado erróneo y quién corregirá el acceso o el recuerdo. Esto exige tiempo antes de poner en marcha la automatización. Sin una persona responsable, un error pequeño puede convertirse en una costumbre inadvertida.
- Elija una tarea con un resultado fácil de identificar.
- Empiece con permisos de lectura y borradores antes de permitir que el agente haga cambios por su cuenta.
- Designe a una persona para revisar los resultados y los errores comunicados.
- Documente cuándo un recuerdo queda desactualizado y cómo se elimina o se actualiza.
Ponga límites al agente
El límite no debería hacerse visible solo cuando algo sale mal. Defínalo antes del primer uso: ¿qué datos necesita realmente el agente? ¿Qué acciones puede preparar y cuáles puede ejecutar por su cuenta? ¿Y en qué situaciones de incertidumbre debe pasar el caso a una persona?
La memoria también necesita un ámbito definido. GitHub limita los recuerdos descritos a un repositorio concreto y vincula su uso a los permisos correspondientes. No se puede trasladar directamente esa solución a otros entornos de trabajo. Aun así, el principio es útil: el conocimiento no debería aplicarse automáticamente a cualquier encargo ni a cualquier persona.
La decisión sobre el proceso sigue siendo suya: ¿qué acción puede asumir el agente por su cuenta y cuál debe revisar una persona?
Preguntas frecuentes
¿Qué es un agente de IA?
Un agente de IA puede dividir un encargo en pasos y utilizar herramientas autorizadas, por ejemplo, para consultar información de un archivo o preparar un borrador. Esa es la diferencia con un chatbot, que suele responder dentro de una conversación. Cuando el agente puede ejecutar acciones, cobran importancia los permisos, las aprobaciones y la supervisión continua.
¿Cómo funciona la memoria de un agente de IA?
Un agente puede guardar información de tareas anteriores e incorporarla más adelante a su contexto de trabajo. GitHub describe, por ejemplo, recuerdos vinculados a un repositorio que se recuperan en nuevas sesiones. La información guardada puede quedarse desactualizada. Por eso, el agente debería comprobar la fuente y utilizar cada dato solo en el ámbito en que sigue siendo válido.
¿Por qué fallan los agentes de IA aunque hayan superado las pruebas?
Las pruebas cubren las situaciones que se han comprobado. Otras entradas, la información desactualizada o los resultados inesperados de una herramienta pueden provocar errores más adelante. VentureBeat informó de que algunas organizaciones sufrieron errores con impacto en clientes después de superar las pruebas. Sin embargo, la encuesta no demuestra que la falta de revisión humana causara esos errores.
¿Cómo puede una empresa implantar agentes de IA de forma segura?
Empiece con una tarea bien delimitada cuyo resultado una persona pueda revisar fácilmente. Dé al agente solo los accesos necesarios y permita que prepare borradores antes de dejarle hacer cambios por su cuenta. Pruebe también entradas incompletas o contradictorias y determine quién supervisará los resultados y los errores.
¿Cuál es la diferencia entre un agente de IA y un chatbot?
Un chatbot suele responder a preguntas dentro de una conversación. Un agente de IA también puede utilizar herramientas, reunir información de varias fuentes y procesar los distintos pasos de una tarea. Así puede preparar o ejecutar trabajo. Cuanto mayor sea su margen de actuación, más importantes serán los permisos limitados, las fuentes verificables y las aprobaciones humanas.
¿Le interesa?
¿Quiere saber qué significa esto para su empresa?
Fuentes
- Building an agentic memory system for GitHub Copilot · The GitHub Blog, 2026-01-15
- Unpacking ChatGPT Work: the Agent for a Billion Users · latent.space, 2026-08-04
- VB Pulse Agentic Reliability and Evals Report - September 2026 · VentureBeat, 2026-10-13
- The share of enterprises trusting AI agents to make production changes on their own has fallen from 75% to 56%, VB Intelligence finds · VentureBeat, 2026-10-08
Este artículo se ha investigado y redactado con ayuda de IA y se ha verificado automáticamente con las fuentes citadas antes de publicarse. Más sobre nuestra transparencia en IA
Soluciones relacionadas
- Klarframe OS →
Reúne el conocimiento, crea transparencia y actúa en lugar de reaccionar. Conecta documentos, correo, Notion, Slack y CRM con fuentes visibles y un mapa de conocimiento interactivo.
Klarframe AI Readiness Check
¿Hasta qué punto está preparada su empresa para la IA?
Unos diez minutos, resultado inmediato con su nivel, un plan de 90 días, soluciones adecuadas y notas sobre el AI Act.
