E-Commerce
Estudio MIT advierte brechas en control de agentes de Inteligencia Artificial
Reporte elaborado por el MIT y Cambridge detecta falta de transparencia y monitoreo en sistemas que ya ejecutan pagos y automatizan procesos clave del comercio digital. La autonomía avanza más rápido que la gobernanza.
Publicado
El avance de los agentes de inteligencia artificial hacia funciones transaccionales está reconfigurando el comercio digital, pero la regulación y los estándares de control no avanzan al mismo ritmo. Así lo advierte el Índice de Agentes de IA 2025, elaborado por investigadores vinculados al Massachusetts Institute of Technology y la University of Cambridge, que evaluó 30 sistemas ampliamente utilizados en entornos empresariales y de consumo.
El informe concluye que gran parte de los desarrolladores entrega información limitada sobre pruebas de seguridad, metodologías de evaluación y comportamiento de los agentes cuando interactúan con plataformas de terceros. En el ámbito del comercio electrónico, esto adquiere relevancia directa, ya que estos sistemas ya inciden en precios, órdenes de compra, reposiciones automáticas y atención al cliente.
Los autores analizaron 1.350 campos de datos, distribuidos en 45 categorías por sistema, que abarcan niveles de autonomía, mecanismos de control, interacción con ecosistemas digitales y prácticas de seguridad. Sin embargo, en 200 de esos campos no se encontró información pública disponible, lo que evidencia brechas relevantes de transparencia.
Entre las principales falencias detectadas figuran la ausencia de claridad sobre cómo se monitorean las ejecuciones individuales, cómo se evalúan riesgos operativos y de ciberseguridad, y si los agentes se identifican explícitamente como sistemas de IA al operar en línea. Estas omisiones resultan críticas en procesos como pagos, gestión de inventario y automatización de flujos administrativos.
El estudio incluye herramientas orientadas a consumidores como ChatGPT Agent y Perplexity Comet, además de soluciones empresariales como HubSpot Breeze Agents, Microsoft Copilot Studio y ServiceNow AI Agents. En varios casos, los agentes pueden navegar por sitios web, activar procesos internos y ejecutar tareas con mínima supervisión humana una vez iniciadas.
La investigación advierte que la autonomía tecnológica está creciendo más rápido que los mecanismos de gobernanza. Algunos agentes empresariales se activan automáticamente ante eventos como correos electrónicos o cambios en bases de datos, sin que quede claro si existe monitoreo granular o trazabilidad completa de cada ejecución.
Otro punto crítico es la identidad digital. El índice señala que la mayoría de los agentes no declara explícitamente su naturaleza de IA cuando interactúa con usuarios o sistemas externos. Para retailers y marketplaces, esta falta de identificación complica la detección de fraudes, la atribución de responsabilidades y la gestión de incidentes operativos.
El informe también destaca la alta concentración del ecosistema, ya que muchos agentes dependen de un número reducido de modelos fundacionales. Esto aumenta el riesgo de que fallas en la capa base se propaguen a múltiples plataformas comerciales. Para el comercio digital, la conclusión es operativa: los agentes ya actúan como ejecutores autónomos en procesos críticos, pero la transparencia, la trazabilidad y la rendición de cuentas aún no alcanzan el nivel que exige su creciente rol en la cadena de valor.
