Imagina un sistema sanitario compuesto por múltiples agentes de IA: uno que gestiona la evaluación de síntomas, otro la programación de citas, un tercero los seguros y un cuarto la farmacia.
Cada uno es un experto en su dominio. Pero todos tienen su propio conocimiento y objetivos distintos. Hoy pueden intercambiar datos, pero aún no son capaces de coordinar realmente la atención al paciente sin que un humano tome las decisiones.
“La inteligencia ya está ahí. Lo que falta es el tejido conectivo que convierte a cuatro extraños en un equipo”, explica Vijoy Pandey, vicepresidente sénior y director general de Outshift de Cisco.
Este “tejido conectivo” procede de la adición de una capa semántica —lo que Outshift denomina la “Inte et de la Cognición”— que permite a los agentes de distintos dominios trabajar juntos y, fundamentalmente, “pensar” juntos a través de una intención, un contexto y un razonamiento compartidos.
Esta capa semántica se apoya en una capa de conectividad subyacente denominada la "Inte et de Agentes", que permite a los agentes autónomos descubrirse mutuamente, acreditar su identidad e intercambiar mensajes a través de dominios.
Al usarse conjuntamente, permiten “el siguiente paso en el camino hacia la superinteligencia artificial distribuida”, afirma Pandey.
De los prodigios de silicio solitarios a la ‘Inte et de la Cognición’
Desde hace años, la industria de la IA se ha centrado en el crecimiento. El escalamiento vertical ha dado lugar a modelos de mayor tamaño, entrenados con más datos y con mayor capacidad de cómputo. Esto ha generado las capacidades de razonamiento que pueden actuar como un "cerebro" para los agentes de IA, los cuales pueden percibir, razonar y actuar en ento os digitales.
Aunque el escalado vertical puede producir agentes más capaces de forma perpetua, para permitir la resolución de problemas mediante agentes a través de diferentes sistemas, empresas y plataformas, el próximo eje de escalado debe ser horizontal, afirma Pandey.
Los sistemas multiagente ya se están explorando en áreas como la ingeniería de software, el descubrimiento de fármacos y las simulaciones científicas, pero su rendimiento hasta ahora ha sido decepcionante. Un estudio revela una tasa de fallo de entre el 41% y alrededor del 87% al evaluar siete sistemas multiagente de código abierto.
“Los agentes conectados gestionan bien la acción coordinada; asumen una tarea cuya estructura han visto, que han dividido y repartido”, explica Pandey. “Lo que no pueden hacer es mantener un objetivo en común y razonar hacia algo que ninguno de ellos fue entrenado para resolver.”
«La brecha es arquitectónica, no un problema de 'prompting'», añade Pandey. «Sin la capa de coordinación adecuada, las configuraciones multiagente ingenuas pueden rendir peor que un solo agente. El cambio radical reside en que ese equipo de agentes converja por sí mismo, sobre un nuevo problema, sin que ningún humano una las piezas».
Para alcanzar este objetivo, Pandey afirma que Outshift ha desarrollado una capa de conectividad llamada AGNTCY, un proyecto de código abierto que ahora está bajo la Linux Foundation. AGNTCY permite a los agentes de diferentes sistemas, empresas y plataformas encontrarse entre sí, demostrar su identidad e intercambiar mensajes a través de protocolos abiertos y estandarizados.
Y, como explica Pandey, esto permite a la tesis del Inte et de la Cognición dar un paso más. Crea una capa semántica que permite a los agentes alinear objetivos (compartir intenciones), poner en común el conocimiento institucional y componer la memoria (compartir contexto), y realizar compensaciones colectivas (compartir razonamiento).
Pandey equipara esta progresión con la de los humanos: «Durante cientos de miles de años, los humanos se volvieron individualmente más inteligentes, y los avances morían con cada persona que los lograba», explica. «Hace unos 70.000 años eso cambió, cuando los humanos aprendieron a compartir intenciones, construir conocimiento acumulativo y razonar colectivamente. Fue entonces cuando los individuos dispersos se convirtieron en civilización.
«Los agentes están en el mismo umbral. Hemos construido genios de silicio y les hemos dotado de autonomía. Lo que les falta es la capa que permitió a los humanos actuar colectivamente», afirma.
Primeros pasos hacia la superinteligencia distribuida
Habilitar a los agentes para trabajar colectivamente se basa en tres pilares de la pila tecnológica:
Intención compartida a través de protocolos de estado cognitivo: Los protocolos de estado cognitivo son el apretón de manos semántico que permite a los agentes acordar un objetivo antes de actuar y luego negociar para lograrlo. Outshift ha creado una capa de coordinación de código abierto llamada Mycelium, que las organizaciones pueden clonar y emplear con sus propios agentes.
«Descubrimos que los grupos no estructurados llegaron a una decisión en aproximadamente un tercio de las ocasiones en 14 escenarios», afirma Pandey, en referencia a las pruebas inte as. «Un protocolo de coordinación que hace que los agentes declaren un objetivo, identifiquen la información faltante y resuelvan los conflictos antes de actuar elevó esa cifra al 93 %».
Contexto compartido a través del tejido de cognición: Un tejido de cognición es una memoria institucional compartida y una malla de comunicación que permite que la comprensión del agente se acumule con el tiempo en lugar de reiniciarse en cada sesión. Esta capa de contexto regida por políticas resuelve el problema de la "amnesia organizacional", afirma Pandey, al garantizar que la inteligencia de base de los sistemas solo aumente.
Razonamiento compartido a través de amplificadores cognitivos y tecnologías de contención: Dos tipos de motor de cognición pueden utilizarse conjuntamente para facilitar el razonamiento compartido. Los amplificadores cognitivos aceleran el razonamiento compartido y el modelado, y las tecnologías de contención (TDC) crean marcos de seguridad, costes y cumplimiento. Los humanos son colaboradores activos en esta capa, tomando decisiones que el sistema les envía (en lugar de revisar los resultados a posteriori).
El intercambio cognitivo en sistemas multiagente puede generar nuevos riesgos, incluyendo delegaciones no intencionadas, inyecciones maliciosas de prompts o envenenamiento de la memoria, o agentes sobreprivilegiados con acceso a permisos y datos que exceden con creces lo que sus tareas requieren. Por lo tanto, se necesitan controles específicos del ento o para proteger contra acciones o consecuencias no deseadas.
«Los agentes poseen atributos similares a los humanos, pero operan a la velocidad y escala de las máquinas», afirma Pandey. «Todo lo que hemos construido durante veinte años —control de acceso, identidad, cumplimiento normativo— fue diseñado para humanos o máquinas, no para ambos».
La Autorización Semántica Continua de Agentes (CASA) —una implementación de referencia de código abierto desarrollada por Outshift— es un GAT que busca garantizar que las acciones del agente se mantengan alineadas de forma segura con el objetivo original del usuario a través de un proceso de autorización continua. Para ello, lee lo que el agente intenta lograr y luego comprueba cada petición de herramienta en relación con esa tarea.
En el caso de un sistema sanitario, por ejemplo, un agente al que se le indique resumir un historial de paciente podría empezar consultando una base de datos completa. Esto podría llevar a que CASA deniegue la llamada, ya que la solicitud dejaría de coincidir con la tarea para la que fue autorizada.
«Los controles actuales se limitan a un rol o una sesión, no a la tarea, por lo que un agente al que se le concede una herramienta puede utilizarla para cualquier propósito», explica Pandey. «Aproximadamente el 90 % de las veces, un agente no tiene forma de confirmar si está siquiera autorizado para el trabajo que se le ha asignado».
Experimentación para la innovación transdisciplinar
Cuando se escala horizontalmente la inteligencia en la empresa, las compañías deberían empezar experimentando con un flujo de trabajo transversal que abarque tres o cuatro equipos y que actualmente necesite la autorización humana de los traspasos, aconseja Pandey.
“Desplegadlo como un pequeño sistema multiagente en una infraestructura abierta e interoperable, con una línea de base medible”, dice. “Continuad construyendo modelos más grandes, añadid el eje horizontal sobre ellos y cambiad lo que medís. Rastread dónde la perspicacia de un agente hizo que otro agente mejorara; esa es la señal de que el eje horizontal está funcionando.”
Al empezar a experimentar ahora con capas de intención, contexto y razonamiento, las organizaciones pueden adelantarse a la curva. “Los problemas son abiertos y la infraestructura todavía se está escribiendo”, dice Pandey. “Este es el momento de construirla.”
Para más información sobre el Inte et de la Cognición, visite Outshift.com.
Este contenido ha sido producido por Insights, la rama de contenido personalizado de MIT Technology Review. No ha sido escrito por el equipo editorial de MIT Technology Review. Ha sido investigado, diseñado y redactado por escritores, editores, analistas e ilustradores humanos. Esto incluye la redacción de encuestas y la recopilación de datos para las mismas. Las herramientas de IA que se hayan podido utilizar se limitaron a procesos de producción secundarios que superaron una exhaustiva revisión humana.