¿Qué pasa cuando la IA empieza a hacer negocios con la IA?

De HBR.org

¿Qué se les debería permitir hacer a los agentes de IA en entornos compartidos? Las interacciones varían: algunas son entre agentes y plataformas, mientras que otras son entre los propios agentes. Pero el problema de gobernanza es el mismo. A medida que los agentes acceden cada vez más a las plataformas, representan a empresas y usuarios, e interactúan con otros agentes, las reglas de los entornos en los que operan determinarán lo que pueden ver, decidir y hacer.

PUBLICIDAD

A medida que se expanden estas formas de participación de los agentes, el desafío de la gobernanza va más allá de los operadores de las plataformas. Los líderes del mercado deben decidir a qué pueden acceder y qué pueden hacer los agentes dentro de sus entornos, mientras que los líderes de las empresas que implementan agentes deben decidir qué autoridad deben tener esos agentes al interactuar con clientes, proveedores y otros participantes del mercado.

Un contexto en el que este desafío de gobernanza se está volviendo particularmente tangible es el intercambio B2B, donde los agentes de IA pueden actuar en nombre de las empresas de ambos lados del mercado. En nuestra encuesta exploratoria a 55 ejecutivos que trabajan en la generación de clientes potenciales B2B, solo el 45 por ciento estuvo de acuerdo en que la empresa está preparada para un mercado en el que los agentes de IA generen o acepten clientes potenciales en su nombre.

PUBLICIDAD

Esto plantea la pregunta central: ¿Siguen funcionando los mecanismos de gobernanza diseñados para participantes humanos en la plataforma cuando esos participantes están representados por agentes de IA? De no ser así, ¿cómo deberían los líderes modificarlos?

Lo que descubrimos

Para analizar esta pregunta, creamos una simulación controlada de formación de intercambios de IA a IA.

Dentro de este entorno, variamos cuatro palancas de gobernanza extraídas de la teoría y la práctica de las plataformas: cuánta información comercialmente relevante revelaban las empresas, cuánta autonomía de decisión se les otorgaba a los agentes, si las señales de reputación eran visibles para las contrapartes y qué tan rígido estaba estructurado el protocolo de interacción.

PUBLICIDAD

El hallazgo central fue claro: la gobernanza de plataformas diseñada para humanos no se traslada sin más a los agentes de IA. Observamos cuatro patrones principales.

-- La divulgación de información fue la única palanca que ayudó de manera consistente. Cuando las empresas divulgaban más información comercialmente relevante, los agentes eran más capaces de establecer intercambios viables.

PUBLICIDAD

-- La autonomía también ayudó, pero en una etapa posterior del proceso: otorgar a los agentes más derechos de decisión tuvo mayor efecto cuando los agentes necesitaban pasar de la evaluación al compromiso.

-- La reputación también ayudó, pero principalmente como una señal para llamar la atención y facilitar la evaluación. Cuando las señales de reputación eran visibles, los agentes eran más propensos a interactuar con las contrapartes, proponer reuniones exploratorias y clasificar las oportunidades como viables.

PUBLICIDAD

-- El protocolo estructurado, por el contrario, resultó contraproducente. En nuestra simulación, el protocolo estructurado redujo el avance de los intercambios en las etapas iniciales e intermedias. El mecanismo de gobernanza que se suponía debía disciplinar la interacción parecía, en cambio, suprimirla.

El mensaje que se desprende de estos hallazgos es que los mercados de agentes necesitan una lógica de gobernanza diferente. La gobernanza orientada a las personas suele tener como objetivo tranquilizar, estandarizar y disciplinar a los participantes. La gobernanza orientada a los agentes también debe hacer que la información sea útil para la acción, preservar la discreción útil y evitar restringir en exceso el intercambio adaptativo.

PUBLICIDAD

¿Qué deberían hacer las empresas y las plataformas al respecto?

Nuestros hallazgos apuntan a un desafío gerencial inmediato: el intercambio entre agentes requiere una gobernanza deliberada. Los líderes de las plataformas deben establecer las reglas sobre cómo los agentes pueden operar dentro de sus entornos, mientras que los líderes de las empresas que implementan agentes deben decidir qué pueden ver, decir y hacer esos agentes, y cuándo deben intervenir los humanos.

PUBLICIDAD

Definir los niveles de acceso de los agentes. Las empresas deben regular la participación de los agentes a través de niveles claros de autoridad delegada.

Comiencen con experimentos delimitados. Las empresas deben comenzar con proyectos piloto específicos en áreas como la calificación de clientes potenciales, la búsqueda de proveedores o la selección inicial de proveedores, donde la tarea es útil desde el punto de vista comercial, pero el riesgo puede contenerse. Estos proyectos piloto deben contar con perfiles claros de los agentes, permisos limitados, reglas de decisión explícitas y puntos de revisión antes de que los agentes afecten relaciones o compromisos reales.

PUBLICIDAD

Haz que tu organización sea comprensible para los agentes. En los mercados basados en agentes, el lenguaje de mercadotecnia vago tendrá menos peso que la información estructurada y legible por máquinas. Las empresas deben crear perfiles legibles para los agentes y datos estructurados de productos o servicios que faciliten el análisis y la comparación de los atributos comerciales.

Crea señales de reputación que los agentes puedan utilizar. Los agentes necesitan indicadores estructurados que se puedan comparar entre contrapartes, tales como la confiabilidad de la respuesta, el desempeño en la entrega, los resultados verificados, el historial de disputas, la repetición de interacciones y la evidencia de que los intercambios anteriores se desarrollaron con éxito.

Diseña el traspaso a un humano antes de la implementación. El valor a corto plazo del intercambio mediado por agentes provendrá del uso de estos para preparar mejores conversaciones humanas, no de reemplazar todo el juicio comercial. Las empresas deben decidir de antemano cuándo una oportunidad pasa de la selección dirigida por un agente a la construcción de una relación humana.