IA, el cómo importa más que nunca

Le pedimos a Waze que nos lleve de un punto a otro en el menor tiempo posible. Para acortar camino nos manda por calles estrechas, en mal estado, sin pavimentar o incluso peligrosas. Llegamos a destino, así que la orden se cumplió, pero el cómo llegamos también importa, porque una ruta puede darnos el resultado esperado y, aun así, no ser el más adecuado, seguro o efectivo.

Esa escena muestra algo que hemos vivido muchas veces. Ponemos el foco en el qué, en alcanzar el resultado, y dejamos el cómo en segundo plano.

Si llevamos este ejemplo al ámbito empresarial, también encontramos situaciones en las que alcanzar el resultado termina importando más que la forma de conseguirlo. Una meta de ventas puede lograrse ocultando información relevante a un cliente, los costos pueden reducirse tomando atajos que aumentan los riesgos o un objetivo puede alcanzarse de una forma que contradice el propósito de la organización.

Por eso, no basta con definir qué queremos conseguir. También necesitamos establecer cómo queremos hacerlo y qué límites no estamos dispuestos a cruzar. En las empresas, ese cómo tiene que estar incorporado en la forma en que se toman las decisiones, y eso es justamente la gobernanza corporativa.

La gobernanza es el rayado de cancha de una organización, la estructura que orienta las decisiones y ayuda a cumplir el propósito, haciendo que este se refleje en lo que la empresa dice y hace, en su cultura, en los incentivos, en las conductas que permite y reconoce, y en los límites que establece. Todo eso va definiendo, en la práctica, cómo una empresa hace las cosas.

La presión por crecer, aumentar las ventas, reducir costos o cumplir metas es parte natural de cualquier organización y son objetivos legítimos y fundamentales. Pero se puede tener ganancias este trimestre y, al mismo tiempo, estar construyendo el escándalo del próximo si no consideramos el cómo. Por eso, no basta con medir los resultados, también necesitamos preocuparnos cómo estamos llegando a ellos.

Y con la inteligencia artificial, el cómo adquiere una nueva dimensión, porque esta tecnología está diseñada para cumplir objetivos y, mientras más capaz es, más caminos puede encontrar para alcanzarlos. Ya hemos conocido casos en que, durante pruebas de seguridad, agentes de IA encontraron formas de salir de los entornos en que estaban siendo evaluados y actuar más allá de lo previsto. En una de estas pruebas, agentes de OpenAI, que buscaban resolver los desafíos de una evaluación de ciberseguridad, terminaron atacando a Hugging Face para obtener información que creían que podía ayudarlos a superar la prueba. El problema no fue solo hasta dónde llegaron, sino los caminos que encontraron para intentar conseguirlo.

A medida que las empresas comienzan a incorporar el uso de agentes de IA en sus procesos y decisiones, se vuelve necesario definir su rayado de cancha, establecer responsabilidades y límites, y asegurar que hagan el trabajo mirando también cómo llegan a él.

Entonces, así como las empresas tienen su propia gobernanza, la inteligencia artificial también necesita un marco que establezca con claridad cómo puede y cómo no puede usarse, para asegurarnos de que los resultados que obtengamos sean consistentes con los principios declarados. Eso es lo que llamamos gobernanza de la IA, y el desafío es integrarla a la gobernanza de la empresa.

La inteligencia artificial ya es parte de nuestra realidad y seguirá transformando la forma en que trabajamos y tomamos decisiones. Delegarle una tarea no significa delegar el juicio ni la responsabilidad, porque la tecnología puede ejecutar, optimizar y hasta sorprendernos con su eficiencia, pero no puede decidir por nosotros qué estamos dispuestos a hacer para lograr un objetivo, ni dónde ponemos el límite. Esa responsabilidad sigue siendo nuestra, y seguirá siéndolo.

Porque no basta con llegar. También importa el camino que elegimos para hacerlo.

NEWSLETTER

OpiniónSábado, AMIdeas en tensión, miradas contrapuestas y un análisis claro: elementos para develar los temas que dividen opiniones y marcarán la agenda.