IA, juicio y el futuro de la organización

La IA ha hecho algo que ninguna tecnología anterior había hecho dentro de las organizaciones: separó el poder de la responsabilidad. Puede redactar, clasificar, aconsejar y, cada vez más, actuar en nombre de la organización, pero no puede rendir cuentas por nada de ello. Esa brecha entre la IA, el juicio y la responsabilidad fue el hilo conductor de “IA, juicio y el futuro de la organización”, el panel del Desayuno Ejecutivo Anker Bioss en Monterrey del 3 de noviembre, una conversación solo por invitación para directores generales, consejeros y líderes ejecutivos.

Compartí el escenario con Robbie Stamp, Director Ejecutivo del BIOSS Institute; Verónica Elizondo, Presidenta Global de Anker Bioss, y Eduardo León, Managing Director y Senior Partner de Boston Consulting Group, con Marco Landeros, CEO y Managing Partner de Anker Bioss, como moderador. Lo que sigue son las ideas que mejor resistieron ochenta minutos de conversación y preguntas del público, y lo que hoy les exigen a los líderes.

¿Por qué la IA separa el poder de la responsabilidad?

Robbie abrió con una pregunta que escuchó por primera vez cuando formaba parte del comité nacional de IA de la British Standards Institution: ¿el gobierno de la IA se siente distinto del gobierno de los sistemas de TI que las organizaciones han operado durante décadas? Su respuesta fue que sí, porque la IA no es solo una herramienta. Usamos la misma palabra para un martillo y para un enjambre de miles de agentes que trabajan en nuestro nombre, y esa palabra oculta la diferencia.

La diferencia es la agencia. La IA hace cada vez más trabajo que antes hacían las personas y, como dijo Robbie, “categóricamente no puede rendir cuentas” como se les exige a los seres humanos. No siente vergüenza ni remordimiento, no teme perder su reputación y no se le puede sancionar de manera significativa. “Se puede usar la palabra poder para describir a la IA”, dijo. “Pero no se puede usar la palabra responsable. Así que los hemos desacoplado”.

También nombró la carga que esto genera: la carga de verificación. La IA produce análisis y hallazgos más rápido de lo que cualquier líder puede revisarlos, y alguien tiene que revisarlos. Su prueba para cualquier implementación de IA fue directa: si su IA hiciera algo dañino a media noche, ¿a quién llamaría y cómo fluiría la responsabilidad?

¿Basta con tener un “humano en el circuito” para proteger el juicio?

Mi respuesta ese día fue que no. Creo que “humano en el circuito” se ha vuelto una de las frases más peligrosas en el gobierno corporativo, porque estar en el circuito no significa entender lo que se está haciendo. Muchos directivos recuerdan haber firmado pilas de cheques o documentos legales sin leerlos. Eso es un humano en el circuito. Técnicamente se está autorizando, pero se perdió la comprensión de por qué se toma la decisión.

Eduardo afinó el punto desde la consultoría. Firmas como la suya viven del talento, y la IA ya puede revisar miles de currículos en busca de palabras clave. Pero ¿cómo se entrena esa herramienta para identificar la inteligencia emocional? Las personas que llegan a su mesa de entrevistas son tan buenas como la lista corta que produjo la herramienta. Su preocupación no era si hay un humano en el circuito, sino en qué parte del circuito está. La eficiencia, recordó, no es lo mismo que la efectividad.

Verónica añadió la pregunta del desarrollo. Si las personas van a permanecer en el circuito, ¿cómo conservan el juicio para cuestionar a la IA cuando entrega algo que no es correcto? Esa capacidad no se mantiene sola. Hay que entrenarla y hay que diseñarla dentro del trabajo.

¿Cómo cambia el lapso de discreción el papel del humano?

Una idea de la tradición BIOSS ayuda a ubicar a la IA: el lapso de discreción (time span of discretion), el tiempo que transcurre entre empezar un trabajo y recibir retroalimentación sobre si se hizo bien. La IA funciona mejor donde la retroalimentación es inmediata. Las decisiones de liderazgo a menudo tardan tres, cinco, siete o diez años en verificarse.

Describí cuatro usos de la IA a lo largo de ese lapso. En el más corto, la IA es una herramienta. Después se vuelve diseñadora, como cuando se le pide planear un día en una ciudad que se va a visitar. Luego asesora, como cuando se le lleva un diagnóstico médico y se le pregunta qué hacer. En el lapso más largo, cuando hay más información de la que cualquiera puede sostener, se convierte en centinela y clarificadora. “Humano en el circuito” describe razonablemente bien el primero de estos usos. En cada uno de los demás, el papel del humano cambia, y las organizaciones que implementan la IA solo como herramienta de productividad pierden ese cambio por completo.

Debajo de todo está la pregunta que, en mi opinión, cada nivel de la organización tiene que responder: ¿quién es dueño de la consecuencia? ¿Quién siente el dolor y el deber de cuidado cuando la decisión sale mal?

¿Cómo desarrollarán juicio las personas si la IA toma las decisiones?

Fue la pregunta que más le importó al público, y la respuesta del panel sorprendió a varios: ser menos eficientes a propósito.

Eduardo lo dijo de la forma más directa: “Necesitamos inyectar ineficiencia al sistema, lo cual suena contraintuitivo”. La IA redactará un primer contrato mejor que un abogado joven, pero si los abogados jóvenes nunca redactan uno, nunca aprenden. Su consejo: apagar las computadoras, traer a la generación más joven a la sala y dejar que vea cómo uno estructura su pensamiento frente a un pizarrón. Ese proceso más lento, argumentó, equilibra la eficiencia de hoy con la capacidad de mañana.

Robbie, citando a Wittgenstein, lo llamó volver “al terreno áspero”. Las condiciones que parecen ideales para decidir pueden ser hielo resbaloso; el juicio necesita fricción. Mencionó investigaciones recientes según las cuales los estudiantes que usan IA para escribir sus ensayos no recuerdan lo que escribieron dos semanas después, y planteó una pregunta que todo líder debería llevar a su organización: ¿qué músculos está tratando de desarrollar?

Verónica preguntó si nos estamos volviendo menos inteligentes y respondió que depende del marco que construyamos alrededor de la IA. Su prueba práctica sirve a cualquier directivo: “¿Qué no agrega valor en el componente humano? ¿Qué se puede delegar sin deteriorar la calidad del trabajo que hacemos?”.

Por mi parte, sostuve que las organizaciones deben diseñarse alrededor de decisiones y no de procesos. Durante décadas construimos organizaciones para ser eficientes y exprimimos el juicio en nombre de la productividad. Los consejos aprendieron a gobernar con la regla de “nariz adentro, manos fuera”. Esa disciplina ahora tiene que llegar más abajo en la organización, mediante un Espacio de Autonomía deliberado en cada nivel: el campo de decisiones, acciones y juicios que una persona posee entre las fronteras de la delegación y del escalamiento. Henry Ford convirtió al constructor de carruajes en una línea de especialistas, y nadie quedó a cargo del carruaje completo. Si automatizamos esos fragmentos sin rediseñar el trabajo, perdemos la coherencia del conjunto y el sentido que la acompaña.

¿Qué habilidades nunca debería delegar un líder a la IA?

Un asistente pidió al panel dos habilidades, además del juicio y del dominio de la IA, que los líderes deberían conservar. Las respuestas fueron consistentes.

• Lógica y pensamiento crítico. He visto a personas de muy alto nivel repetir lo que les dijo un chatbot sin revisar una sola fuente. Lo que produce la IA suena inteligente, y ésa es la trampa. Los líderes deben preguntarle cómo llegó a una conclusión y qué dirían las fuentes contrarias, y explicar su propio razonamiento con la claridad suficiente para que pueda retomarse fuera de la sala. A eso le llamamos Judgment Portability, la portabilidad del juicio.
• Tolerancia a la incertidumbre y regulación emocional. Verónica señaló que la capacidad de lidiar con la incertidumbre es de los rasgos más difíciles de entrenar, y que la certeza constante de las herramientas de IA la erosiona. La IA puede imitar la empatía e incluso entenderla, dijo, pero no puede sentirla, y ahí es donde reside la responsabilidad.
• Escuchar y leer a las personas. Eduardo describió el liderazgo como algo interactivo e iterativo: leer el lenguaje corporal, notar comodidad o incomodidad y ajustar. Una respuesta puede ser intelectualmente correcta, dijo, pero “lo intelectualmente correcto no basta si no es emocionalmente aceptable”.
• Experiencia directa. Robbie invitó a todos los líderes, sin importar su nivel, a construir algo con IA y a esperar que se sienta como el gimnasio. Si no fue trabajo duro, probablemente se perdió la fricción que lo hace significativo. También advirtió contra dejar que la gente use los grandes modelos sin filtro, sin un contexto organizacional que refleje lo que la empresa valora.

¿Qué deben hacer los líderes ahora?

Tres ideas de cierre quedaron claras.

Primero, dejar de medir el ROI de los pilotos de IA, al menos por ahora. Es una opinión impopular, pero todos seguimos aprendiendo lo que la IA puede hacer en una organización. Hay que tratarla como una inversión en aprendizaje, con límites claros, y no tener miedo de decir que un piloto falló, siempre que se haya aprendido de él. Ir a fondo, no a lo ancho.

Segundo, invertir en personas que sepan usar las herramientas. Eduardo dijo que le preocupa menos que las herramientas poderosas reemplacen a personas capaces y que está convencido de que “las personas capaces que entienden cómo usar herramientas poderosas sustituirán a las personas capaces que no lo entienden”.

Tercero, no perder de vista el propósito del trabajo. Robbie cerró con una frase de su madre, Gillian Stamp, que está en el corazón de BIOSS: hacer un trabajo que busque “maximizar lo constructivo y minimizar lo destructivo” de la naturaleza humana. Verónica planteó la misma idea para Anker Bioss: rediseñar el trabajo para que las personas permanezcan en flujo y conserven su sentido, sin importar qué herramientas utilicen.

Preguntas frecuentes

¿Qué significa que la IA separe el poder de la responsabilidad? La IA puede actuar cada vez más en nombre de una organización, redactando, recomendando y a veces asignando recursos, pero no puede rendir cuentas como una persona. No se le puede sancionar ni teme perder su reputación. Así, los líderes enfrentan un poder ejercido por sistemas y una responsabilidad que sigue recayendo por completo en las personas.

¿Por qué no basta con un “humano en el circuito” para gobernar la IA? Estar en el circuito no garantiza comprensión. Una persona puede aprobar una y otra vez lo que produce la IA sin saber cómo se generó, como quien firma cheques sin leerlos. Un buen gobierno pregunta en qué parte del circuito está el humano, si tiene contexto para cuestionar el resultado y quién es dueño de la consecuencia.

¿Cómo pueden las organizaciones desarrollar el juicio de sus líderes cuando la IA toma más decisiones? Conservando deliberadamente cierta fricción en el trabajo. Eso implica dejar que las personas jóvenes hagan trabajo que la IA haría más rápido, invitarlas a la sala para ver cómo razonan los líderes con experiencia y diseñar los puestos alrededor de decisiones reales, para que practiquen el juicio y no solo revisen resultados de la máquina.

¿Deben las empresas medir el ROI de sus pilotos de IA? La postura del panel fue que todavía no. La mayoría de las organizaciones sigue aprendiendo qué puede cambiar la IA. Tratar los primeros pilotos como inversiones en aprendizaje, con límites claros, permite experimentar y desarrollar capacidad. Juzgarlos por la productividad de corto plazo puede llevar a abandonar aprendizajes útiles y quedarse atrás.

---

Los equipos directivos que quieran analizar cómo la IA está cambiando las decisiones, los puestos y la responsabilidad en su organización pueden iniciar una conversación con Anker Bioss. Lecturas relacionadas: Autor, no aprobador: rediseñar al humano en el circuito y La IA no asciende en el organigrama.

Jose J. Ruiz es Presidente del Consejo y Managing Partner de Anker Bioss, y CEO y Managing Partner de Alder Koten. Desarrolla estas ideas a profundidad en AI in the Org Chart: A Leadership Guide to Implementing AI Without Losing Human Judgment, Accountability, and Trust, publicado por Elavant Press y disponible en Amazon.