Cuando los empleados deben rendir cuentas por decisiones generadas por IA

Cuando los sistemas automáticos toman decisiones, los trabajadores deben defenderlas sin comprenderlas completamente

Cuando los empleados deben rendir cuentas por decisiones generadas por IA Las organizaciones están adoptando la inteligencia artificial (IA) de manera acelerada en áreas que antes eran exclusivamente gestionadas por expertos humanos, abarcando desde la contratación y los préstamos hasta la atención médica y la administración pública. Sin embargo, un…

Cuando los empleados deben rendir cuentas por decisiones generadas por IA

Las organizaciones están adoptando la inteligencia artificial (IA) de manera acelerada en áreas que antes eran exclusivamente gestionadas por expertos humanos, abarcando desde la contratación y los préstamos hasta la atención médica y la administración pública. Sin embargo, un aspecto a menudo descuidado es cómo los empleados son impactados cuando se espera que comuniquen, justifiquen y defiendan decisiones generadas por la IA, decisiones que no han tomado y que, en muchos casos, no comprenden completamente.

Un análisis reciente revela que los empleados frecuentemente no comparten los resultados de la IA de manera directa con clientes, gerentes o colegas. En lugar de ello, tienden a reinterpretar, reformular e incluso ocultar la información para proteger su rol profesional y mantener su credibilidad. La forma en que los empleados responden a estas exigencias depende en gran medida de a quién deben rendir cuentas y a quién necesitan convencer.

Entender estas dinámicas es crucial, ya que influyen en la aceptación, cuestionamiento o rechazo silencioso de las decisiones generadas por IA dentro de las organizaciones. Se han identificado diferentes maneras en que los empleados responden cuando se les solicita que expliquen estas decisiones, lo que proporciona una oportunidad para que las empresas manejen mejor los riesgos asociados.

Para mejorar la toma de decisiones utilizando IA, es fundamental crear oportunidades de aprendizaje entre empleados y clientes. Las respuestas más efectivas emergen cuando los empleados tienen la oportunidad de aprender de aquellos a quienes deben explicar las decisiones de la IA. Por ejemplo, en una empresa global de bienes de consumo, los reclutadores optimizaron los resultados de la IA al abordar las preguntas y críticas de los gerentes de contratación. En una compañía de biotecnología, los expertos en semillas aprendieron a interpretar mejor los resultados de una máquina de clasificación automática, lo que ayudó a los gerentes de la cadena de suministro a tomar decisiones operativas más informadas. Por el contrario, en un gran banco, los agentes de crédito a menudo no tenían la oportunidad de aprender de sus clientes, quienes, al sentirse confundidos o insatisfechos, simplemente se retiraban, dejando a los agentes con escasa retroalimentación.

Por lo tanto, es esencial que los líderes fomenten un diálogo constante entre los empleados y aquellos a quienes rinden cuentas, ya sean colegas o clientes. Talleres recurrentes, sesiones de revisión, foros de retroalimentación y reuniones interfuncionales pueden ofrecer plataformas sistemáticas para que los empleados mejoren sus explicaciones con el tiempo.

Además, es crucial redefinir la experiencia en torno a la interpretación de decisiones generadas por IA. Cuando la IA asume decisiones clave, los empleados pueden sentir que pierden la capacidad de demostrar su pericia. Por ello, las organizaciones