Proclamar valores éticos no equivale a tomar decisiones éticamente justificables. Esta distinción, aparentemente obvia, se ha vuelto central en el debate sobre gobernanza corporativa y tecnológica tras una serie de episodios que exponen la distancia entre el discurso institucional y la conducta verificable.
El 13 de octubre, dos de las organizaciones más influyentes en el desarrollo de inteligencia artificial buscaron controlar las publicaciones de evaluadores externos, argumentando protección de información confidencial. Ambas defendieron públicamente la independencia de las evaluaciones, pero con condiciones que variaban según el tipo de información y los evaluadores involucrados. El episodio plantea una pregunta sin respuesta clara: ¿qué mecanismos garantizan que la protección de secretos comerciales no se convierta en un instrumento para suprimir hallazgos relevantes para la seguridad pública?
El lenguaje ético como recurso reputacional
Conceptos como transparencia, responsabilidad y dignidad se han vuelto recurrentes en el discurso institucional. Sin embargo, la proliferación de declaraciones morales no asegura decisiones moralmente justificables. El lenguaje ético puede operar como herramienta de gestión reputacional mientras las decisiones continúan subordinadas a la conveniencia, la rentabilidad o la concentración de poder.
La pregunta relevante no es cuántas veces una organización menciona la ética, sino si está dispuesta a hacer comprensibles los criterios que guían sus decisiones, las responsabilidades que estas implican y los límites que establece. Una institución no demuestra compromiso ético al publicar un código de conducta: lo demuestra cuando evita una operación lucrativa pero injustificable, cuando una autoridad acepta revisar una decisión arbitraria, o cuando un procedimiento protege derechos incluso a expensas de la eficiencia operativa.
Tres casos que definen el problema
El uso de tecnología para generar imágenes sexualizadas de personas reales sin su consentimiento derivó en investigaciones por parte de Ofcom y de la Comisión Europea sobre los mecanismos de protección y mitigación de riesgos de una plataforma de alcance global. La capacidad técnica de modificar imágenes personales no implica que cualquier uso sea permisible. Proclamar una innovación responsable resulta insuficiente sin medidas de prevención verificables, controles auditables, mecanismos de reparación y responsabilidades claramente identificadas.
En el ámbito de los datos genéticos, la Fiscalía General de California presentó una demanda contra una empresa del sector por presuntas deficiencias en la protección de información sensible y comunicaciones engañosas relacionadas con una filtración de 2023 que afectó a casi siete millones de usuarios. Independientemente del resultado judicial, el caso formula una exigencia de fondo: toda organización que custodie datos capaces de comprometer la intimidad biológica personal y familiar debe poder explicar cómo los protege, qué riesgos prevé y quién responde cuando los mecanismos de seguridad fallan.
En Argentina, la investigación federal sobre una presunta filtración de datos atribuida a una firma de gestión laboral plantea la misma exigencia en el ámbito privado. Y la controversia en torno al Sistema de Reconocimiento Facial de Prófugos en la Ciudad Autónoma de Buenos Aires —suspendido judicialmente en 2022 y aún cuestionado en 2026— evidencia que la innovación estatal tampoco está exenta de esta lógica. La seguridad pública no justifica por sí sola tecnologías de vigilancia que carezcan de controles adecuados de proporcionalidad, privacidad y rendición de cuentas. Un fin legítimo no convierte automáticamente en legítimos los medios utilizados.
IA autónoma en el sistema financiero: el escrutinio regulatorio se intensifica
Los problemas no se limitan a la privacidad o la vigilancia. El 13 de octubre, autoridades supervisoras bancarias de Estados Unidos y Europa intensificaron la evaluación de sistemas de inteligencia artificial capaces de operar de manera autónoma. El foco regulatorio se concentró en cuatro dimensiones: supervisión humana efectiva, seguridad informática, capacidad de auditar operaciones y mecanismos para interrumpir sistemas cuando sea necesario.
Este movimiento regulatorio refleja una tendencia más amplia: la presión institucional ya no se dirige únicamente a los datos que manejan las organizaciones, sino a los sistemas que toman decisiones con consecuencias reales sobre personas y mercados. La pregunta que emerge para cualquier organización que opere en este entorno no es si adoptar estas tecnologías, sino bajo qué condiciones de control, transparencia y responsabilidad puede hacerlo de forma sostenible.
