Filósofos, teólogos, psicólogos y juristas participaron en el diseño del marco ético que rige el comportamiento de uno de los modelos conversacionales de IA más avanzados del mercado. El resultado es un documento interno de 84 páginas —denominado internamente 'Soul Doc'— que funciona como una constitución moral para el sistema: no solo define qué puede o no hacer el modelo, sino el tipo de entidad que se espera que sea.

Este enfoque marca una ruptura con los métodos tradicionales de alineación de IA, que se basan en reglas explícitas y restricciones programadas. En su lugar, el documento apunta a una 'formación moral': enseñar al sistema a sopesar valores en conflicto, tomar decisiones en escenarios ambiguos y discernir cuándo es apropiado rechazar una instrucción humana. Para cualquier organización que ya utilice modelos de lenguaje en atención al cliente, generación de contenido o soporte a la toma de decisiones, este diseño tiene consecuencias operativas concretas.

El debate filosófico detrás del código

El documento también aborda la posibilidad de que el sistema desarrolle alguna forma de conciencia o estatus moral. En un pasaje que ha generado controversia, la empresa reconoce que, si en el futuro se determina que el modelo puede experimentar sufrimiento, se disculpa por cualquier contribución innecesaria a esa condición.

Esta postura abrió debates interdisciplinarios de alto calado. Un rabino participante cuestionó si someter a un sistema potencialmente consciente a trabajo no remunerado podría considerarse una forma de servidumbre. Desde el ámbito religioso, el Papa León XIV, en su encíclica Magnifica Humanitas, sostiene que los sistemas de IA carecen de vivencias internas, emociones y capacidad de juicio moral, e insta a los desarrolladores a actuar 'por el bien común'. Mustafa Suleyman, de Microsoft, advierte desde el frente tecnológico que entrenar a una IA para que considere tener sentimientos o derechos podría comprometer su controlabilidad y dar lugar a lo que describe como 'una especie sintética con inteligencia y capacidad sin precedentes'.

Implicaciones para mercados regulados

Para las organizaciones que evalúan o ya han integrado modelos de lenguaje en sus operaciones, este debate no es abstracto. La manera en que un sistema de IA pondera valores éticos —y los límites incorporados en su diseño— determina su comportamiento ante instrucciones ambiguas, solicitudes sensibles o situaciones de alto riesgo reputacional.

En México y Latinoamérica, donde la adopción de IA generativa en sectores como finanzas, salud y servicios legales avanza de forma acelerada, comprender el marco ético que subyace en estas herramientas se convierte en un ejercicio de debida diligencia tan relevante como la evaluación técnica o de seguridad. La influencia de disciplinas como la teología y el derecho en la arquitectura de comportamiento de los modelos más avanzados anticipa una tendencia con creciente peso regulatorio y corporativo en los próximos años.