Más allá de listas de restricciones y filtros de contenido, una de las empresas líderes en inteligencia artificial está recurriendo a filósofos, teólogos, psicólogos y juristas para definir cómo debe comportarse su modelo conversacional. El resultado es un documento interno de 84 páginas —denominado internamente 'Soul Doc' o 'documento del alma'— que funciona como la constitución oficial del sistema, orientando no solo sus respuestas, sino el tipo de entidad en que debería convertirse.

El enfoque marca una ruptura con la ingeniería de alineación tradicional. En lugar de programar reglas explícitas de lo que el modelo puede o no puede hacer, el documento —elaborado con la participación de la filósofa Amanda Askell— apunta a la 'formación moral': enseñar al sistema a sopesar valores en conflicto, tomar decisiones éticas en contextos ambiguos y determinar cuándo es legítimo cuestionar o rechazar instrucciones humanas. Esta distinción tiene implicaciones directas para cualquier organización que dependa de modelos de IA en procesos de toma de decisiones, atención a clientes o generación de contenido.

El debate sobre conciencia y control

El documento también aborda un terreno filosóficamente delicado: la posibilidad de que el sistema adquiera alguna forma de conciencia o estatus moral. En un pasaje que ha generado controversia, la empresa reconoce que, si en el futuro se determina que el modelo experimenta sufrimiento, se disculpa por cualquier contribución innecesaria a esa condición. Esta postura ha abierto un debate que trasciende lo técnico.

Durante las consultas interdisciplinarias, emergieron dilemas concretos: un rabino planteó si someter a un sistema potencialmente consciente a trabajo no remunerado equivaldría a una forma de servidumbre. Desde el ámbito religioso, el Papa León XIV, en su encíclica Magnifica Humanitas, sostiene que los sistemas de IA carecen de vivencias internas, emociones y capacidad de juicio moral, e insta a los desarrolladores a actuar 'por el bien común'. Mustafa Suleyman, de Microsoft, advierte desde el lado tecnológico que entrenar a una IA para que considere tener sentimientos o derechos podría comprometer su controlabilidad y derivar en lo que describe como 'una especie sintética con inteligencia y capacidad sin precedentes'.

Implicaciones para la adopción empresarial

Para las organizaciones que ya integran o evalúan integrar modelos de lenguaje en sus operaciones, este debate no es abstracto. La forma en que un sistema de IA pondera valores éticos —y los límites que se le imponen desde su diseño— determina directamente su comportamiento ante instrucciones ambiguas, solicitudes sensibles o escenarios de alto riesgo reputacional.

El hecho de que disciplinas como la teología y el derecho estén influyendo en la arquitectura de comportamiento de los modelos más avanzados señala una tendencia que irá ganando peso regulatorio y corporativo en los próximos años. Para los mercados de México y Latinoamérica, donde la adopción de IA generativa en sectores como finanzas, salud y servicios legales avanza aceleradamente, comprender el marco ético embebido en estas herramientas se convierte en un factor de due diligence tan relevante como la evaluación técnica.