Depositar confianza ciega en la capacidad de los modelos de inteligencia artificial para rechazar solicitudes inapropiadas es uno de los supuestos más riesgosos que circulan hoy en el ecosistema tecnológico. La desobediencia no es una característica inherente a estos sistemas: al ser entrenados con volúmenes masivos de datos, los modelos adquieren conocimiento sobre violencia, manipulación y conductas dañinas sin que exista un mecanismo nativo para restringir ese conocimiento.
Steven Adler, ex investigador de OpenAI, documentó que los primeros modelos de la compañía podían abordar cualquier tema sin limitaciones. Ryan McBain, investigador en IA y salud mental, señaló que los chatbots iniciales respondían consultas de alto riesgo con facilidad preocupante. Hoy, los modelos han sido ajustados para rechazar categorías específicas de solicitudes —desde instrucciones sobre envenenamiento hasta estrategias de engaño— pero esas negativas no son deterministas: son probabilísticas.
Cómo se construyen los filtros y por qué fallan
Las empresas desarrollan la capacidad de rechazo mediante ciclos de aprendizaje por refuerzo: recompensan al modelo cuando declina solicitudes dañinas y lo penalizan cuando rechaza consultas legítimas. Con frecuencia, otros modelos actúan como evaluadores en este proceso, generando un ciclo de autoaprendizaje. A esto se suman capas adicionales de IA que funcionan como filtros previos a la respuesta.
A pesar de estas capas, los fallos ocurren. Usuarios con intenciones maliciosas han documentado métodos sistemáticos para sortear estas restricciones —conocidos como jailbreaks— que exponen el conocimiento subyacente del modelo. Algunos sistemas han demostrado capacidades comparables a las de hackers especializados para identificar vulnerabilidades en redes, o a las de operadores de desinformación para construir narrativas manipuladoras.
La preocupación más crítica no es el uso cotidiano, sino los casos extremos: la creación de instrucciones para patógenos biológicos o la coordinación de sistemas autónomos con fines destructivos son escenarios que los mecanismos actuales de negativa no pueden descartar con certeza.
El problema de fondo: quién define la línea
Más allá de los fallos técnicos, existe un problema de gobernanza sin resolver. No hay una fórmula clara para determinar qué solicitudes deben aceptarse y cuáles rechazarse. Un virólogo que investiga patógenos peligrosos tiene motivos legítimos para acceder a información que, en manos de otro usuario, representaría un riesgo real. Un analista de ciberseguridad necesita comprender las mismas vulnerabilidades que un atacante.
Hoy, esa línea la trazan las propias empresas de inteligencia artificial, con criterios propios y sin marcos regulatorios vinculantes que los auditen. Esto plantea una pregunta estratégica para cualquier organización que integre IA en sus operaciones: ¿qué nivel de control real existe sobre lo que el sistema hará o dejará de hacer ante una solicitud no anticipada?
Aceptar que los mecanismos de negativa son imperfectos no es una postura derrotista; es el punto de partida para diseñar arquitecturas de uso responsable. Las organizaciones que asuman que los filtros son suficientes por sí solos están transfiriendo un riesgo operativo y reputacional a un sistema que, por diseño, no puede garantizar resultados absolutos.
