Comprender el lenguaje de la ciberseguridad en inteligencia artificial dejó de ser una responsabilidad exclusiva de los equipos técnicos. Hoy, un empleado del área financiera que autoriza pagos por videollamada, un gerente que evalúa la adopción de un chatbot o una junta directiva que revisa un informe de incidentes necesitan el mismo vocabulario para tomar decisiones informadas. Sin ese lenguaje común, alertas sobre inyección de comandos o IA en la sombra se convierten en jerga incomprensible —y los riesgos, en puntos ciegos organizacionales.

La dualidad de la IA en seguridad

La inteligencia artificial opera en dos frentes simultáneos dentro del ecosistema de ciberseguridad. Los actores maliciosos la utilizan para construir mensajes de phishing más persuasivos, clonar voces con precisión milimétrica y automatizar ataques a escala. Al mismo tiempo, los modelos de IA desplegados dentro de las organizaciones —los que analizan correos, generan código o atienden clientes— se convierten en vectores de ataque por derecho propio. Un modelo vulnerable puede ser manipulado igual que cualquier otro sistema expuesto.

Esta dualidad ha generado un vocabulario operativo que crece en paralelo a la adopción empresarial de la tecnología. Algunos términos son recientes y describen desafíos propios del entrenamiento y conexión de modelos de aprendizaje automático: IA agente, inyección de comandos, envenenamiento de datos. Otros tienen raíces en la seguridad tradicional y han sido recontextualizados: el tiempo de ruptura —que mide la velocidad con la que un intruso se propaga desde un equipo comprometido al resto de la red— o el red teaming, heredado de las pruebas de penetración convencionales.

El marco de referencia formal

En enero de 2023 se publicó un Marco de Gestión de Riesgos de IA que, aunque de adopción voluntaria, ofrece una estructura compartida para identificar, medir y mitigar el riesgo asociado a sistemas de IA. Su valor no radica en imponer requisitos legales, sino en proveer un lenguaje institucional que facilita la conversación entre áreas técnicas, legales y de negocio dentro de una misma organización.

Los diez términos que estructuran el riesgo

Varios de los conceptos clave están interrelacionados, lo que puede generar confusión si se analizan de forma aislada. La inyección de comandos, el jailbreak y los ejemplos adversariales comparten un denominador común: manipulan la información que recibe un modelo. Sin embargo, cada uno explota una vulnerabilidad distinta.

Inyección de comandos anula las instrucciones originales de una aplicación insertando instrucciones maliciosas en la entrada del modelo, redirigiendo su comportamiento sin que el sistema lo detecte.

Jailbreak empuja al modelo más allá de sus reglas de seguridad mediante prompts diseñados para eludir restricciones éticas o de contenido establecidas por el desarrollador.

Ejemplos adversariales introducen alteraciones mínimas y deliberadas en una entrada —imperceptibles para un humano— que llevan al modelo a clasificarla incorrectamente, con consecuencias que van desde errores de detección hasta fallos en sistemas de visión artificial.

Envenenamiento de datos compromete el proceso de entrenamiento: al contaminar el conjunto de datos con información manipulada, el modelo aprende patrones incorrectos que luego se expresan como comportamientos erróneos o sesgados en producción.

IA agente describe sistemas capaces de ejecutar acciones autónomas —navegar la web, escribir y correr código, interactuar con APIs— con supervisión humana mínima. Su capacidad de acción amplía proporcionalmente su superficie de ataque.

IA en la sombra es el equivalente moderno de la TI en la sombra: el uso de herramientas de IA por parte de empleados o áreas sin aprobación ni visibilidad del área de tecnología, generando riesgos de fuga de datos y cumplimiento normativo.

Deepfakes son contenidos sintéticos —video, audio o imagen— generados por IA para suplantar identidades reales. Su uso en fraudes de ingeniería social, como la clonación de voz de un directivo para autorizar transferencias, ha escalado de forma significativa en los últimos dos años.

Red teaming aplicado a IA consiste en someter un modelo a ataques simulados antes de su despliegue, con el objetivo de identificar vulnerabilidades en su comportamiento, sesgos o puntos de manipulación.

Tiempo de ruptura mide el intervalo entre el momento en que un atacante compromete un primer sistema y el momento en que logra moverse lateralmente hacia otros activos de la red. En entornos donde la IA gestiona accesos o automatiza procesos, este tiempo puede reducirse drásticamente.

Alucinación de modelo ocurre cuando un sistema de IA genera información falsa con apariencia de certeza. En contextos empresariales —asesoría legal, análisis financiero, soporte técnico— este comportamiento representa un riesgo operativo y reputacional concreto si no existe un proceso de verificación humana.

Leer estos términos en conjunto, más que de forma individual, permite distinguir dónde reside cada vulnerabilidad y qué tipo de respuesta organizacional requiere. La diferencia entre un incidente contenido y una brecha de consecuencias mayores suele medirse en semanas —a veces días— y en la capacidad de quienes toman decisiones para reconocer la señal antes de que escale.