Desde la suplantación de identidad hasta la toma autónoma de decisiones críticas, la inteligencia artificial presenta un espectro de riesgos que ya afectan a personas, organizaciones y gobiernos. No se trata de amenazas hipotéticas: varios de estos daños son documentables hoy, con consecuencias medibles en sectores como recursos humanos, seguridad pública y ciberseguridad.
Los riesgos más inmediatos: fraude, sesgo y desinformación
Entre los impactos más frecuentes y verificables, destaca el uso de IA generativa por parte de actores maliciosos para suplantar la identidad de familiares o directivos de empresas. Este tipo de fraude, conocido como vishing o deepfake fraud, ha generado pérdidas millonarias en organizaciones de distintos tamaños. La recomendación de organismos de ciberseguridad es directa: establecer un canal de verificación secundario para cualquier solicitud de transferencia o acceso sensible, independientemente de quién parezca solicitarlo.
Los sistemas automatizados de filtrado de candidatos y los algoritmos de reconocimiento facial utilizados en procesos de identificación policial representan otro vector de riesgo con evidencia sólida. Estudios documentados muestran que estos sistemas cometen errores con mayor frecuencia en ciertos grupos demográficos, lo que puede derivar en discriminación laboral o detenciones injustificadas. El impacto no es solo legal o reputacional: erosiona la confianza institucional en las herramientas tecnológicas.
Los modelos de lenguaje que generan respuestas fluidas y convincentes, pero factualmente incorrectas, representan un tercer riesgo de alta frecuencia. En contextos donde se usan para apoyar decisiones médicas, legales o financieras sin supervisión humana adecuada, las consecuencias pueden ser graves. La precisión percibida del lenguaje no equivale a precisión factual.
Riesgos de mayor escala: ciberataques, armas autónomas y consumo energético
Más allá del impacto individual, la IA amplifica la capacidad ofensiva en ciberseguridad. Los ataques potenciados por modelos de lenguaje pueden personalizar campañas de phishing a escala masiva, reduciendo el costo y aumentando la efectividad de operaciones que antes requerían equipos especializados. Esto redefine el perfil de amenaza para cualquier organización con activos digitales.
El debate sobre armas autónomas —sistemas capaces de seleccionar y atacar objetivos sin intervención humana— se ha intensificado en foros internacionales. La comunidad científica no tiene consenso sobre la probabilidad de los escenarios más extremos, pero sí sobre la urgencia de establecer marcos regulatorios antes de que la proliferación tecnológica supere la capacidad normativa de los Estados.
El consumo de recursos por parte de los centros de datos que sostienen la infraestructura de IA es otro factor con implicaciones estratégicas. El agua y la electricidad utilizadas en el entrenamiento y operación de modelos de gran escala representan externalidades que empiezan a aparecer en agendas de sostenibilidad corporativa y regulación ambiental.
Un marco para gestionar el riesgo sin paralizarse
El Instituto Nacional de Estándares y Tecnología (NIST) propone un enfoque estructurado para la gestión de riesgos en IA que organiza la respuesta en cuatro dimensiones: gobernanza, mapeo, medición y gestión. Este marco es aplicable tanto a nivel organizacional como en la definición de políticas públicas.
La utilidad práctica de este enfoque radica en que distingue entre riesgos que requieren cambios de hábito —verificar solicitudes sensibles por un segundo canal, por ejemplo— y aquellos que demandan intervención sistémica: cambios en configuraciones tecnológicas, ejercicio de derechos legales existentes o presión regulatoria sobre legisladores.
Ninguna medida elimina el riesgo de forma absoluta. Sin embargo, la evidencia disponible indica que intervenciones simples pueden alterar significativamente las probabilidades de incidentes negativos. La diferencia entre organizaciones que gestionan estos riesgos y las que no lo hacen no es de recursos, sino de estructura de decisión y cultura de verificación.
