Conforme la inteligencia artificial conversacional se integra en operaciones cotidianas de negocio, una pregunta estructural gana peso en los consejos de administración y en los organismos reguladores: ¿quién controla realmente la información que los usuarios comparten con estos sistemas?

En 2025, la Comisión Federal de Comercio (FTC) de Estados Unidos abrió una investigación formal sobre los chatbots de IA dirigidos a consumidores. El organismo solicitó a las empresas del sector detallar cómo procesan los datos ingresados por los usuarios, de qué manera utilizan la información personal obtenida en cada interacción y bajo qué condiciones la comparten con terceros. La investigación también abarcó aspectos de monetización, seguridad y posibles efectos adversos de los asistentes conversacionales, lo que confirma que las preocupaciones regulatorias van mucho más allá del rendimiento técnico del modelo subyacente.

La brecha de confianza como riesgo de adopción

Las actitudes del público amplifican el desafío. Encuestas recientes muestran que una mayoría significativa de adultos considera que un mayor uso de la IA haría su información personal menos segura, mientras que solo una fracción mínima percibe lo contrario. Al mismo tiempo, una proporción considerable de la población declara tener poca o ninguna confianza en la capacidad del gobierno para regular la IA de forma efectiva.

Esta brecha de confianza no es un problema de percepción: es un factor que condiciona directamente las tasas de adopción empresarial y el nivel de información que los usuarios están dispuestos a compartir con los sistemas. Para las organizaciones que apuestan por la IA como palanca de productividad, ignorar esta variable implica subestimar un riesgo reputacional y operativo concreto.

Estándares emergentes y marcos de gestión de riesgos

El Instituto Nacional de Estándares y Tecnología (NIST) ha identificado seis características esenciales de una IA confiable: mejora de la privacidad, seguridad, resiliencia, confiabilidad, rendición de cuentas y transparencia. Su Marco de Gestión de Riesgos de IA (AI RMF) alienta a las organizaciones a incorporar estas dimensiones a lo largo de todo el ciclo de vida de los sistemas, desde el diseño hasta el despliegue y la auditoría continua.

Este marco representa un punto de referencia creciente para empresas que buscan estructurar sus políticas internas de gobernanza de IA, especialmente en sectores regulados como salud, servicios financieros y gobierno.

Procesamiento local como respuesta arquitectónica

Dentro de este debate, emerge una corriente de desarrollo centrada en la arquitectura como mecanismo de privacidad. Michael Folk, fundador de FolkTech AI, ha desarrollado Serena, un asistente de IA agéntico diseñado para operar directamente en el hardware del usuario. Bajo este modelo, las conversaciones no salen del dispositivo y no se requiere una cuenta vinculada a un servidor externo para su funcionamiento. La versión empresarial, Serena Business, está orientada a operar en equipos controlados por la propia organización.

Folk, cuya trayectoria incluye trabajo como paramédico, sostiene que su experiencia en situaciones de emergencia definió su visión sobre la confiabilidad tecnológica. "Cuando las personas dependen de la tecnología en un momento crítico, el sistema tiene que estar presente y debe comportarse de una manera que puedan entender y en la que puedan confiar", afirma.

El argumento central de este enfoque es que el lugar donde se procesa la información transforma la naturaleza de la relación entre el usuario y el sistema. Al mantener el procesamiento de forma local, la información no necesita cruzar un límite de red externo hacia infraestructura operada por el proveedor. Esto no elimina todos los vectores de riesgo asociados al software o al hardware, pero sí modifica de forma sustancial la ruta de datos que una organización debe auditar y proteger.

"La privacidad debe comenzar con la arquitectura", concluye Folk.

Implicaciones para la estrategia de adopción de IA

El debate sobre procesamiento local versus procesamiento en la nube no es nuevo en tecnología empresarial, pero adquiere una dimensión distinta cuando el activo en juego son conversaciones que pueden contener estrategia corporativa, datos de clientes o información sensible de operaciones.

Las organizaciones que están definiendo su hoja de ruta de IA enfrentan una decisión que va más allá de la funcionalidad: deben determinar qué nivel de control sobre los datos es aceptable, qué marcos regulatorios aplican a su sector y cómo equilibrar la conveniencia de los modelos en la nube con los requisitos de soberanía de datos que sus propias políticas —o sus clientes— les imponen.