Microsoft y Qualcomm se unen para impulsar la IA
En el marco de Microsoft Build 2023, conferencia anual de desarrolladores, Qualcomm Technologies, Inc. presentó sus últimas innovaciones en IA en dispositivos, incluyendo la ejecución de IA generativa en plataformas de cálculo Snapdragon, así como nuevas opciones para desarrolladores que crean aplicaciones para PC con Windows 11 alimentadas por Snapdragon.
"Para que la IA generativa se vuelva realmente convencional, gran parte de la inferencia deberá ejecutarse en dispositivos periféricos. Nuestro hardware y software de IA de primera clase capacita a los desarrolladores para aprovechar al máximo nuestras potentes capacidades de IA, brindando increíbles experiencias de usuario en computadoras portátiles, teléfonos y otros dispositivos con Snapdragon", dijo Ziad Asghar, VP Senior de Gestión de Productos de Qualcomm Technologies, Inc.
Qualcomm Technologies, Inc. explica que la inteligencia artificial debe incluir tanto la IA en dispositivos como en la nube. Ejecutar aplicaciones de IA en dispositivos mejora la eficiencia de costos, la privacidad, personalización y la latencia. Por ello, las plataformas Snapdragon incluyen un Qualcomm AI Enginededicado para procesar cargas de trabajo de inteligencia artificial de manera más eficiente que cuando se procesan únicamente en la CPU o GPU, lo que hace posible la IA en el dispositivo, incluso en los pequeños, delgados y livianos.
En este sentido, Qualcomm Technologies demostrará y ofrecerá herramientas para ayudar a desarrollar inteligencia artificial generativa en la próxima generación de PC con Windows 11. Stable Diffusion, un modelo de inteligencia artificial generativa de texto a imagen con más de mil millones de parámetros, ahora se ejecuta completamente en el dispositivo, y la compañía afirma tener un claro camino hacia la ejecución de modelos con hasta diez mil millones de parámetros en dispositivos en los próximos meses, incluidos modelos de lenguaje extenso (LLM, por sus siglas en inglés).
Para mejorar el Qualcomm AI Stack y ayudar a los desarrolladores a crear la próxima generación de experiencias de IA en dispositivos, el Qualcomm® AI Engine Direct SDK estará disponible al público por primera vez en Build. Con ONNX Runtime y Qualcomm® AI Stack, se pueden ejecutar las cargas de trabajo de IA en el Snapdragon 8cx Gen 3 AI Engine tanto en Surface Pro 9 5G como en Lenovo ThinkPad x13s.
"Tanto el procesamiento en la nube como el procesamiento en dispositivos son necesarios para ampliar la IA en todo el vasto universo de dispositivos y aplicaciones. Al reunir el liderazgo de Microsoft en la IA en la nube y las capacidades de la plataforma Windows con la experiencia de Qualcomm Technologies en IA en dispositivos, aceleraremos las oportunidades para experiencias de inteligencia artificial generativa", dijo Pavan Davuluri, VP Corporativo del Departamento de Silicon and Sistem Integration de Windows en Microsoft.
