Qualcomm AI Hub: expansión a aplicaciones de IA para PC con tecnología Snapdragon

En Microsoft Build 2024, Qualcomm Technologies, Inc. anunció la expansión de su Qualcomm® AI Hub para admitir las plataformas Snapdragon® X Series , lo que reduce el tiempo de comercialización para los desarrolladores y desbloquea los beneficios de la IA generativa en el dispositivo en Windows de próxima generación. PC. Además, los desarrolladores ahora pueden traer sus propios modelos de IA y optimizarlos sin problemas para ejecutarlos directamente en los dispositivos. La capacidad de ejecutar modelos de IA en dispositivos ofrece ventajas significativas , que incluyen una capacidad de respuesta superior, privacidad mejorada, confiabilidad mejorada y experiencias más personalizadas para los usuarios.

«Con el soporte para las plataformas de la serie Snapdragon X en Qualcomm AI Hub, brindamos a los desarrolladores la flexibilidad y el poder para crear aplicaciones de inteligencia artificial innovadoras para PC con Windows de próxima generación», dijo Durga Malladi, vicepresidente senior y gerente general de planificación tecnológica y borde. soluciones, Qualcomm Technologies, Inc. «Estamos comprometidos a proporcionar a los desarrolladores las herramientas y recursos que necesitan para liberar todo el potencial de la IA generativa en el dispositivo».

Qualcomm AI Hub es la puerta de entrada del desarrollador a recursos, herramientas y servicios para permitir un rendimiento superior de IA en el dispositivo y presenta una biblioteca en crecimiento de más de 100 modelos de IA preoptimizados, que también están disponibles en Hugging Face y GitHub . Además, Qualcomm AI Hub ahora permite a los desarrolladores «Traiga su propio modelo» (BYOM), con la capacidad de cargar, optimizar y compilar sus modelos específicamente para las plataformas Snapdragon y Qualcomm®, incluido el soporte para todos los marcos clave como PyTorch, TensorFlow, y ONNX. Los desarrolladores pueden probar y validar fácilmente los modelos en dispositivos alojados en la nube, en menos de cinco minutos y utilizando unas pocas líneas de código. Al simplificar el proceso de optimización y verificación del modelo, los desarrolladores pueden ahorrar tiempo y esfuerzo valiosos, acelerando sus ciclos de desarrollo e implementación y facilitando iteraciones más rápidas.

Los principales fabricantes de equipos originales (OEM) de PC a nivel mundial , incluidos Acer, ASUS, Dell, HP, Lenovo, Microsoft Surface y Samsung, tienen previsto lanzar PC con tecnología Snapdragon X Elite y/o X Plus Compute Platforms, lo que permitirá a los desarrolladores utilizar Qualcomm AI Hub para ofrecer una calidad superior. experiencias a esta nueva generación de dispositivos.

Las plataformas de la serie Snapdragon X admiten una amplia gama de herramientas de desarrollo de IA. Gracias a las profundas integraciones con ONNX Runtime y Hugging Face Optimum , así como a la compatibilidad con Llama.cpp , los desarrolladores ahora pueden ejecutar miles de modelos en las plataformas Snapdragon X Series y crear ricas aplicaciones de Windows impulsadas por IA. Los desarrolladores también pueden aprender sobre la IA en los dispositivos y cómo implementarla en sus aplicaciones en este curso en línea ofrecido por DeepLearning.AI en colaboración con Qualcomm Technologies.