AMD Ryzen AI Halo supera a Nvidia en velocidad de orquestación para tareas complejas de inteligencia artificial local

La compañía de semiconductores AMD presentó los resultados de rendimiento de sus procesadores Ryzen AI Halo, diseñados para ejecutar flujos de trabajo de agentes de inteligencia artificial directamente en los dispositivos finales. De acuerdo con las pruebas comparativas realizadas con el flujo de trabajo sintético HEPA, la plataforma AMD Ryzen AI Max+ 395 completó la orquestación y preparación de datos un 34 % más rápido que el chip Nvidia DGX Spark Grace Blackwell, reduciendo el tiempo total de ejecución y el costo por tarea finalizada.

En el sector del desarrollo de software y las áreas de tecnología corporativa en Colombia, no es raro encontrar que las empresas prefieran procesar tareas de inteligencia artificial en la nube para no saturar los equipos locales. Sin embargo, ante los crecientes costos de suscripción por uso de API, la latencia en la transferencia de archivos y las políticas de privacidad de datos, cada vez más ingenieros y firmas locales buscan arquitecturas capaces de ejecutar modelos complejos sin depender de una conexión permanente a internet.

La diferencia entre generar texto y completar flujos de trabajo

El análisis presentado por la marca marca un cambio en los parámetros tradicionales de evaluación de hardware. Durante la etapa inicial del uso de la inteligencia artificial generativa, la industria centró sus métricas en el rendimiento gráfico, midiendo cuántos tokens por segundo entregaba la tarjeta de video (GPU). No obstante, los asistentes o agentes actuales operan diferente: leen documentos, extraen texto de imágenes (OCR), segmentan información, crean índices de búsqueda e interactúan con bases de datos.

En este tipo de procesos, siete de las ocho etapas que componen el flujo de trabajo recaen de forma directa sobre la unidad central de procesamiento (CPU). Según las mediciones publicadas por AMD, la GPU solo interviene en la etapa final de generación de respuesta. Debido a esto, la capacidad del procesador principal para organizar las tareas y mover datos resulta determinante para calcular el tiempo total que tarda un equipo en entregar un documento finalizado y validado.

Resultados de las pruebas y eficiencia de costos

Para medir el desempeño en un entorno empresarial real, se evaluó la creación automatizada de un informe ejecutivo a partir de un repositorio de 302 archivos locales de origen diverso, incluyendo textos en red, imágenes escaneadas y fuentes duplicadas. La prueba se ejecutó bajo el sistema operativo Linux utilizando el modelo Qwen3.6-35B-A3B servido con la herramienta llama.cpp, comparando la arquitectura de AMD frente a la solución DGX Spark Grace Blackwell (GB10) de Nvidia.

En el tiempo global de procesamiento, el equipo con tecnología AMD Ryzen AI Halo completó la tarea validada en 311,6 segundos, mientras que la plataforma de Nvidia tardó 367,1 segundos, lo que representó una diferencia favorable de 55,5 segundos a favor de AMD. La mayor brecha se registró en las fases de creación de vectores de búsqueda (embeddings) y enrutamiento gerenciadas por la CPU, donde el procesador Ryzen AI Max+ invirtió 71,5 segundos frente a los 139,6 segundos requeridos por el chip Grace Blackwell.

A nivel financiero, la empresa calculó una reducción del 27 % en el costo por flujo de trabajo finalizado. Bajo un esquema de amortización de hardware a tres años de uso continuo (sin incluir consumo eléctrico), el costo por ejecución finalizada en la arquitectura AMD se ubicó en torno a los 0,0132 dólares, en comparación con los 0,0182 dólares registrados por la plataforma competitiva.

Arquitectura de núcleos y gestión unificada de memoria

La ventaja de velocidad en las fases de preparación responde a la estructura interna del procesador Ryzen AI Max+ 395. La tarjeta integra 16 núcleos «Zen 5» y 32 hilos mediante tecnología de multiprocesamiento simétrico (SMT), complementados con aceleración vectorial AVX-512/VNNI. En contraste, el chip Nvidia Grace Blackwell utilizado en la prueba cuenta con 20 núcleos de arquitectura Arm sin SMT y un conjunto de instrucciones SVE2.

La capacidad de paralelizar tareas permite que la CPU organice múltiples archivos y fragmentos de texto en simultáneo. Al integrar la CPU, la GPU y una memoria unificada dentro de una misma tarjeta, los modelos permanecen cargados sin necesidad de transferir información de forma reiterada entre componentes externos, lo que facilita el trabajo local con varios modelos pequeños especializados en tareas como lectura visual, conversión de voz o clasificación de contenidos.