Experimente los modelos de razonamiento destilados de DeepSeek R1 en AMD Ryzen AI y Radeon

Los modelos de razonamiento son una nueva clase de modelos de lenguaje grande (LLM) diseñados para abordar tareas altamente complejas mediante el uso del razonamiento en cadena de pensamiento (CoT) con la desventaja de que tardan más en responder. 

DeepSeek R1 es un modelo de “razonamiento” de vanguardia lanzado recientemente que se ha destilado en modelos más pequeños de gran capacidad. Implementar estos modelos destilados de DeepSeek R1 en procesadores de IA AMD Ryzen™ y tarjetas gráficas Radeon™ es increíblemente fácil y ahora está disponible a través de LM Studio.

Los modelos de razonamiento añaden una etapa de “pensamiento” antes del resultado final, que se puede ver ampliando la ventana de “pensamiento” antes de que el modelo dé su respuesta final. A diferencia de los modelos de razonamiento lineal convencionales, que dan la respuesta en un solo paso, los modelos de razonamiento lineal de CoT realizan un razonamiento extenso antes de responder.

Las suposiciones y la autorreflexión que realiza el modelo de razonamiento lineal son visibles para el usuario y esto mejora la capacidad de razonamiento y análisis del modelo, aunque a costa de un tiempo significativamente más largo hasta el primer token (resultado final).

Un modelo de razonamiento puede gastar primero miles de tokens (¡y puedes ver esta cadena de pensamiento!) para analizar el problema antes de dar una respuesta final. Esto permite que el modelo sea excelente en tareas de resolución de problemas complejos que involucran matemáticas y ciencias y que ataque un problema complejo desde todos los ángulos antes de decidir una respuesta. Dependiendo de su hardware AMD, cada uno de estos modelos ofrecerá una capacidad de razonamiento de última generación en su procesador AMD Ryzen™ AI o tarjetas gráficas Radeon™.

Cómo ejecutar modelos de razonamiento destilados de DeepSeek R1 en tarjetas gráficas AMD Ryzen AI y Radeon

https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fwww.youtube.com%2Fembed%2F3RnWR5M59GY%3Ffeature%3Doembed&display_name=YouTube&url=https%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3D3RnWR5M59GY&image=https%3A%2F%2Fi.ytimg.com%2Fvi%2F3RnWR5M59GY%2Fhqdefault.jpg&type=text%2Fhtml&schema=youtube

Siga estos sencillos pasos para comenzar a utilizar las destilaciones de DeepSeek R1 en tan solo unos minutos (según la velocidad de descarga).

Paso 1: Asegúrese de estar utilizando el controlador opcional Adrenalin 25.1.1 o superior.

Paso 2: Descargue LM Studio 0.3.8 o superior desde lmstudio.ai/ryzenai

Paso 3: Instale LM Studio y omita la pantalla de incorporación.

Paso 4: Haga clic en la pestaña Descubrir.

Paso 5: Elige tu destilador DeepSeek R1. Los destiladores más pequeños, como el Qwen 1.5B, ofrecen un rendimiento increíblemente rápido (y son el punto de partida recomendado), mientras que los destiladores más grandes ofrecen una capacidad de razonamiento superior. Todos ellos son extremadamente capaces. La siguiente tabla detalla el tamaño máximo recomendado del destilador DeepSeek R1:

*= AMD recomienda ejecutar todos los destilados en cuantificación Q4 KM.
¹ = Requiere memoria gráfica variable configurada en Personalizada: 24 GB.  

² = Requiere memoria gráfica variable configurada en Alta.

*= AMD recomienda ejecutar todos los destilados en cuantificación KM Q4.

¹ = Enumera la destilación máxima admitida sin descarga parcial de la GPU. 

Paso 6: En el lado derecho, asegúrate de que la cuantificación “Q4 KM” esté seleccionada y haz clic en “Descargar”.

Paso 7: Una vez descargado, regresa a la pestaña de chat y selecciona el destilado DeepSeek R1 en el menú desplegable y asegúrate de que la opción “seleccionar parámetros manualmente” esté marcada.

Paso 8 : En las capas de descarga de GPU, mueve el control deslizante hasta el máximo.

Paso 9: Haga clic en cargar modelo.

Paso 10: ¡Interactúa con un modelo de razonamiento que se ejecuta completamente en tu hardware AMD local!