Cómo instalar y usar DeepSeek en tu PC

1 de febrero de 2025

En un post anterior vimos cómo instalar LM Studio en tu ordenador personal para ejecutar en local modelos LLM (también, más o menos modestos), sin depender de la conexión a internet y servicios Cloud que sí necesitas para utilizar ChatGPT.

Los modelos de lenguaje y los LLM han democratizado el acceso a la IA avanzada, haciéndola más accesible para usuarios individuales y pequeñas empresas. Son cada vez mejores cuando se trata de generar texto coherente y creativo, escribir código, analizar datos y, en algunos casos, generar contenido visual mediante modelos específicos para esa tarea.

Volviendo a LM Studio y otros programas similares, permiten ejecutar modelos de lenguaje en ordenadores personales relativamente modestos: apenas necesitas un procesador moderno y algo de memoria RAM, idealmente 16 GB o más.

Qué es DeepSeek R1 Distill

La startup DeepSeek ha desarrollado modelos de lenguaje avanzados como R1, V3 o Janus, que destacan por su eficiencia y rendimiento usando menos recursos que modelos similares.

Estos modelos son de código abierto (open source) y no propietarios. Esto significa que podrías descargar DeepSeek R1 e instalarlo en tu ordenador, suponiendo que cumple los requisitos de hardware.

También significa que se pueden crear versiones destiladas (distill) del modelo R1, más pequeños y con menores requisitos de hardware. Estas versiones se pueden ejecutar en un PC común (y en ordenadores Copilot+) y hacer funcionar aplicaciones IA en local de manera eficiente.

¿Cómo se destila un modelo LLM?

Los modelos destilados son versiones más compactas y eficientes de modelos de lenguaje más grandes que se crean mediante un proceso llamado destilación. Este proceso reduce el tamaño del modelo y su consumo de recursos, manteniendo gran parte de la información relevante.

El proceso de destilación consiste en utilizar un modelo grande y complejo ya entrenado para enseñar a un modelo más pequeño que aprende a imitar su comportamiento con una menor demanda de recursos. Como resultado, estos modelos destilados pueden ejecutarse en ordenadores personales sin necesidad de hardware especializado.

Sin embargo, la principal desventaja de los modelos destilados es que pueden perder detalles, conocimiento específico y capacidades de razonamiento complejo. Esto puede afectar su precisión o su capacidad para responder preguntas más complejas o especializadas.

Instalar DeepSeek R1 Distill en tu ordenador con LM Studio

Una vez ya tienes instalado LM Studio (o un programa similar) y actualizado a su última versión, sigue estos pasos:

  1. Accede al catálogo de modelos de LM Studio usando el icono de la lupa en la barra lateral izquierda.

    Busca el modelo escribiendo 'DeepSeek R1' en la barra de búsqueda.

    El modelo DeepSeek R1 Distill (Qwen 7B) funciona bien en un ordenador modesto.

    Selecciona el modelo y haz clic en Download.
  2. Una vez descargado cambia a la pestaña Chat en la barra lateral.

    En el menú desplegable Select a model to chat with, elige DeepSeek R1 Distill (Qwen 7B) o el modelo de DeepSeek que hayas elegido.
  3. Inicia una conversación con DeepSeek en la ventana Chat.

Aunque, como hemos mencionado, la destilación implica la pérdida de algunos detalles y capacidades de razonamiento complejo, el acceso a modelos avanzados como DeepSeek R1 Distill en ordenadores personales facilita su uso en una mayor variedad de entornos.

Además, permite a los usuarios comprender mejor su funcionamiento y sus limitaciones, experimentar con su adaptación y explorar nuevas aplicaciones y usos en los ámbitos personal y profesional, incluyendo la educación, el aprendizaje o la investigación.

Mejora del rendimiento de los LLM con la técnica ‘Actor de método’
Telefónica Tech
IA & Data
Mejora del rendimiento de los LLM con la técnica ‘Actor de método’
10 de diciembre de 2024