Llevo un tiempo jugando con la placa Armsom AIM7, un modelo de SBC que incluye el chipset RK3588 que posee unidades NPU para poder mover modelos de IA de una forma más suelta. Es cierto que estaría más enfocada a cosas como reconocimiento de objetos en imágenes, pero los LLM pueden resultar de gran utilidad.
Mi objetivo sería poder tener esta placa funcionando en casa para que sea el asistente local de Home Assistant ya que, el consumo es mínimo y el rendimiento, no va mal, no podemos pedir que sea el reemplazo de los asistentes comerciales que conocemos, pero para la mayoría de casos, cumple su función y debería ser capaz de controlar nuestro sistema de una forma mucho más inteligente que Alexa o Google Assistant.
Para la descarga de Debian para la placa, podéis cogerla de aquí, y el link para la unidad de Google Drive donde tenéis las herramientas que comento en el vídeo está aquí.
Vídeo de la instalación de Debian, Ollama y Deepseek-r1 en la Armsom AIM7
Como comento en el vídeo, los comandos que vais a necesitar, una vez que arranquéis la distribución, para tanto ponerla en castellano (o en el idioma que queráis) como para la instalación de ollama y deepseek-r1 (el modelo de 1.5b de parámetros) son estos:
- sudo dpkg-reconfigure locales
- sudo reboot
- sudo nano /etc/defaults/keyboard
- sudo reboot
- sudo apt update
- sudo apt upgrade
- curl -fsSL https://ollama.com/install.sh | sh
- ollama run deepseek-r1:1.5b
- netstat -lap | grep 11434
- killall ollama
- sudo nano /etc/systemd/system/ollama.service
- sudo systemctl daemon-reload
- sudo systemctl restart ollama.service
Espero que con esto os sirva de ayuda si queréis tener vuestro propio asistente en casa. Seguiré con la placa, ahora que está con el modelo LLM instalado de Deepseek para poder integrar Ollama en Home Assistant y poder controlar mi casa con ese asistente e ir quitando poco a poco Alexa.
La entrada ARMSOM AIM7: Instalación del sistema y ollama con DeepSeek r1 se publicó primero en Domótica en Casa.
