Needle: un modelo de 14 MB que convierte órdenes en acciones en una Raspberry Pi

Cuando se habla de LLM, lo primero que viene a la mente son los chatbots, pero Needle sigue otro camino. Es un pequeño modelo de inteligencia artificial, de apenas 14 MB, desarrollado por Cactus Compute, con una única tarea: convertir una petición en lenguaje natural en una llamada a una función de Python. No sirve para conversar, sirve para controlar aplicaciones, dispositivos y automatizaciones.

Lo que me llamó la atención es que funciona en local en una Raspberry Pi 5 usando solo la CPU, sin nube y sin hardware dedicado a la IA. En lugar de escribir accendi_led(), basta con decir «Enciende el LED 1» y el modelo elige la función adecuada. También funciona con órdenes en italiano, y en la web del proyecto hay demos en línea (domótica, robot aspiradora, reloj inteligente, gafas de realidad aumentada) para probar.

El tutorial de RaspberryItaly construye un pequeño asistente local que guarda notas en un archivo, lee la temperatura de la Raspberry Pi, enciende y apaga un LED y entiende órdenes escritas en italiano. Hace falta una Raspberry Pi (mejor la 5), Raspberry Pi OS actualizado, Python 3, un LED con una resistencia de 220 o 330 ohmios y algunos cables puente. La instalación pasa por un entorno virtual y el paquete cactus-needle; la conexión solo hace falta para la primera descarga.

Un consejo del autor que conviene tener en cuenta: es mejor dar una orden cada vez. Una frase como «apaga la luz de la cocina y baja la persiana» puede no interpretarse bien, mientras que las dos órdenes por separado funcionan.

Como idea de proyecto la encuentro muy práctica: combinada con reconocimiento de voz local, permite controlar un robot o una pequeña automatización sin depender de ningún servicio en red.

Fuente: RaspberryItaly