Needle: um modelo de 14 MB que transforma comandos em ações no Raspberry Pi

Quando se fala em LLMs, a primeira ideia que surge são os chatbots, mas o Needle segue outro caminho. É um pequeno modelo de inteligência artificial, com apenas 14 MB, desenvolvido pela Cactus Compute, com uma única função: transformar um pedido em linguagem natural numa chamada a uma função Python. Não serve para conversar; serve para controlar aplicações, dispositivos e automações.

O que me chamou a atenção é que roda localmente num Raspberry Pi 5 usando apenas a CPU, sem nuvem e sem hardware dedicado a IA. Em vez de escrever accendi_led(), basta dizer «Acende o LED 1» e o modelo escolhe a função certa. Também funciona com comandos em italiano, e o site do projeto tem demonstrações online (domótica, robô aspirador, relógio inteligente, óculos de RA) para experimentar.

O tutorial da RaspberryItaly constrói um pequeno assistente local que guarda notas num ficheiro, lê a temperatura do Raspberry Pi, liga e desliga um LED e entende comandos escritos em italiano. É preciso um Raspberry Pi (de preferência o 5), o Raspberry Pi OS atualizado, Python 3, um LED com resistência de 220 ou 330 ohms e alguns cabos jumper. A instalação passa por um ambiente virtual e pelo pacote cactus-needle; a ligação à internet só é necessária no primeiro download.

Vale a pena guardar um conselho do autor: é melhor dar um comando de cada vez. Uma frase como «apaga a luz da cozinha e baixa a persiana» pode não ser interpretada corretamente, enquanto os dois comandos separados funcionam.

Como ideia de projeto, acho-a muito concreta: combinada com reconhecimento de voz local, permite comandar um robô ou uma pequena automação sem depender de nenhum serviço em rede.

Fonte: RaspberryItaly