Needle: un modello da 14 MB che trasforma comandi in azioni sul Raspberry Pi

Quando si parla di LLM si pensa subito ai chatbot, ma Needle segue un'altra strada. È un piccolo modello di intelligenza artificiale, appena 14 MB, sviluppato da Cactus Compute, con un unico compito: trasformare una richiesta in linguaggio naturale in una chiamata a una funzione Python. Non serve a conversare, serve a controllare applicazioni, dispositivi e automazioni.

La parte che mi ha incuriosito è che funziona in locale su un Raspberry Pi 5 usando solo la CPU, senza cloud e senza hardware dedicato all'AI. Invece di scrivere accendi_led(), basta dire «Accendi il LED 1» e il modello sceglie la funzione giusta. Funziona anche con comandi in italiano, e sul sito del progetto ci sono demo online (domotica, robot aspirapolvere, smartwatch, occhiali AR) da provare.

Il tutorial di RaspberryItaly costruisce un piccolo assistente locale che salva note in un file, legge la temperatura del Raspberry Pi, accende e spegne un LED e capisce comandi scritti in italiano. Servono un Raspberry Pi (meglio il 5), Raspberry Pi OS aggiornato, Python 3, un LED con resistenza da 220 o 330 ohm e qualche cavetto jumper. L'installazione passa da un ambiente virtuale e dal pacchetto cactus-needle; la connessione serve solo per il primo download.

Un consiglio dell'autore da tenere a mente: meglio dare un comando alla volta. Una frase come «spegni la luce della cucina e abbassa la tapparella» può non essere interpretata correttamente, mentre i due comandi separati funzionano.

Come idea di progetto la trovo molto concreta: abbinata a un riconoscimento vocale locale, permette di comandare un robot o una piccola automazione senza dipendere da alcun servizio in rete.

Fonte: RaspberryItaly