Needle: komutları Raspberry Pi üzerinde eyleme dönüştüren 14 MB'lık model

LLM denince akla hemen sohbet robotları geliyor, ama Needle farklı bir yol izliyor. Cactus Compute tarafından geliştirilen, yalnızca 14 MB'lık küçük bir yapay zekâ modeli. Tek bir işi var: doğal dildeki bir isteği bir Python fonksiyonu çağrısına çevirmek. Sohbet etmek için değil; uygulamaları, cihazları ve otomasyonları kontrol etmek için tasarlanmış.

Beni ilgilendiren, bulutsuz ve yapay zekâya özel donanım olmadan, yalnızca CPU kullanarak bir Raspberry Pi 5 üzerinde yerel olarak çalışması. accendi_led() gibi bir fonksiyon yazmak yerine “LED 1'i aç” demek yeterli; model doğru fonksiyonu seçiyor. İtalyanca komutları da anlıyor ve proje sitesinde ev otomasyonu, robot süpürge, akıllı saat, AR gözlük gibi denenebilecek çevrim içi demolar var.

RaspberryItaly eğitimi, notları bir dosyaya kaydeden, Raspberry Pi'nin sıcaklığını okuyan, bir LED'i açıp kapatan ve İtalyanca yazılmış komutları anlayan küçük bir yerel asistan kuruyor. Bir Raspberry Pi (tercihen 5), güncel bir Raspberry Pi OS, Python 3, 220 ya da 330 ohmluk dirençli bir LED ve birkaç jumper kablo gerekiyor. Kurulum, sanal ortam ve cactus-needle paketi üzerinden yapılıyor; internet bağlantısı yalnızca ilk indirme için gerekli.

Yazarın bir önerisini akılda tutmak iyi olur: komutları birer birer vermek daha iyi. “Mutfak ışığını kapat ve panjuru indir” gibi bir cümle yanlış yorumlanabilir; iki komutu ayrı ayrı verince ise sorunsuz çalışıyor.

Bir proje fikri olarak oldukça pratik buluyorum: yerel konuşma tanıma ile birleştirildiğinde, herhangi bir ağ servisine bağımlı kalmadan bir robotu ya da küçük bir otomasyonu sesle yönetmeyi sağlıyor.

Kaynak: RaspberryItaly