Needle: 14 MB का मॉडल जो Raspberry Pi पर कमांड को कार्रवाई में बदल देता है

LLM की बात होते ही पहला ख़याल चैटबॉट का आता है, लेकिन Needle एक अलग रास्ता अपनाता है। यह Cactus Compute का बनाया एक छोटा AI मॉडल है, जो केवल 14 MB का है, और इसका काम एक ही है: प्राकृतिक भाषा के अनुरोध को Python फ़ंक्शन की कॉल में बदलना। यह बातचीत के लिए नहीं बना, बल्कि ऐप्स, डिवाइस और ऑटोमेशन को नियंत्रित करने के लिए बना है।

जिस बात ने मेरा ध्यान खींचा, वह यह है कि यह Raspberry Pi 5 पर केवल CPU के सहारे, स्थानीय रूप से चलता है। न क्लाउड चाहिए, न AI के लिए अलग हार्डवेयर। accendi_led() लिखने की ज़रूरत नहीं; बस "LED 1 चालू करो" कहना काफ़ी है और मॉडल सही फ़ंक्शन चुन लेता है। यह इतालवी कमांड भी समझता है, और प्रोजेक्ट की साइट पर होम ऑटोमेशन, रोबोट वैक्यूम, स्मार्टवॉच और AR चश्मे जैसे ऑनलाइन डेमो आज़माने के लिए मौजूद हैं।

RaspberryItaly का ट्यूटोरियल एक छोटा स्थानीय सहायक बनाता है, जो नोट्स को फ़ाइल में सहेजता है, Raspberry Pi का तापमान पढ़ता है, LED चालू और बंद करता है, और इतालवी में लिखे कमांड समझता है। इसके लिए एक Raspberry Pi (बेहतर होगा 5), अद्यतन Raspberry Pi OS, Python 3, 220 या 330 ओम के रेज़िस्टर वाला LED और कुछ जंपर तार चाहिए। इंस्टॉलेशन एक वर्चुअल एनवायरनमेंट और cactus-needle पैकेज के ज़रिए होता है; इंटरनेट केवल पहली डाउनलोड के लिए चाहिए।

लेखक की एक सलाह याद रखने लायक है: बेहतर है कि एक बार में एक ही कमांड दें। "रसोई की बत्ती बंद करो और परदा नीचे करो" जैसा वाक्य शायद ठीक से न समझा जाए, जबकि दोनों कमांड अलग-अलग देने पर काम करते हैं।

प्रोजेक्ट के विचार के रूप में मुझे यह बहुत व्यावहारिक लगता है: स्थानीय वॉइस रिकग्निशन के साथ जोड़ने पर किसी नेटवर्क सेवा पर निर्भर हुए बिना रोबोट या छोटे ऑटोमेशन को आवाज़ से नियंत्रित किया जा सकता है।

स्रोत: RaspberryItaly