Needle: מודל בגודל 14 MB שהופך פקודות לפעולות ב-Raspberry Pi

כשמדברים על מודלי שפה גדולים, מיד חושבים על צ'אטבוטים, אבל Needle הולך בדרך אחרת. זהו מודל בינה מלאכותית קטן, בגודל של 14 MB בלבד, שפותח על ידי Cactus Compute, ויש לו משימה אחת: להפוך בקשה בשפה טבעית לקריאה לפונקציית Python. הוא לא נועד לשיחה, אלא לשליטה באפליקציות, במכשירים ובאוטומציות.

מה שעורר בי עניין הוא שהוא רץ מקומית על Raspberry Pi 5, רק עם המעבד, בלי ענן ובלי חומרת AI ייעודית. במקום לכתוב accendi_led(), מספיק להגיד "הדלק את נורית LED 1", והמודל בוחר את הפונקציה הנכונה. הוא עובד גם עם פקודות באיטלקית, ובאתר הפרויקט יש הדגמות מקוונות (בית חכם, שואב אבק רובוטי, שעון חכם, משקפי AR) שאפשר לנסות.

המדריך של RaspberryItaly בונה עוזר מקומי קטן ששומר הערות לקובץ, קורא את הטמפרטורה של ה-Raspberry Pi, מדליק ומכבה נורית LED, ומבין פקודות שנכתבו באיטלקית. צריך Raspberry Pi (רצוי דגם 5), מערכת Raspberry Pi OS מעודכנת, Python 3, נורית LED עם נגד של 220 או 330 אוהם וכמה כבלי קפיצה. ההתקנה עוברת דרך סביבה וירטואלית וחבילת cactus-needle, והחיבור לאינטרנט נדרש רק להורדה הראשונה.

כדאי לזכור עצה של הכותב: עדיף לתת פקודה אחת בכל פעם. משפט כמו "כבה את אור המטבח והורד את התריס" עלול לא להתפרש נכון, בעוד ששתי הפקודות בנפרד עובדות.

כרעיון לפרויקט, אני מוצא אותו מאוד מעשי: בשילוב עם זיהוי דיבור מקומי, אפשר לשלוט ברובוט או באוטומציה קטנה בלי להסתמך על שירות רשת כלשהו.

מקור: RaspberryItaly