Needle: مدلی ۱۴ مگابایتی که دستورها را به کنش روی Raspberry Pi تبدیل می‌کند

وقتی صحبت از LLM می‌شود، فوراً به چت‌بات‌ها فکر می‌کنیم، اما Needle راه دیگری را در پیش گرفته است. این یک مدل کوچک هوش مصنوعی به حجم فقط ۱۴ مگابایت است که Cactus Compute ساخته و یک وظیفه دارد: تبدیل درخواست زبان طبیعی به فراخوانی یک تابع پایتون. برای گفت‌وگو ساخته نشده، بلکه برای کنترل برنامه‌ها، دستگاه‌ها و خودکارسازی‌هاست.

چیزی که توجهم را جلب کرد این بود که روی Raspberry Pi 5 و فقط با پردازنده، به‌صورت محلی اجرا می‌شود؛ بدون ابر و بدون سخت‌افزار اختصاصی هوش مصنوعی. به‌جای نوشتن accendi_led() کافی است بگویید «ال‌ای‌دی ۱ را روشن کن» و مدل تابع درست را انتخاب می‌کند. با دستورهای ایتالیایی هم کار می‌کند و در سایت پروژه دموهای آنلاین (خانه هوشمند، جاروبرقی رباتیک، ساعت هوشمند، عینک واقعیت افزوده) برای آزمایش وجود دارد.

آموزش RaspberryItaly یک دستیار محلی کوچک می‌سازد که یادداشت‌ها را در فایل ذخیره می‌کند، دمای Raspberry Pi را می‌خواند، یک LED را روشن و خاموش می‌کند و دستورهای نوشته‌شده به ایتالیایی را می‌فهمد. به یک Raspberry Pi (ترجیحاً مدل ۵)، Raspberry Pi OS به‌روز، Python 3، یک LED با مقاومت ۲۲۰ یا ۳۳۰ اهم و چند سیم جامپر نیاز است. نصب از طریق یک محیط مجازی و بسته cactus-needle انجام می‌شود و اتصال اینترنت فقط برای دانلود اول لازم است.

یک توصیه نویسنده را باید در نظر داشت: بهتر است هر بار یک دستور داده شود. جمله‌ای مثل «چراغ آشپزخانه را خاموش کن و پرده را پایین بکش» ممکن است درست فهمیده نشود، در حالی که دو دستور جداگانه کار می‌کنند.

به‌عنوان ایده پروژه، آن را بسیار کاربردی می‌دانم: با تشخیص گفتار محلی ترکیب شود، می‌توان یک ربات یا یک خودکارسازی کوچک را بدون وابستگی به هیچ سرویس شبکه‌ای با صدا کنترل کرد.

منبع: RaspberryItaly