Needle: โมเดลขนาด 14 MB ที่เปลี่ยนคำสั่งเป็นการกระทำบน Raspberry Pi

พอพูดถึง LLM คนมักนึกถึงแชตบอตทันที แต่ Needle เดินไปอีกทางหนึ่ง มันเป็นโมเดลปัญญาประดิษฐ์ขนาดเล็กเพียง 14 MB พัฒนาโดย Cactus Compute และมีงานเดียวคือแปลงคำขอภาษาธรรมชาติให้เป็นการเรียกใช้ฟังก์ชัน Python ไม่ได้ออกแบบมาเพื่อสนทนา แต่ออกแบบมาเพื่อควบคุมแอป อุปกรณ์ และระบบอัตโนมัติ

สิ่งที่ทำให้ฉันสนใจคือมันทำงานในเครื่องบน Raspberry Pi 5 โดยใช้แค่ CPU ไม่ต้องพึ่งคลาวด์และไม่ต้องมีฮาร์ดแวร์ AI เฉพาะ แทนที่จะต้องเขียน accendi_led() เพียงพูดว่า "เปิดไฟ LED 1" โมเดลก็จะเลือกฟังก์ชันที่ถูกต้องเอง มันยังเข้าใจคำสั่งภาษาอิตาลีด้วย และเว็บไซต์ของโปรเจกต์มีเดโมออนไลน์ให้ลอง เช่น สมาร์ทโฮม หุ่นยนต์ดูดฝุ่น นาฬิกาอัจฉริยะ และแว่น AR

บทเรียนของ RaspberryItaly สร้างผู้ช่วยขนาดเล็กที่ทำงานในเครื่อง ซึ่งบันทึกโน้ตลงไฟล์ อ่านอุณหภูมิของ Raspberry Pi เปิดและปิดไฟ LED และเข้าใจคำสั่งที่เขียนเป็นภาษาอิตาลี สิ่งที่ต้องมีคือ Raspberry Pi (แนะนำรุ่น 5), Raspberry Pi OS เวอร์ชันล่าสุด, Python 3, ไฟ LED พร้อมตัวต้านทาน 220 หรือ 330 โอห์ม และสายจัมเปอร์ไม่กี่เส้น การติดตั้งทำผ่านสภาพแวดล้อมเสมือนและแพ็กเกจ cactus-needle โดยต้องเชื่อมอินเทอร์เน็ตเฉพาะตอนดาวน์โหลดครั้งแรกเท่านั้น

มีคำแนะนำจากผู้เขียนที่ควรจำไว้: ควรให้คำสั่งทีละคำสั่ง ประโยคอย่าง "ปิดไฟในครัวแล้วลดม่านลง" อาจถูกตีความผิด ขณะที่คำสั่งสองคำสั่งแยกกันทำงานได้ถูกต้อง

ในฐานะไอเดียโปรเจกต์ ฉันเห็นว่าใช้งานได้จริงมาก เมื่อรวมกับการรู้จำเสียงพูดในเครื่อง ก็สามารถสั่งงานหุ่นยนต์หรือระบบอัตโนมัติขนาดเล็กด้วยเสียง โดยไม่ต้องพึ่งบริการเครือข่ายใด ๆ

แหล่งที่มา: RaspberryItaly