Needle：把指令变成树莓派操作的14 MB模型

一提到大语言模型，大家首先想到的往往是聊天机器人，但Needle走的是另一条路。它是由Cactus Compute开发的小型AI模型，只有14 MB，只做一件事：把自然语言请求转换为对Python函数的调用。它不是用来聊天的，而是用来控制应用、设备和自动化的。

让我感兴趣的是，它不需要云端，也不需要专用AI硬件，只靠树莓派5的CPU就能在本地运行。不必去写accendi_led()之类的函数，只需说“打开LED 1”，模型就会选中正确的函数。它也支持意大利语指令，项目网站上还有可以在线体验的演示，包括家庭自动化、扫地机器人、智能手表和AR眼镜。

RaspberryItaly的教程搭建了一个小型本地助手：它可以把笔记保存到文件里、读取树莓派的温度、开关LED，并理解用意大利语写的指令。所需材料包括一块树莓派（最好是5代）、更新到最新的Raspberry Pi OS、Python 3、一颗搭配220或330欧姆电阻的LED，以及几根跳线。安装通过虚拟环境和cactus-needle软件包完成，只有第一次下载时才需要联网。

作者还给出一个值得记住的建议：最好一次只下一个指令。像“关掉厨房的灯并把百叶窗放下”这样的句子可能无法被正确理解，而把两个指令分开下达就能正常工作。

作为项目创意，我觉得它非常实用：结合本地语音识别，就可以在不依赖任何网络服务的情况下，用语音控制机器人或小型自动化设备。

来源：RaspberryItaly