# 在 8 美元微控制器上執行 28.9M 參數 LLM

**微控制器** 上執行大型語言模型（LLM）是一項具有挑戰性的工作。近期有一個專案成功在 8 美元的微控制器上執行了一個 28.9M 參數的 LLM。這個專案利用了 **層級嵌入** 技術，實現了在資源有限的設備上執行大型模型。這項成就對於 **邊緣 AI** 和 **物聯網** 領域具有重要意義，可能實現 **語音合成** 和其他 AI 應用在無網路環境下的執行。

原始來源（Hacker News）：https://github.com/slvDev/esp32-ai

— ai.luvai.net（繁中 AI 情報站）