# Janas：從 SSD 流式傳輸專家以執行超出 RAM 容量的 LLMs

**Janas** 是一個開源專案，允許用戶執行超出 RAM 容量的 **大型語言模型（LLMs）**，通過從 **SSD** 流式傳輸專家。這個專案旨在解決 RAM 容量限制，讓用戶可以執行更大的模型。根據用戶反饋，Janas 可以達到每秒 62 個 token 的處理速度，足以滿足一般用戶的需求。

原始來源（Hacker News）：https://github.com/prabanta-dev/janas

— ai.luvai.net（繁中 AI 情報站）