# gzip 能否作為語言模型？

**gzip 是否能作為語言模型？** 這個問題引發了網友們的熱烈討論。有人認為 gzip 的壓縮能力可以用於預測下一個 token，但其他人則指出 gzip 缺乏 **注意力機制**，使其難以處理複雜的語言任務。另外，gzip 的壓縮效率雖然高，但其 **搜索空間** 遠小於真正的語言模型。因此，將 gzip 與語言模型相比可能不太恰當。

原始來源（Hacker News）：https://nathan.rs/posts/gzip-lm/

— ai.luvai.net（繁中 AI 情報站）