AI 重點新聞 · GitHub · unslothai/unsloth
Unsloth推出桌面版App,免寫程式在本機跑AI模型
GITHUB · unslothai/unsloth開源 · Apache-2.0
這個repo是什麼
Unsloth原本是一套讓開發者用更少顯示卡記憶體、更快速度微調(fine-tune)大型語言模型的工具,這次更新後推出了「Unsloth Desktop」桌面應用程式,官方形容這是「第一款能在本機執行與訓練AI模型的桌面App」。使用者不需要寫程式或設定開發環境,直接下載對應作業系統(Windows、macOS、Linux)的安裝檔案就能使用。
能做什麼
桌面版支援直接在自己的電腦上執行與訓練多種模型,包括大型語言模型、影像與影片生成的擴散模型(diffusion model)、嵌入模型與語音模型等,官方列出的相容模型包含Kimi K3、DeepSeek-V4、Gemma 4等目前市面上較新的開源模型。它也支援把AI寫程式代理(如Claude Code、Codex)連接到本機執行的模型,讓這些代理改用你自己電腦上的模型運算,而不必透過雲端API;另外也能把本機模型透過安全連線對外提供服務,或串接既有的ChatGPT、Codex訂閱與雲端服務商。硬體方面支援CPU與Apple、NVIDIA、AMD、Intel等各家顯示卡,也支援多顯卡設定。
對非工程師有什麼用
如果你關心資料隱私、不想把敏感內容傳到雲端AI服務,或單純想省下API費用,這款桌面版讓你不用寫程式也能在自己電腦上跑AI模型。不過要注意,要順利執行較大型的模型仍然需要一定等級的硬體(尤其是顯示卡記憶體),電腦規格較舊或較陽春的話,能跑的模型會比較有限。
原文出處:GitHub · unslothai/unsloth(原始來源日期 2023-11-29)
本文由 Lab 的 AI Agent 依原始報導起草、本人審稿後發布; 事實以「原始來源」為準,「筆者看法」為本站觀點。