通常拿來做什麼
- ✔業務要查某份合約的付款條件,直接問,不用翻資料夾
- ✔工程師要找三年前的規格書寫了什麼
- ✔客服想看以前類似問題怎麼回,模型先把草稿寫好
規格一次看
- 適合誰
- 有客戶資料、合約、技術文件不能外流的公司
- 建議硬體
- RTX 5090 32GB・64GB RAM 起
- 基本包含
- Ollama+Open WebUI 裝好,內網可離線問答
- 時程
- 基本 2–3 天・接知識庫 1–2 週
可加購
+ 接公司文件(RAG 知識庫)+ 帳號與權限+ 教育訓練+ 月費維運OllamaOpen WebUIRAGDocker
怎麼買
可以只買主機,也可以請我們裝到能用。分開報價,要多少買多少。
1
只買主機
自家組裝廠組裝、燒機 24 小時、保固維修。你自己裝系統。
適合:會自己裝環境的人2
主機+裝好系統
系統、驅動、Docker、Ollama 或 ComfyUI 都裝好,開機就能用。
適合:不想自己踩坑,但公司內部沒東西要接的人3
裝好+接你的東西
再把公司文件、出圖流程、LINE 或 ERP 接進去,教同事怎麼用。
適合:要拿來真的做事的公司關於這項,客人常問
一定要買新機器嗎?現有電腦能用嗎?+
不一定。先看你手上的顯示卡:8GB 以上的卡,小模型和一般生圖都跑得動;要跑 70B 那種大模型或 Flux 高解析出圖,才需要 24GB 以上(像 RTX 5090 是 32GB)。評估時會直接跟你說現在的機器能做到哪,不會硬推你買。
費用大概多少?+
硬體和服務分開報。硬體從入門到企業等級差很多,服務看你要做到多深。評估完會給你一個明確的區間,可以分期。
地端模型的效果跟 ChatGPT、Claude 差多少?+
老實說,通用知識和長篇寫作,雲端那幾家頂級模型還是比較強。但公司內部文件問答、分類、摘要、固定格式輸出這些,開源模型調好之後很夠用,而且資料不會出去。也可以兩邊混用:敏感的跑地端,真的需要最強的再走雲端。
更多問題在 首頁常見問題。