核對日:2026-10-30。 Mistral Large 4(暱稱 Le Chonk)係 Mistral 嘅開放權重(open weights)大模型,2026 年 10 月 29 日正式放出模型權重,係本月較早 public preview 版本嘅改良版。Mistral 稱預覽之後再做咗約三星期強化學習。呢件事已經由 Mistral 官方公告、TechCrunch 同 The Verge 一致確認。對香港讀者嚟講,最實際嘅問題係:呢個 1 兆參數級嘅模型,究竟點樣用?答案好直接——最現實係用 Mistral API 或者 OpenRouter 呢類渠道;想自己部署嘅話,屬於企業機房級嘅工程;一般桌上電腦或者手提電腦想本地跑,並唔現實。預覽版本身可以睇我哋早前嘅 Mistral Large 4 預覽期介紹;該文所載價錢係當時 Mistral 文件列出嘅數字,現價請睇下面同官網。
呢個模型有幾大?
根據 Hugging Face 官方 model card,Le Chonk 嘅規格如下:
- 約 1 兆(1T)總參數嘅 Mixture-of-Experts(MoE)架構
- 每個 token 約 49B active 參數(連 embeddings 同輸出層為 52B,所以 repo 名寫 A52B)
- 128 個 routed experts,每個 token 啟用 4 個,另有 1 個共用 expert
- 1M token context window
- 輸入支援文字加圖像,輸出為文字
- 有 low/medium/high 三級 reasoning effort(預設 high)
- 支援 function calling 同 JSON schema
- Mistral 稱原生支援 160+ 種語言(呢個係官方講法,唔等於粵語表現有保證)
喺 Mistral API 用嘅時候,model 名係 mistral-large-4。
性能:誠實睇
評測數字方面,要誠實講清楚。根據 Mistral 官網 同 HF model card:
- Artificial Analysis Coding Agent Index 得 48%,Mistral 形容同現時領先嘅開放權重模型 GLM-5.3 「effectively tied」(大致持平),但平均每個任務少用 47% tokens。Token 用量較少,一般有助控制成本,不過實際要睇你自己嘅工作量
- Artificial Analysis Intelligence Index v5 得 26 分;model card 稱係西方開放權重模型之中最高
不過 model card 都直接講明:中國嘅領先開放權重模型喺呢個綜合指數嘅分數其實更高。Mistral 嘅真正強項係 coding 同 cybersecurity 呢兩個範疇。如果你嘅用途係通用任務,可以參考我哋嘅 平價 AI 模型比較 再做決定。
香港讀者點樣用?
| 用法 | 適合邊類人 | 要留意乜 |
|---|---|---|
| Mistral API/OpenRouter | 開發者、想快啲試到嘅人 | API 價以 Mistral 官網當日為準;OpenRouter 實際定價請自行核對 |
| 雲端託管(如 Microsoft Foundry) | 企業用戶、想有管理服務 | Azure 有 private deployment 選項;NVIDIA 亦有 hosted endpoints/NIM |
| 自建 GPU 機房 | 有基礎設施嘅機構 | 官方範例用 8 路 tensor parallel;Hugging Face Inference Endpoints 有 8 × H200 嘅 FP8 部署 recipe |
| 單部 512GB Apple Silicon Ultra 跑 2-bit 量化版 | 極少數有硬件嘅玩家 | Q2_K 實測 prefill 約 90 tokens/s、生成約 15 tokens/s;其他量化版要分散式推理 |
API 價方面,Mistral 官網今日列嘅係:US$0.70/百萬 input tokens、US$0.07/百萬 cached input、US$2.10/百萬 output tokens。呢啲價錢隨時會調整,以 Mistral 官網當日為準。
自建部署嘅現實
根據 HF blog 同 HF model card:
- 官方放出 FP8 同 NVFP4 兩個版本;NVFP4 較細記憶體需求,但針對 NVIDIA Blackwell GPU,支援 vLLM/SGLang
- HF 推薦用 vLLM;官方範例 docker 指令用
--tensor-parallel-size 8,即係示範用 8 張 GPU - Dell 嘅部署範例示範 NVFP4 版喺 4 × NVIDIA B300 node 上跑
- llama.cpp 團隊提供 GGUF 量化:IQ2_XXS、Q2_K、Q4_K_M、NVFP4、Q8_0、BF16
- HF 實測:4 × RTX 6000 Pro 跑 NVFP4(32K context)生成約 10 tokens/s
- Model card 明寫:如果本地推理表現欠佳,建議直接用 Mistral API
簡單講:除非你公司機房真係有呢啲硬件,否則用 API 係最合理嘅選擇。如果想用開放權重模型但硬件有限,可以考慮 細型本地開源模型。
授權同香港實務
授權方面,Le Chonk 用 Mistral Ecosystem Open-Weight License,係 MIT 嘅修改版,商用同非商用都可以;但如果你營運嘅係 Model-as-a-Service(MaaS)業務,就需要同 Mistral 另簽商業授權。建議自己讀一次授權全文,詳情以官網當日為準。
香港實務層面,Mistral 暫時冇公布任何香港專屬資訊。API 帳戶開設、發票安排、資料存放地點等,請直接查閱 Mistral 官方條款。至於 160+ 語言支援——呢個係官方講法,粵語或者繁體中文嘅實際質素,最好用你自己嘅文件測試一下先用得安心。
Mistral 嘅定位都值得一提:主打 coding 同防衛式網絡安全,強調「歐洲自建、sovereign AI」,機構可以自行下載、部署、客製化,唔使依賴 Mistral 嘅 API。TechCrunch 引述 Mistral 科學副總裁 Pierre Stock 指公司可以 on-prem 自行部署;Mistral 亦指模型內置 guardrails 去區分防衛同惡意嘅網絡安全要求。
結論
Le Chonk 權重已經正式放出,Mistral 稱佢 coding 表現同 GLM-5.3 大致持平、tokens 用量少 47%;按 model card,佢係西方開放權重模型中綜合指數最高,但中國開放權重模型分數更高。香港開發者想試,用 Mistral API 或者 OpenRouter 就最簡單;企業想自主部署,要有機房級硬件嘅心理準備;一般電腦用家就唔好期望喺自己部機上面跑得動。價錢、可用渠道同授權細節,一切以 Mistral 官網當日為準。
更新於 2026-10-30(Asia/Hong_Kong)。