MobileSetting 流動科技 全部文章

Mistral Large 4(Le Chonk)權重放出:香港用家點用?API、OpenRouter 定自建?

Mistral 10 月 29 日放出 Large 4(Le Chonk)開放權重:約 1T 參數 MoE、1M context。香港讀者最現實係用 API 或 OpenRouter;自建要機房級 GPU,商用要睇授權。核對日 2026-10-30。

Jason Lam · · 8 分鐘閱讀
Mistral Large 4(Le Chonk)權重放出:香港用家點用?API、OpenRouter 定自建?

核對日:2026-10-30。 Mistral Large 4(暱稱 Le Chonk)係 Mistral 嘅開放權重(open weights)大模型,2026 年 10 月 29 日正式放出模型權重,係本月較早 public preview 版本嘅改良版。Mistral 稱預覽之後再做咗約三星期強化學習。呢件事已經由 Mistral 官方公告、TechCrunch 同 The Verge 一致確認。對香港讀者嚟講,最實際嘅問題係:呢個 1 兆參數級嘅模型,究竟點樣用?答案好直接——最現實係用 Mistral API 或者 OpenRouter 呢類渠道;想自己部署嘅話,屬於企業機房級嘅工程;一般桌上電腦或者手提電腦想本地跑,並唔現實。預覽版本身可以睇我哋早前嘅 Mistral Large 4 預覽期介紹;該文所載價錢係當時 Mistral 文件列出嘅數字,現價請睇下面同官網。

呢個模型有幾大?

根據 Hugging Face 官方 model card,Le Chonk 嘅規格如下:

  • 約 1 兆(1T)總參數嘅 Mixture-of-Experts(MoE)架構
  • 每個 token 約 49B active 參數(連 embeddings 同輸出層為 52B,所以 repo 名寫 A52B)
  • 128 個 routed experts,每個 token 啟用 4 個,另有 1 個共用 expert
  • 1M token context window
  • 輸入支援文字加圖像,輸出為文字
  • 有 low/medium/high 三級 reasoning effort(預設 high)
  • 支援 function calling 同 JSON schema
  • Mistral 稱原生支援 160+ 種語言(呢個係官方講法,唔等於粵語表現有保證)

喺 Mistral API 用嘅時候,model 名係 mistral-large-4。

性能:誠實睇

評測數字方面,要誠實講清楚。根據 Mistral 官網 同 HF model card:

  • Artificial Analysis Coding Agent Index 得 48%,Mistral 形容同現時領先嘅開放權重模型 GLM-5.3 「effectively tied」(大致持平),但平均每個任務少用 47% tokens。Token 用量較少,一般有助控制成本,不過實際要睇你自己嘅工作量
  • Artificial Analysis Intelligence Index v5 得 26 分;model card 稱係西方開放權重模型之中最高

不過 model card 都直接講明:中國嘅領先開放權重模型喺呢個綜合指數嘅分數其實更高。Mistral 嘅真正強項係 coding 同 cybersecurity 呢兩個範疇。如果你嘅用途係通用任務,可以參考我哋嘅 平價 AI 模型比較 再做決定。

香港讀者點樣用?

用法適合邊類人要留意乜
Mistral API/OpenRouter開發者、想快啲試到嘅人API 價以 Mistral 官網當日為準;OpenRouter 實際定價請自行核對
雲端託管(如 Microsoft Foundry)企業用戶、想有管理服務Azure 有 private deployment 選項;NVIDIA 亦有 hosted endpoints/NIM
自建 GPU 機房有基礎設施嘅機構官方範例用 8 路 tensor parallel;Hugging Face Inference Endpoints 有 8 × H200 嘅 FP8 部署 recipe
單部 512GB Apple Silicon Ultra 跑 2-bit 量化版極少數有硬件嘅玩家Q2_K 實測 prefill 約 90 tokens/s、生成約 15 tokens/s;其他量化版要分散式推理

API 價方面,Mistral 官網今日列嘅係:US$0.70/百萬 input tokens、US$0.07/百萬 cached input、US$2.10/百萬 output tokens。呢啲價錢隨時會調整,以 Mistral 官網當日為準。

自建部署嘅現實

根據 HF blog 同 HF model card:

  • 官方放出 FP8 同 NVFP4 兩個版本;NVFP4 較細記憶體需求,但針對 NVIDIA Blackwell GPU,支援 vLLM/SGLang
  • HF 推薦用 vLLM;官方範例 docker 指令用 --tensor-parallel-size 8,即係示範用 8 張 GPU
  • Dell 嘅部署範例示範 NVFP4 版喺 4 × NVIDIA B300 node 上跑
  • llama.cpp 團隊提供 GGUF 量化:IQ2_XXS、Q2_K、Q4_K_M、NVFP4、Q8_0、BF16
  • HF 實測:4 × RTX 6000 Pro 跑 NVFP4(32K context)生成約 10 tokens/s
  • Model card 明寫:如果本地推理表現欠佳,建議直接用 Mistral API

簡單講:除非你公司機房真係有呢啲硬件,否則用 API 係最合理嘅選擇。如果想用開放權重模型但硬件有限,可以考慮 細型本地開源模型。

授權同香港實務

授權方面,Le Chonk 用 Mistral Ecosystem Open-Weight License,係 MIT 嘅修改版,商用同非商用都可以;但如果你營運嘅係 Model-as-a-Service(MaaS)業務,就需要同 Mistral 另簽商業授權。建議自己讀一次授權全文,詳情以官網當日為準。

香港實務層面,Mistral 暫時冇公布任何香港專屬資訊。API 帳戶開設、發票安排、資料存放地點等,請直接查閱 Mistral 官方條款。至於 160+ 語言支援——呢個係官方講法,粵語或者繁體中文嘅實際質素,最好用你自己嘅文件測試一下先用得安心。

Mistral 嘅定位都值得一提:主打 coding 同防衛式網絡安全,強調「歐洲自建、sovereign AI」,機構可以自行下載、部署、客製化,唔使依賴 Mistral 嘅 API。TechCrunch 引述 Mistral 科學副總裁 Pierre Stock 指公司可以 on-prem 自行部署;Mistral 亦指模型內置 guardrails 去區分防衛同惡意嘅網絡安全要求。

結論

Le Chonk 權重已經正式放出,Mistral 稱佢 coding 表現同 GLM-5.3 大致持平、tokens 用量少 47%;按 model card,佢係西方開放權重模型中綜合指數最高,但中國開放權重模型分數更高。香港開發者想試,用 Mistral API 或者 OpenRouter 就最簡單;企業想自主部署,要有機房級硬件嘅心理準備;一般電腦用家就唔好期望喺自己部機上面跑得動。價錢、可用渠道同授權細節,一切以 Mistral 官網當日為準。

更新於 2026-10-30(Asia/Hong_Kong)。