MobileSetting 流動科技 全部文章

Nanbeige4.3-33B 開源模型:Apache 2.0、512K context,本地部署要知

Nanbeige4.3-33B 喺 Hugging Face 以 Apache 2.0 公開:33B BF16、512K 上下文、agentic coding;自報 benchmark 點睇、部署前要考慮乜。核對日 2026-10-26。

Karen Chan · · 4 分鐘閱讀
Nanbeige4.3-33B 開源模型:Apache 2.0、512K context,本地部署要知

核對日:2026-10-26。 Nanbeige4.3-33B 係一個開源嘅大型語言模型,主打 agentic coding 同辦公室協作任務,用 Apache 2.0 授權,理論上香港開發者可以喺自己伺服器或者雲 GPU 上面本地部署。官方模型頁已經喺 Hugging Face 公開,本文根據該頁面同 Hugging Face API 資料整理。

呢個模型係乜嚟

根據 官方模型頁,Nanbeige4.3-33B 係 Nanbeige4.3 系列嘅旗艦「teacher」模型:

  • 33B 參數、BF16 精度
  • 主打 agentic coding(即係俾 AI 自己規劃步驟、呼叫工具寫 code)同辦公室 cowork 任務
  • 官方話之後會蒸餾出更細嘅模型(例如 Nanbeige4.3-3B),但暫時未推出
  • 另有一個 Base 版本,適合想自己再訓練嘅團隊

Apache 2.0 對你意味住乜

呢個係香港開發者最應該留意嘅一點。Apache 2.0 係一個相對寬鬆嘅開源授權:

  • 可以商用
  • 可以修改、再發佈
  • 條件係要保留授權聲明(一般 Apache 2.0 條款係咁)

即係話,如果你公司想將佢整合入自家產品或者內部工具,授權層面冇大障礙——實際使用前建議搵法律意見核對具體條款,以官網當日為準。

成績幾好?睇數要留意來源

官方公布咗自家對比測試(同 Qwen3.8-27B、Muse-Glimmer-30B、Gemma4-31B 比,最高 thinking effort):

BenchmarkNanbeige4.3-33B值得注意
Terminal-Bench 2.180.9Qwen3.8-27B 為 73.0
SWE-Bench Pro60.3Qwen3.8-27B 為 61.7,呢項略低
GPQA Diamond89.5Gemma4-31B 為 91.3,較高
AIME 202695.2—

重要提醒:呢啲全部係開發團隊自己公布嘅分數,唔係第三方獨立評測。參考可以,但唔好當成獨立結論。

本地部署要考慮乜

官方範例用 SGLang 或者 vLLM 跑,用咗 tensor parallel 4(--tp-size 4 / --tensor-parallel-size 4),即示範配置係 4 張 GPU。官方頁面冇寫最低 VRAM 要求,亦冇提 Mac 支援,所以實際硬件需求要自己試。

支援嘅運行方式:

  • Transformers(需要 trust_remote_code=True)
  • SGLang
  • vLLM

上下文長度最高 524,288 tokens(512K),處理長文件或者大型 codebase 有優勢。

試用前嘅實際建議

幾個 chat template 同參數設定值得留意:

  • enable_thinking:預設開啟,可關做非思考模式
  • preserve_thinking:一般問答建議 False;多輪工具調用/code agent 建議 True
  • tool_call_format:官方建議 xml(json 亦支援)
  • Agent/工具任務:temperature 1.0、top_p 0.95、max new tokens 65,536
  • 推理/聊天:temperature 0.6、top_p 0.95

部署前除咗硬件,仲要諗兩樣嘢:資料私隱(本地跑嘅好處就係資料唔使出街)同公司 IT 政策(引入開源模型前最好同內部團隊溝通清楚)。

如果想比較唔同 AI coding 工具嘅組合,可以睇下我哋之前寫嘅 AI coding 工具比較,或者部署前用 AI coding 檢查清單 做吓功課。

結論

Nanbeige4.3-33B 對香港開發者嚟講係一個有吸引力嘅選擇:Apache 2.0 授權方便商用、512K 上下文適合長任務、官方亦提供完整嘅 agent 參數建議。不過佢係好新嘅模型(repo 2026-10-24 先建立),benchmark 又係自報,建議先用雲 GPU 或者公司伺服器實測,再決定係咪投入更大規模嘅本地部署。具體設定同條款,以 Hugging Face 官方頁面 當日為準;有問題可以直接喺 repo 開 issue,或者電郵 nanbeige@kanzhun.com 查詢。

更新於 2026-10-26(Asia/Hong_Kong)。