全部评论
大家都在搜:
魔搭ModelScope社区
魔搭ModelScope社区

粉丝1.3万获赞3.9万

Mistral新作一个权重通吃推理与编码Mistral 又出新货了。Mistral Medium 3.5——他们的首个"融合旗舰"——把指令遵循、推理、代码生成全部塞进一套权重,不再需要在推理和编码之间切来切去。 🔗 三合一128B模型之前,Mistral 的指令遵循走 Medium 3.1、推理走 Magistral、编码走 Devstral 2,用起来要根据任务类型手动路由,非常麻烦。这次 Medium 3.5 把三者统一成单一 128B Dense模型,不需要切换模型,调 reasoning_effort 参数就能按需控制推理强度。"none" 走快速响应,"high" 走深度推理,逻辑上干净了很多。 🖥️ 编码能力真的强SWE-Bench Verified 77.6%,超过了 Devstral 2(72.2%)和 Qwen3.5 397B。要知道,Qwen3.5 397B 是 MoE 架构,参数规模是它的三倍多,Medium 3.5 用 128B Dense模型打过去了,性价比相当扎眼。Mistral 也直接把 Devstral 2 从 Vibe CLI 的默认模型位置换成了 Medium 3.5。 ✨ 模型亮点· 256K 上下文:约 20 万字,跑完整代码库推理或长 Agent 链路够用;· 原生多模态:视觉编码器从零训练,支持可变图像尺寸,文档分析、图表理解、UI 截图都能接;· 多语言:中文、日语、阿拉伯语等数十种语言支持;· τ³-Telecom Agent 基准 91.4%:工具选择和多步执行表现不错 "一个模型搞定从聊天到智能体"的路线很务实,省掉了切模型的工程负担。Dense架构的好处是部署和调优比 MoE 简单,最少 4 块 80GB+ 显存的 GPU 就能跑,对中小团队比较友好。 推荐用 vLLM 部署(需要 nightly 版),启动命令支持 tensor parallel,可搭配 EAGLE 模型加速推理。SGLang 也提供了专用 Docker 镜像,H100/H200/B200/B300 都有对应版本。量化需求可以走 llama.cpp + Unsloth 的 GGUF 版本,Ollama 也已经支持。 #Mistral #魔搭社区
发布时间:2026-05-07 10:47:21