面壁智能开源MiniCPM-V 4.7：35B多模态端侧模型仅占3G内存

35B参数量的MoE架构模型，在手机端侧断网环境下也能流畅运行。

在完全断网的状态下，为搭载MiniCPM-V 4.7的iPhone 17 Pro Max输入一张经典的数据可视化图表——拿破仑远征俄国路线图，并提问图中的最低气温、出现日期及换算过程。

不到1分钟，设备本地运行的模型便准确锁定了零下30度的标注，推断出日期为1812年12月6日，并按照1列氏度等于1.25摄氏度的标准完成换算，得出零下37.5摄氏度的最终答案。

在未经过专门优化时，35B模型在移动端的速度大约为每秒2个Token；而在进行架构与存储层面的调度优化后，推理速度提升至每秒8到12个Token。实测显示，该35B模型在仅占用约3GB内存的条件下，iPhone 17 Pro Max上的解码速度能够超过每秒13个Token。

双版本矩阵：首发端侧MoE架构

面壁智能联合OpenBMB正式开源了MiniCPM-V 4.7系列，包含两个核心版本：

• 35B-A3B：总参数量35B，单次推理仅激活约3B参数，是MiniCPM-V系列首款MoE模型。运行仅需约3GB内存，支持iOS及Android设备本地离线部署。
• 1B：实际参数量为1.3B，主打超小体积，针对OCR识别、数学推理与视频理解场景优化。

在基准测试中，35B-A3B版本在通用视觉评测MMBench中得分91.72，MMStar为80.67；理科综合维度上，MMMU获得80.22分，MathVista达到88.00分；视频理解方面，Video-MME与LongVideoBench分别取得76.40和68.90分。在文档理解基准OmniDocBench v1.6中，该模型斩获94.24分，大幅领先同类端侧模型。

此外，在开启16倍视觉压缩后，MMBench得分仅从91.72微降至90.87，OCRBench从91.20降至90.40，在大幅节省端侧算力的同时几乎保留了完整精度。在文本理解与Agent维度，其中文知识评测CMMLU为90.21，工具调用评测τ2-Bench达到84.65。

复杂端侧任务实测

面对包含多项电器功率、使用时长与总金额的复杂家庭用电账单，断网状态下的35B-A3B版本能够自动将功率换算为千瓦并计算各电器单月耗电量，准确指出已有数据仅能覆盖50.9%的电费支出，并推导出最经济的省电方案。

在1.3B小模型端，面对论文截图转写需求，模型可在半分钟内将排版层级、段落、数据表格以及LaTeX数学公式完整解析为Markdown格式，使高频的离线文档数字化在手机本地即可完成。

在iPad Pro M4设备上，模型同样能够脱机稳定运行，给出一致的图表分析结论。

在API调用测试中，模型处理包含折后优惠的复杂商超小票，各单项识别与总金额重新验算均无错漏；面对规则繁琐的道路停车指示牌，模型亦能综合禁停时段、免费额度与离场间隔要求，做出符合逻辑的通行判定。

3GB内存运行35B模型的底层逻辑

在移动端部署MoE模型的难点在于闪存与内存间的带宽瓶颈。如果逐个专家实时调取，读取延迟会导致对话卡顿；若强行常驻部分专家，模型表现又会受到限制。

MiniCPM-V 4.7采用了**前瞻专家调度（LES）**技术，利用相邻网络层输入特征高度相似的先验规律，在当前层计算尚未结束时，就将特征输入下一层的路由器中，由后台线程提前将对应权重从闪存读入内存。实测显示，该机制能提前预取超过80%的所需专家，且不改变原有的完整路由决策机制。

在权重存储层面，研发团队应用了逐层混合精度量化，并将权重重组为连续存储布局，充分利用闪存的高效顺序读取能力。在iPad Pro M4的测试环境下，前瞻专家调度方案将解码速度综合提升了5倍。配合专门训练的DSpark草稿模型进行投机采样，在16GB内存设备上解码效率进一步提升约17%。

针对下游微调容易引发的“灾难性遗忘”，团队引入了自回放微调（Self-Replay Fine-Tuning）方案。在微调之前，先由模型针对基础能力集合生成标准答案，将其作为样本混入新任务数据中共同训练，使模型在掌握新业务技能的同时锁定原生通用表现。