是石科技正式推出多模态模型服务,通过历史缓存残差自适应加速、显存协同管理与免训练Token压缩等技术,在保证画质的前提下实现端到端推理提速2.48倍,有效解决AI视频规模化生产的成本难题。
AI视频生成走向工业化落地时,最大的瓶颈在于推理延迟、算力成本与生成质量之间的平衡。单纯减少迭代步数容易导致误差累积、画质劣化;保留完整计算又会带来高昂的显存与算力开销。
针对批量生产的降本增效痛点,是石科技正式发布「多模态模型服务」,重点攻坚视频生成推理加速、缓存与显存管理、多模态Token压缩以及前后链路衔接,为多模态推理提供全栈优化方案。
视频扩散模型在多轮迭代计算中,相邻计算步骤存在大量可复用信息。如果每步全量计算,开销巨大;若直接粗暴跳过或复用,误差会随步数累积导致画面崩溃。
对此,是石科技研发了基于历史缓存残差的自适应加速技术。系统利用历史计算信息动态评估缓存复用风险:


实测数据显示,相比Dense基线方案,该技术在保持生成质量一致的前提下,实现了端到端平均2.48倍的推理加速。
高并发场景下,缓存数据的读写与驻留极易造成显存瓶颈。是石科技将智能缓存决策与SGLang推理框架结合,引入分块处理、显存压缩与风险感知调度机制,根据实时反馈动态调整缓存分配策略。

这套协同机制大幅降低了无效显存开销,显著提升了单位算力在实际生产环境中的多任务吞吐与并发支持上限。
连续音视频素材包含极高的时序信息密度,全量转化为Token会造成计算冗余,而统一粗暴压缩又可能破坏关键语义。
是石科技提出了一种模态自适应的免训练Token压缩方法,基于AudioCLIP感知不同模态的有效信息,按信息价值动态分配保留配额。

该方案无需额外微调模型,在WorldSense基准评测中获得1.33倍提速,同时在VideoMME和DailyOmni等评测中完整保留了关键语义理解能力。
在真实创作流程中,用户的输入常包含参考图像、音轨及长文本指令。是石科技打造了基于全模态模型的Context Engine,在理解端与生成端之间搭建起结构化桥梁。

系统能自动提取人物角色、声音特征与时间轴约束,转化为镜头、动作和台词分镜等结构化指令,再传递给视频生成模型。配合覆盖模型路由、任务调度与超时重试的工程底座,构建出适配高并发业务环境的工业化交付链路。
免费获取企业 AI 成熟度诊断报告,发现转型机会








关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断