您好，欢迎进入某某某某电动伸缩门有限公司官网！

推荐产品

联系我们

邮箱：admin@admin.com
电话：400-888-8888
地址：安徽省合肥市高新区在线咨询

主页 > 新闻中心 > 常见问题 >

常见问题

北大联合 DeepSeek 开源 DSpark，大模型推理效率大幅跃升

发布日期：2026-06-28 11:10:05浏览次数：

<article><section data-type="rtext"><p>【环球网科技综合报道】6月28日消息，北京大学与深度求索（DeepSeek）联合推出大模型推理加速框架 DSpark 并完成开源，该技术有效破解大语言模型高并发场景推理效率难题，同等吞吐量条件下可将单用户文本生成速度提升 60% 至 85%，相关论文、训练代码已上线 GitHub 开放共享。</p><p><i class="pic-con"></p><p>当前大语言模型***用自回归生成逻辑，每生成一个文字单元都需完整前向运算，对话响应延迟居高不下。推测解码是主流提速路线，但现有方案存在明显短板：串行草稿模型候选生成耗时随长度递增，并行草稿模型长序列候选接受率快速下滑，高并发场景下算力浪费严重、系统吞吐量受限。</p>
              <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader>
            <p>针对两大核心痛点，DSpark 创新打造双重优化机制。候选生成层面***用半自回归架构，依托改良并行主干网络一次性输出候选基础特征，搭配轻量化顺序模块补充文本前后依赖关系，仅两层 Transformer 结构性能便超越五层传统并行模型，兼顾生成速度与候选质量。验证调度层面创新置信度调度验证机制，通过硬件感知前缀调度器，结合实时算力负载、候选存活概率动态分配算力***，优先验证高可靠文本片段，减少无效计算损耗。</p><p>研究团队选取通义千问 3、Gemma4 等主流大模型开展多场景测试，覆盖数学推理、代码编写、日常对话三大任务。数据显示，DSpark 单轮有效生成长度全面优于 Eagle3、DFlash 两类主流基线模型，以 Qwen3-4B 为例，相比 Eagle3 提升 30.9%、相比 DFlash 提升 16.3%，既保留并行架构首位生成优势，又解决长序列候选有效率衰减问题。</p><p>工程落地环节，研发团队完成多项底层系统优化。训练阶段优化数据传输逻辑、***用序列打包策略降低算力与内存消耗；部署端设计异步调度模式，规避 GPU 流水线卡顿，通过逻辑与物理计算解耦适配动态变长验证需求，兼容主流 CUDA 硬件生态。</p><p>该框架已落地 DeepSeek-V4-Flash、DeepSeek-V4-Pro 预览版服务引擎。线上真实流量实测结果显示，在不同用户响应速度标准（SLA）下，系统整体吞吐量实现跨越式增长：V4-Flash 引擎保障单用户 80token/s 生成速度时，吞吐量较原有基线提升 51%；要求 120token/s 高速输出时，吞吐量优势达 661%；V4-Pro 引擎 35token/s、50token/s 标准下吞吐量分别提升 52%、406%。系统可根据在线并发量自动调整验证文本长度，低负载充分释放算力，高负载平滑控制***竞争，自适应适配多变业务流量。</p><p>据介绍，DSpark 仍存在一定优化空间，复杂低适配查询场景下完整候选块生成会产生固定算力开销。现阶段，深度求索已在 GitHub DeepSpec 项目开源 DSpark、DFlash、Eagle3 全套训练代码、评估工具与模型权重，为行业低成本落地高性能大模型推理服务提供完整技术方案，助力人工智能产业降低线上部署成本、提升用户交互体验。（纯钧）</p></section><img src='/image/156678-0' alt='北大联合 DeepSeek 开源 DSpark，大模型推理效率大幅跃升'>         </div>

<div class="relink clearfix">

上一篇：<a href='/detail/119363.html'>网传上海南站普速车或将「清零」，绿皮车退出历史舞台是否已是大势所趋？</a>
        下一篇：<a href='/a/news/cjwt/33.html'>有性瘾女朋友每天都要很多遍要不要分手?</a>

</div>
    </div>
    <div class="recomcon">
      <div class="recom-tit"><a href="/=" class="more" title="查看更多 >>">查看更多 >></a><s></s>推荐资讯</div>

<div class="txtimglist clearfix">

<div class="item"><a href="/detail/119832.html" title="民航局紧急通知禁止携无 3C 标识及被召回的充电宝乘境内航班，无 3C 标识充电宝有哪些安全隐患？"><img src="/public/tupian/180.jpeg" alt="民航局紧急通知禁止携无 3C 标识及被召回的充电宝乘境内航班，无 3C 标识充电宝有哪些安全隐患？">
          <h3>民航局紧急通知禁止携无 3C 标识及被召回的充电宝乘境内航班，无 3C 标识充电宝有哪些安全隐患？</h3>
          <div class="txt">民航局紧急通知禁止携无 3C 标识及被召回的充电宝乘境内航班，无 3C 标识充电宝有哪些安全隐患？...</div>
        </a></div>
        
        <div class="item"><a href="/detail/119593.html" title="怎么评价国内AI企业人肉背15块80TB硬盘，飞去马来西亚用英伟达训练数据，以规避美国禁令?"><img src="/public/tupian/145.jpeg" alt="怎么评价国内AI企业人肉背15块80TB硬盘，飞去马来西亚用英伟达训练数据，以规避美国禁令?">
          <h3>怎么评价国内AI企业人肉背15块80TB硬盘，飞去马来西亚用英伟达训练数据，以规避美国禁令?</h3>
          <div class="txt">怎么评价国内AI企业人肉背15块80TB硬盘，飞去马来西亚用英伟达训练数据，以规避美国禁令?...</div>
        </a></div>
        
        <div class="item"><a href="/detail/119893.html" title="樊振东加盟新东家后，季票在 24 小时内几乎售罄，这背后的原因是什么？"><img src="/public/tupian/57.jpeg" alt="樊振东加盟新东家后，季票在 24 小时内几乎售罄，这背后的原因是什么？">
          <h3>樊振东加盟新东家后，季票在 24 小时内几乎售罄，这背后的原因是什么？</h3>
          <div class="txt">樊振东加盟新东家后，季票在 24 小时内几乎售罄，这背后的原因是什么？...</div>
        </a></div>
        
        <div class="item"><a href="/detail/119132.html" title="为什么总有人要说"再见，docker！"，那玩nas的为什么还离不开docker，比如绿联，飞牛？"><img src="/public/tupian/8.jpeg" alt="为什么总有人要说"再见，docker！"，那玩nas的为什么还离不开docker，比如绿联，飞牛？">
          <h3>为什么总有人要说"再见，docker！"，那玩nas的为什么还离不开docker，比如绿联，飞牛？</h3>
          <div class="txt">为什么总有人要说"再见，docker！"，那玩nas的为什么还离不开docker，比如绿联，飞牛？...</div>
        </a></div>
                 </div>
    </div>
  </div>
</div>
<div class="footer169">
  <div class="b169_main">
    <div class="w169 clearfix">
      <div class="lx169 fl">
        <h3>联系方式</h3>
        <p class="p169">全国服务热线</p>
        <p class="tel169">400-888-8888</p>
        <p>手　机：13588888888</p>
        <p>地　址：安徽省合肥市高新区</p>
      </div>
      <div class="bnav169 fl"> <dl>
          <dt><a href="/">关于我们</a></dt>
          
          <dd><a href="/">企业文化</a></dd>
          
          <dd><a href="/">企业理念</a></dd>
          
          <dd><a href="/">公司资质</a></dd>
          
        </dl><dl>
          <dt><a href="/">产品中心</a></dt>
          
          <dd><a href="/">不锈钢伸缩门</a></dd>
          
          <dd><a href="/">铝合金电动门</a></dd>
          
          <dd><a href="//">电动道闸门</a></dd>
          
        </dl><dl>
          <dt><a href="/">新闻中心</a></dt>
          
          <dd><a href="/">公司资讯</a></dd>
          
          <dd><a href="/">行业动态</a></dd>
          
          <dd><a href="/">常见问题</a></dd>
          
        </dl><dl>
          <dt><a href="/">合作案例</a></dt>
          
        </dl> </div>
      <div class="ewm169 fr">
        <dl>
        </dl>
      </div>
    </div>
  </div>
  <div class="bq169_main">
    <div class="w169 clearfix">
      <p> <a href=/ target='_blank'></a>　<a href="https://beian.miit.gov.cn/"  target="_blank" rel="nofollow"></a> <a href="/sitemap.xml" target="_blank">XML地图</a> <a href="http://www.xiuzhanwang.com" target="_blank">织梦模板</a></p>
    </div>
  </div>
</div>

<link href="/template/moban58/css/kefu.css" rel="stylesheet">
<ul class="right_nav">
  <li>
    <div class="iconBox oln_ser"> <img src='/template/moban58/picture/rnqq.png'>
      <h4>在线客服</h4>
    </div>
    <div class="hideBox">
      <div class="hb">
        <h5>在线咨询</h5>
        <div class="qqtalk"> <a target="_blank" href="http://wpa.qq.com/msgrd?v=3&uin=88888888&site=qq&menu=yes"> <span><img src="/template/moban58/picture/online.png"></span>
          <p>点击发消息</p>
          </a> </div>
      </div>
    </div>
  </li>
  <li>
    <div class="iconBox phe_num"> <img src='/template/moban58/picture/rncall.png'>
      <h4>联系电话</h4>
    </div>
    <div class="hideBox">
      <div class="hb">
        <h5>热线电话</h5>
        <p>13588888888</p>
      </div>
    </div>
  </li>
  <li>

</li>
  <li>
    <div class="iconBox to_msg"> <img src='/template/moban58/picture/rnmsg.png'>
      <h4><a href="/">在线留言</a></h4>
    </div>
  </li>
  <li>
    <div class="iconBox top"> <img src='/template/moban58/picture/rntop.png'>
      <h4>回到顶部</h4>
    </div>
  </li>
</ul>
<script type="text/javascript" src='/template/moban58/js/kefu.js'></script>

</body>
</html>