您的位置: 首页 > 科技频道

中科曙光发布词元加速方案ParaCache

出处:北京商报 作者:王天逸 网编:陶凤 2026-08-28

北京商报讯(记者 王天逸)8月28日,中科曙光发文称,在2026中国国际大数据产业博览会期间,公司发布新一代词元加速方案ParaCache。

据悉,该方案通过保存并复用大模型已经完成的计算结果,减少不同请求、不同计算节点之间的重复计算。测试显示,在约12万词元输入下,ParaCache可使模型开始回答前的等待时间最高降低98.5%;高并发场景下,系统每秒处理的词元量最高达到原来的27倍。

本网站所有内容属北京商报社有限公司,未经许可不得转载。 商报总机:010-64101978 版权合作:010-64101871

商报地址:北京市朝阳区和平里西街21号 邮编:100013 法律顾问:北京市中同律师事务所(010-82011988)

网上有害信息举报  违法和不良信息举报电话:010-84276691 举报邮箱:bjsb@bbtnews.com.cn

ICP备案编号:京ICP备08003726号-1  京公网安备11010502045556号  互联网新闻信息服务许可证11120220001号