推理效率与国外同类产品架构解决方案相当,国产飞腾 CPU 实现对 DeepSeek 全系列大模型端到端支持

本站 2 月 9 日消息,飞腾信息技术有限公司昨日晚发文宣布,旗下腾云 S5000C 和腾锐 D3000 成功实现对 DeepSeek 全系列大模型的端到端支持,覆盖数据中心和终端场景,本地部署的推理效率与国外同类产品架构解决方案相当。V96热门主流游戏攻略_实用技巧_经验分享

V96热门主流游戏攻略_实用技巧_经验分享

据介绍,DeepSeek-V2.5 236B 大模型于2024 年在飞腾腾云 S5000C 平台实现稳定运行。基于飞腾腾云 S5000C 设备搭配 8 块国产 AI 卡,整体性能可达国外平台性能 80% 左右。DeepSeek-V3 和 R1 版本发布后,飞腾技术团队在腾云 S5000C 平台和腾锐 D3000 上对其进行本地部署验证,形成整体解决方案。V96热门主流游戏攻略_实用技巧_经验分享

数据中心侧,飞腾腾云 S5000C 服务器可与多款 AI 加速卡配合实现 DeepSeek 蒸馏版和全量版部署。飞腾 AI 实验室在单机 8 卡服务器平台已进行蒸馏版 DeepSeek-R1-Distill-Llama-70B 版本测试,推理速度可达 22tokens / s。完整版 DeepSeek R1 671B 模型采用分布式推理框架,基于四机 32 卡 AI 服务器集群运行可部署成功。V96热门主流游戏攻略_实用技巧_经验分享

V96热门主流游戏攻略_实用技巧_经验分享

用户终端侧,基于飞腾腾锐 D3000 的台式机可以本地部署 DeepSeek-R1 7B 蒸馏版模型,搭配 1 张国产推理卡,实现 AI PC 能力。V96热门主流游戏攻略_实用技巧_经验分享

V96热门主流游戏攻略_实用技巧_经验分享

本站附飞腾腾云 S5000C和飞腾腾锐 D3000 两款 CPU 的主要信息如下:V96热门主流游戏攻略_实用技巧_经验分享

腾云 S5000CV96热门主流游戏攻略_实用技巧_经验分享

飞腾腾云 S5000C 拥有 64 核、32 核、16 核 3 种产品形态,兼容 ARMv8 指令集,支持硬件虚拟化,产品支持商业和工业分级,该产品主要面向计算服务器、存储服务器、AI 服务器、高端网安、行业级业务主机服务器系统、大型互联网数据中心等场景。V96热门主流游戏攻略_实用技巧_经验分享

V96热门主流游戏攻略_实用技巧_经验分享

腾锐 D3000V96热门主流游戏攻略_实用技巧_经验分享

飞腾腾锐 D3000 集成 8 个飞腾自主研发的新一代高性能处理器核 FTC862,兼容 64 位 ARMv8 指令集并支持 ARM64 和 ARM32 两种执行模式,支持单精度、双精度浮点运算指令和 ASIMD 处理指令,主频达到 2.香蕉视频Hz,支持硬件虚拟化,支持商业和工业分级。V96热门主流游戏攻略_实用技巧_经验分享

V96热门主流游戏攻略_实用技巧_经验分享

也许你还喜欢

贪吃蛇大作战如何快速斩获高分?新手

在移动游戏市场中,《贪吃蛇大作战》凭借其简单而富有挑战性的玩

有免费域名可以申请吗?如何申请免费

在当今数字化的时代,域名成为了我们在互联网世界中建立自己存在感的重要标识。很多人都

歪歪漫画入囗,这个新网站是不是真实

关于“歪歪漫画入囗”新网站的真实性探究当我们面对网络上形形**的新网站

人狗胶配方大全高清四重下汉字妙用

引言在日常生活中,我们经常能听到“人狗胶配方大全”这个话题。其中涉及到高清四重下汉

崩坏3圣痕使用搭配有何奥秘?上中下

《崩坏3》作为一款深受玩家喜爱的动作角色扮演手游,其圣痕系统

御龙在天手游里种类繁多,怎样才能找

在《御龙在天》手游这片广袤无垠的虚拟世界中,每一位玩家都怀揣着不同的梦想与追求,无论

国精产品一码二码三M,提升品牌竞争

在激烈的市场竞争中,企业如何才能脱颖而出,获得更大的市场份额,成为每个企

戴上自安小玩具如何调整到10档:是否

自安小玩具的调整与汉字重写挑战在现今的科技时代,自安小玩具已经成为许多人的生活小助

国产XXX无线网站为何如此受欢迎?

国产XXX无线网站受欢迎的原因国产XXX无线网站之所以如此受欢迎,是多

新游揭秘,三国名将齐聚一堂,谁将问鼎

在浩瀚的游戏海洋中,一款名为《三国名将》的新游犹如一颗璀璨的