首页 > 培训

科大讯飞华为发布大模型一体机对标A100,昇腾910B悄然商用

来源:第一财经 时间:2023-08-17 05:50:24

8月15日,科大讯飞在星火认知大模型发布会上,与华为共同发布一款用于企业构建专属大模型的软硬件一体化设备“星火一体机”,让所有企业都可以在国产自主创新的平台上自主、安全、可控地私有化部署大模型。

科大讯飞董事长刘庆峰在发布会上介绍称:“星火一体机可用于大模型的训练和推理,企业拎回去,开箱即可用。每一家企业,每一个行业、每一个学校、每个医院都可以有机会构建自己的专属大模型。”


(资料图片仅供参考)

他还表示,正在与华为打造面向超大规模参数大模型训练的国产算力的集群,对标英伟达的A100芯片。A100是目前在大模型训练市场上应用最广泛的芯片。

另据第一财经记者独家证实,星火一体机使用的是华为尚未官方对外发布的昇腾910B人工智能芯片。今年8月1日,华为在官网上公布了昇腾910B NPU驱动和固件升级指南。

一位业内人士告诉第一财经记者:“华为昇腾910B芯片的性能从未对外公布,但最近华为在业内大力推广这一平台,而且它的性能与上一代的910相比,应该绝对不是一个量级。”

第一财经记者了解到,星火一体机也是910B芯片首个对外商业化应用产品。上个月,科大讯飞就与华为宣布,打造基于中国自主创新的通用智能新底座。一方面,讯飞星火认知大模型基于训练推理一体化设计,实现大模型稀疏化、低精度量化的技术突破,能高效适配昇腾AI,加速大模型的行业落地应用和迭代;另一方面,以昇腾AI为核心,软硬件协同优化,构建算力集中、性能优越、供给稳定、数据安全的大模型训练集群。

据介绍,星火一体机提供从底层算力、AI框架、训练算法、推理能力、应用成效等全栈AI能力,可用于问答系统、对话生成、知识图谱构建、智能推荐等多个领域的应用,具备大模型预训练、多模态理解与生成、多任务学习和迁移等能力。

刘庆峰表示:“华为与科大讯飞将共同在生成式软硬件平台上,把高算力、高性能的算子库,多卡的高速互联以及分布式存储结合起来,尤其是我们联合针对人工智能所需要的最重要的算子库进行甄别和打磨,在此基础上架构科大讯飞的训练和数据闭环的全流程设计,以及训练和推理一体化设计的自研的大模型训练平台。”

刘庆峰称,目前该平台在单卡算力上已经能够对标英伟达的A100芯片。“现在我们基本按照国产的芯片来规划了,因为我们已经不能买美国芯片了,除了早期有的那些(英伟达)的算力外,我们现在必须全部国产化。”他表示。

讯飞星火大模型拥有130亿、650亿和1750亿三个版本的模型参数可选,围绕星火大模型,科大讯飞也在构建开发者生态,目前已经有4000多个助手开发者团队加入星火平台。

在媒体采访中谈及星火大模型未来是否会走向开源时,刘庆峰说道:“我们会做一部分开源,但是肯定不会全部开源,开源的部分主要是为了推动科研、高校研发这些目的,我们会给他们一份开源。”

相关稿件

科大讯飞华为发布大模型一体机对标A100,昇腾910B悄然商用

后郑纯楷时代,潘建新有机会收拾东风本田残局吗?

新能源汽车产业链之电池企业的优惠政策扶持!

继续坚定看好这个方向!

文化和旅游部开展2023年中华传统晒书活动

朗信电气申请新三板挂牌:深耕汽车热管理领域2022年净利润增速超100%

谷歌力押 Gemini AI,与微软亚马逊等竞品展开正面竞争

晋控电力: 半年报监事会决议公告

金水区未来路街道开展“相约地铁 我是小小站务员”地铁研学活动

国内首个“全国中学生地球科学科普教育基地”落户市南!

全国生态日主场活动今日在浙江湖州举行

暴雪总裁:下一部《暗黑破坏神》不会让玩家再等这么久

百济神州:公司对贿赂和腐败采取零容忍态度

张康黎 苏宁 张康黎

电脑微信摄像头如何打开 微信电脑版如何打开摄像头

现货黄金交易策略:强势美元令金价低位徘徊,多头还有反扑机会吗?

山西证券给予澳华内镜增持评级

股指冲高回落!分析人士:中长期不悲观

淳中科技:自研ASIC芯片已于8月上旬交付晶圆厂流片

中信证券:本次降息值得关注的四点

中金公司:预计未来进一步降准降息亦有空间 而财政和准财政政策更值得期待

1万多瓶红酒10秒内售罄,哈登直播间带货比打NBA挣钱容易多了

港交所(00388)拟采取措施活跃港股交投 知情人士:港府或无意调低印花税

词牌名 常见 常见词牌名大全

青鸟消防:2023年半年度净利润约2.87亿元,同比增加21.41%

楚江新材:公司购买的理财产品为安全性高、流动性好、风险性低的品类

力胜鼠标设置 完美贴合各类人群需求 力胜无线鼠标使用说明书

founder方正电脑怎么样?founder方正电脑性能评测 方正电脑官方网站

香港小姐2023丨梁晶晶由村姑进化变黑马,首轮面试带工人姐姐现身

寻找身边最美能源人|从加油员到高级技师,她在加油站安心筑下了巢