您好,欢迎您来到国盈网!
官网首页 小额贷款 购房贷款 抵押贷款 银行贷款 贷款平台 贷款知识 区块链

国盈网 > 区块链 > 英特尔规划,英特尔innovation

英特尔规划,英特尔innovation

区块链 岑岑 本站原创

整理|郑丽媛

出品| csdn (ID: csdnnews)

看着ChatGPT持续爆发了几个月,期间微软、谷歌、Meta等科技巨头相继入局,现在英特尔终于正式宣布“参与”。

上周末,在德国汉堡举行的国际超级计算大会(ISC)高性能会议(HPC)上,英特尔不仅展示了其在HPC和AI工作负载方面的领先性能,还宣布了一项出人意料的计划:与阿贡国家实验室合作,用极光超级计算机开发生成式AI模型Aurora genAI,参数高达1万亿!

要知道,ChatGPT的参数尺度只有1750亿,也就是极光genAI模型至少会比它大5倍。

(图片来自英特尔官网)

人工智能模型将由极光超级计算机提供。

据了解,英特尔Aurora genAI型号将基于两个框架:英伟达的威震天和微软的DeepSpeed。

威震天:大规模语言模型分布式训练的架构,专门针对Transformer进行了优化。它不仅支持传统分布式训练的数据并行,还支持模型并行。

深度速度:专注于优化大规模深度学习模型的训练。通过提升规模、速度、成本和可用性,释放训练千亿参数模型的能力,极大促进大规模模型的训练。

除了这两个框架,Aurora genAI模型还将由Aurora超级计算机提供计算能力——这是英特尔为阿贡国家实验室设计的超级计算机,经过各种延迟后终于成型。

根据公布的数据,极光超级计算机由英特尔至强CPU Max和至强GPU Max系列芯片支持,共有10624个节点,63744个Ponte Vecchio GPU,21248个Sapphire Rapids Xeon CPUs,1024个分布式异步对象存储(DAOS)存储节点,10.9 PB的DDR5持久内存。

此外,英特尔还透露了Aurora超级计算机的早期性能结果:“Aurora超级计算机在科学和工程工作负载方面具有领先的性能,比AMD MI250 GPU高一倍,在QMCPACK量子力学的应用方面比H100高20%,并且接近线性扩展,达到数百个节点。”

值得一提的是,相比当初1 Exaflop的目标,Aurora超算今年推出时有望提供2 exa flop以上的双精度浮点运算性能——甚至高于多次蝉联全球超算Top500榜首的前沿超算(1.194 Exaflop/s)。

专注于科学的生成式人工智能模型

有了强大的极光超算基地,就注定了极光格耐模型的规模不会小。根据英特尔的官方介绍,阿贡国家实验室(Argonne National Laboratory)正在主导极光genAI模型的国际合作。

阿贡副实验室主任里克·史蒂文斯(Rick Stevens)表示:“该项目旨在利用极光超级计算机的全部潜力,在能源部的实验室中生成一种可用于下游科学的资源,并与其他机构合作。”

总的来说,Aurora genAI是一个侧重于科学的生成式AI模型,所以会对一般文本、代码、科学文本以及生物、化学、材料学、物理、医学等科学数据进行训练。

由此产生的人工智能模型将拥有多达1万亿个参数,包括从分子和材料的设计到来自数百万来源的综合知识,可用于各种科学应用:系统生物学、癌症研究、气候科学、宇宙学研究、聚合物化学和材料。除了科学,Aurora genAI模型还可能用于其他领域,例如金融建模、自然语言处理、机器翻译、图像识别和语音识别。

计划2024年完工。

此外,关于极光genAI型号的更多信息还没有被英特尔剧透,但据国外媒体报道,英特尔计划在2024年开发并完成极光genAI型号——如果进展顺利,也许我们不会等太久。

这个消息的发布吸引了很多人的关注,而英特尔进入AI大模型宣布1万亿参数的启动,更是让人对未来GPT-4等竞品的发展充满期待:

“万亿参数应该是一个特殊的极限,但你也可以持怀疑态度,说这只是一个需要关注的巨大整数。毫无疑问,如果这个模型与GPT-4相似,它将增加一个数据点。但是随着各大公司宣布这个宣布那个,不知道6月份能不能达到顶峰。”

“人们正在使用H100构建新系统,已经有明显更好的AI GPU。如果这种情况持续下去,英伟达可能需要尽快公布新卡,以保持领先地位。”

“我猜GPT-4不会很快在许多基准测试中继续保持SOTA(最先进水平),也许它会在未来世界上最快的超级计算机上接受训练。作为参考,OpenAI超级计算机大约有10000个GPU,而Aurora有63744个GPU。”

参考链接:

https://www . Intel . com/content/www/us/en/news room/news/Intel-delivers-ai-accelerated-HPC-performance . html # GS . yh hdis

https://www . business 2 community . com/tech-news/Intel-announcements-1万亿-parameter-chatgpt-competitor-aurora-genai-02695750 #

https://www . Reddit . com/r/singularity/comments/13 ozabi/Intel _ announcements _ aurora _ genai _ generative _ ai _ model/

本网站声明:网站内容来源于网络。如有侵权,请联系我们,我们会及时处理。

温馨提示:注:内容来源均采集于互联网,不要轻信任何,后果自负,本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权,请给我们来信(j7hr0a@163.com),我们会及时处理和回复。

原文地址"英特尔规划,英特尔innovation":http://www.guoyinggangguan.com/qkl/146851.html

微信扫描二维码关注官方微信
▲长按图片识别二维码