您好,欢迎您来到国盈网!
官网首页 小额贷款 购房贷款 抵押贷款 银行贷款 贷款平台 贷款知识 区块链

国盈网 > 区块链 > 中国工程院院士高文:将训练大模型底座面向全社会开放,供研究者创业者使用

中国工程院院士高文:将训练大模型底座面向全社会开放,供研究者创业者使用

区块链 岑岑 本站原创

来源:

记者张静

高文说,开发一个大模型不是拍脑袋喊口号那么简单,但你必须有计算能力。只有投入几十亿甚至几十亿元才能做出“像样的东西”,但这些钱是给大学和初创企业的。这是一个门槛。“我们的基本思路是,利用鹏程实验室的计算能力和公开渠道的数据,培养一个大型的模型库,向全社会开放,供科研人员和创业者使用。”

中国工程院院士高文:将训练大模型底座面向全社会开放,供研究者创业者使用图片来源:工具生成。

5月22日,中国工程院院士、鹏程实验室主任高文在2023大湾区人工智能分论坛上表示,要利用鹏程实验室的计算能力和科研人员、创业者公开渠道的数据,培养一个大型的模型基地,向全社会开放。

鹏程实验室是经中央批准成立的网络通信领域突破性、领先性、平台整合型新型科研机构,围绕宽带通信、新型网络、网络智能等国家重大战略任务开展重大科学问题和关键核心技术研究。

高文表示,当前的人工智能是新的浪潮,ChatGPT给技术和社会发展带来了巨大的冲击。“我们必须处理它。企业有自己的解决方案,国家也有自己的解决方案。企业动作更快,国内很多头部企业都在做自己的大模型。当然,能不能做得比ChatGPT更好是另一回事,至少要做到。如果你不做,什么都不会发生。如果你做了,至少会有事情发生。”

他说开发一个大模型不是拍脑袋喊口号那么简单,但是必须要有计算能力。只有投入几十亿甚至几十亿元才能做出“像样的东西”,但这个基金是给大学和初创企业的。这是一个门槛。目前,鹏程实验室给出的方案是投资40亿元研发E级智能计算平台“鹏程云脑二号”,具备100亿次半浮点运算能力。他说,“鹏城云脑二号”可以在一个月内训练出GPT 3号和GPT 3.5号。“我们开始做下一台机器,做一台16000P p这么大计算能力的机器大概要花60亿左右..这两台机器加在一起,解决目前为止所有大型机型的训练绰绰有余。”

计算问题解决了,剩下的就是数据和算法。“该算法现在几乎是众所周知的。数据方面,我们准备用最大的能力获取尽可能多的数据,从公开渠道或者购买渠道获取数据来训练模型。我们的基本思路是,利用鹏程实验室的计算能力和公开渠道的数据,培养一个大型的模型库向全社会开放,供科研人员和创业者使用。”

高文还提到了增强大模型技术平台的计划,利用个人数据来增强和训练更好的模型,从而推动中国特别是粤港澳大湾区新一代人工智能的发展。他说,所谓“增强”,就是数据方在保证隐私和数据安全的情况下,贡献个人数据用于训练。增强模型可能比标准模型更好、更强,并且增强模型只提供给数据提供者。“当然,我们有许多详细的机制。只要你加入这个联盟,你就会逐渐了解这些详细的机制。当然,你也可以提出意见和建议,让联盟做得更好。”

温馨提示:注:内容来源均采集于互联网,不要轻信任何,后果自负,本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权,请给我们来信(j7hr0a@163.com),我们会及时处理和回复。

原文地址"中国工程院院士高文:将训练大模型底座面向全社会开放,供研究者创业者使用":http://www.guoyinggangguan.com/qkl/147285.html

微信扫描二维码关注官方微信
▲长按图片识别二维码