亚马逊斥资1.1亿美元推动生成式AI研究
生成式AI正在改变世界,从图像、视频到文本和代码,无所不包。亚马逊宣布将投入1.1亿美元,支持大学主导的生成式AI研究,旨在推动该领域取得突破性进展。
DALL-E、Midjourney和Stable Diffusion等生成式AI系统已经能够生成逼真的图像。ChatGPT,这个最知名的生成式AI聊天机器人,已经通过了法学院和商学院考试,成功回答了软件编码工作的面试问题,撰写了房地产广告,甚至开发了广告内容。
然而,开发新颖的生成式AI应用越来越需要强大的计算能力。这种资源往往超出了学术研究人员的能力范围,正如两位研究人员在今年1月发表在《IEEE会刊》上的一篇幽默论文中所指出的那样。
亚马逊网络服务(AWS)Annapurna Labs业务发展高级总监Gadi Hutt表示:“如今,AI学术研究受到资源匮乏的严重制约,学术界正在迅速落后。”
亚马逊“Build on Trainium”计划将AI带入学术界
作为亚马逊新计划“Build on Trainium”的一部分,AWS创建了一个计算集群,研究人员可以预约使用多达40,000个Trainium芯片。AWS专门为高性能、低成本深度学习开发了这些处理器。
Hutt表示:“通过‘Build on Trainium’,AWS正在投资新一代AI研究和课程,这些研究和课程由大学领先的AI研究人员指导,将推动生成式AI应用、库和优化技术的进步。”
亚马逊表示,一个名为Neuron Kernal Interface的全新Trainium编程接口为研究人员提供了“裸机”芯片编程能力,允许直接访问芯片的指令集,并使用户能够为新的模型操作和性能优化构建计算内核。
纽约大学计算机科学与工程副教授Julian Togelius表示:“这太棒了。许多公司乐于共享资源,但前提是必须使用特定的专有工具链。让研究人员能够低级别地调整硬件本身的功能听起来很棒。” Togelius是《IEEE会刊》那篇论文的两位作者之一。
AWS计划将与包括卡内基梅隆大学和加州大学伯克利分校在内的多所大学建立战略合作伙伴关系,未来几周内还将宣布更多合作机构。此外,该公司还将通过多轮亚马逊研究奖,在未来三到五年内向更广泛的研究界提供Trainium积分的资助。研究人员可以立即开始申请这些资助。总而言之,研究人员将有机会为大规模分布式Trainium集群构建新的AI架构、机器学习库和性能优化。
“Build on Trainium”计划的下一步
通过该计划开发的所有代码都将通过开源机器学习软件库提供。Togelius表示:“亚马逊一直在积极接触初创企业,因此现在将目标转向学术界非常合理。他们正在吸引更多人使用他们的云系统进行研究,并鼓励研究人员创办自己的公司,这些公司可能会与AWS合作。”
亚马逊指出,该计划还有助于培养未来的AI专家。例如,参与“Build on Trainium”计划的人员将获得AWS提供的Trainium技术教育和赋能计划,Hutt表示,这些计划将与由亚马逊芯片开发商Annapurna领导的Neuron数据科学社区合作。
Togelius表示,该计划成功的关键因素在于如何选择支持对象。
Togelius表示:“问题在于,亚马逊将如何分配这些资源,以使人们做一些大型科技公司无法或不愿做的事情?如果亚马逊像在亚马逊内部分配计算资源一样分配这些资源,那么它就没有获得多少收益。你应该专注于大型科技公司出于某种原因没有投资的东西——它太狭窄、太实验性、或者有奇怪的视角——这些都是你无法向风险投资家或股东推销的东西。学者们需要加倍关注这些奇怪的东西。”