投资 干货 消费 评论 学院 滚动
风投 科技 创业 业内 要闻
世界观速讯丨封面深镜|除了引用《道德经》与张宏江尖峰对话 OpenAI CEO中国演讲首秀还说了啥?
发布日期: 2023-06-13 18:59:45 来源: 封面新闻

随着ChatGPT等大模型的发布,全球人工智能掀起了新一轮发展热潮,国内外大模型技术研究与产业发展日新月异,通用人工智能进入全新发展时期。


【资料图】

6月9日,为期两天的“北京智源大会”在中关村国家自主创新示范区会议中心成功开幕。科技部副部长吴朝晖和北京市副市长于英杰出席开幕式并致辞。

围绕当前大模型等通用人工智能技术发展的热点问题,大会汇聚图灵奖得主杨立昆(Yan LeCun)、约瑟夫·希发基思(Joseph Sifakis)外,还有郑南宁院士、姚期智院士等国内顶尖专家共商人工智能发展,在国际交流合作平台,将为人工智能技术可持续发展注入强劲动力。

6月10日上午,封面新闻记者在会上注意到,受邀参加了本次大会的OpenAI创始人兼首席执行官(CEO)山姆·阿尔特曼(Sam Altman)以视频连线的方式现身,他在线上发表演讲后,与智源研究院理事长张宏江院士开展了尖峰问答,主要探讨在当前的AI(Artificial Intelligence,人工智能)大模型时代,如何深化国际合作,如何开展更安全的AI研究,以及如何应对AI的未来风险。

张宏江和Sam Altman对话。

Sam Altman演讲首秀:AI安全始于足下

“我正处于环世界之旅的第四个星期。我已经去了五个大洲的近 20个国家,与学生、开发人员和国家元首会面。这次旅行对我是一种激励。我们看到了世界各地的人都已经在使用AI技术,以令人难以置信的方式改变生活。”Sam Altman在演讲时指出,自己也收到了来自用户的宝贵反馈:“他们告诉我如何能使这些工具变得更好。”

Sam Altman认为,科学史表明,在几千年来的农业革命、工业革命和计算革命中都能看出,技术进步遵循的是一条指数型曲线。“但是,我们现在正在见证的人工智能革命影响如此之大的原因,不仅在于其影响的规模,也是其进展的速度。它正在扩展人类想象力的画布,并以极快的速度这样做。”

值得注意的是,在演讲中,Sam Altman还特别引用了老子《道德经》中的话:千里之行,始于足下。他认为,当下可以迈出的最有建设性的一步,是国际科技界间的通力合作,特别是推动建立提高AGI(Artificial General Intelligence,意为通用人工智能,以下简称AGI)安全技术进步方面的透明度和知识共享的机制。

此外,Sam Altman还提到了GPT4。“从GPT4完成预培训到我们部署它,我们专门花了8个月的时间来进行对齐方面的工作。总的来说,我们认为我们在这方面做得很好。GPT4比我们以前的任何模型都更加与人类对齐。然而,对于更先进的系统,对齐仍然是一个未解决的问题,我们认为这需要新的技术方法,同时增强治理和监督。”

在会议结束后,Sam Altman也在推特上发布了对智源大会邀约的感谢,并公开了自己随后环球之旅的行程。

Sam Altman发推感谢智源的邀约。

通用人工智能发展现状与未来趋势

虽然大模型生成的内容质量持续在提升,但是仍有专家对大模型路径存疑。图灵奖得主Yan LeCun认为基于自监督的语言模型无法获得关于真实世界的知识,这些模型在本质上是不可控的,并提出了“世界模型(World Model)”的概念。

重点围绕通用人工智能主要三条路径的前沿研究现状及未来趋势,相关学者也进行深入研讨。

深度学习大模型路径设置了基础模型前沿技术、视觉与多模态大模型、生成模型等论坛,具身方向设置了具身智能与强化学习论坛,类脑智能方向设置了基于认知神经科学的大模型、类脑计算、AI生命科学等论坛,另外,还有智能的物质基础等更为前沿的研究方向。

作为首位开场嘉宾,Yann LeCun带来了题为“朝向能学习、思考和计划的机器进发”(Towards Machines that can Learn, Reason, and Plan)的主题演讲,表达了他对通用人工智能发展路径的系统思考。

Yan LeCun和朱军对话。

图灵奖得主约瑟夫·希发基思(Joseph Sifakis)、郑南宁院士和Graphcore联合创始人西蒙·诺尔斯(Simon Knowles)等嘉宾还带来了精彩的线上特邀报告。同时,基础模型前沿技术、视觉与多模态大模型、具身智能与强化学习、类脑计算、大模型新基建与智力运营等专题论坛也陆续开启。

安全伦理问题和风险防范

2022年底开始至今,人工智能的发展出现了很大的变化,大模型出来了“涌现”能力,尽管还远没到“超人”的风险,但是,随着人工智能技术进步而来的是对安全风险问题关注的陡然提升。

本次大会,关于人工智能安全伦理问题方面的代表性人物进行了探讨。未来生命研究所创始人马克斯·泰格马克(Max Tegmark)介绍受控下的AI发展, 分享了“让人工智能处于掌控之下”(Keeping AI under control)的报告,并与清华大学张亚勤院士进行了对话,共同探讨AI伦理安全和风险防范问题。

“如果我们安全和负责任地对其进行治理,AGI系统可以为全球经济创造无与伦比的经济财富,能够解决像气候变化、健康、安全这样的共同挑战,并以无数其他方式改善社会。”Sam Altman指出,推进AGI安全是需要找到共同利益点的最重要的领域之一。“AGI是一种从根本上改变我们文明的强大力量,这意味着有意义的国际合作和协调是极其必要的。如果国际能够合作治理,那么我们每一个人都能受益。”

本次论坛众星云集,除了两位图灵奖得主,加州伯克利分校教授斯图尔特·罗素(Stuart Russell)、 郑南宁院士、姚期智院士、Anthropic联合创始人克里斯托弗·奥拉(Christopher Olah)等AI专家,也在论坛中给出了自己对当前AI可持续发展的洞见。

关键词:
24小时热点 精彩推荐
资讯新闻