Shanghai财经网,✅Shanghai经济网,Shanghai财经频道,上海商业新闻网,上海本地新闻媒体✅

您好,欢迎访问Shanghai上海财经新闻网,我们将竭诚为您服务!

可能对人类构成深远风险?马斯克等千人呼吁暂停训练高级AI

2023-03-29 17:06来源:未知 频道:财经头条 阅读:
《上海财经网》上海财经第一门户网站!
 追踪网络热点,关注财经动态,传播大沪文化,倡导网络新时代!
http://news.shanghaima.com/上海财经网欢迎您! 

上海财经网【上海财经号】:

马斯克等1000名科技人士,日前签署了一封特殊的公开信。

据未来生命研究所(Future of Life Institute)网站披露,该网站曾以公开信的方式发起倡议,呼吁所有AI(人工智能)实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。截至北京时间3月29日下午13时许,在该网站上,这封公开信获得了包括马斯克在内的1126名人士的联名签署。

综合目前的公开资料来看,这项倡议的宗旨在于为人类留出时间,思考AI开发的合规性和安全性,并助力人类展开相关的工作。对于此,GPT-4认为,“6个月的时间可能对于实现这一目的具有一定的挑战性。”

未来生命研究所网站截图

公开信认为,高级AI可能代表地球生命史上的深刻变化,人类应以相应的关怀和资源进行规划和管理——但不幸的是,对应级别的规划和管理并没有发生。此外,最近几个月AI实验室们陷入了一场失控的竞赛(an out-of-control race),但包括这些AI系统的创造者们,都无法完全去理解、预测或者可靠地控制(reliably control)它们。

公开信写道,广泛的研究表明,具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险,这一观点得到了顶级人工智能实验室的承认。

公开信表示,人们只应在这样的背景下去开发强大的人工系统:确信它们的影响是积极的,确信它们的风险是可控的。信件还援引了OpenAI(ChatGPT的开发者)在其最新声明中的表态,“在某个时候,在开始训练未来的AI系统之前,对它进行独立审查可能很重要。”

“现在就是那个时候。”公开信认为。

公开信呼吁,所有AI实验室立即暂停至少6个月的训练工作——对象是那些比GPT-4更强大的AI系统。公开信称,这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这样的暂停,政府应该介入并暂停。

“这并不意味着总体上暂停AI开发,”公开信表示,AI实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级AI设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。此外,公开信还呼吁,AI开发人员必须与政策制定者合作,以显着加快开发强大的AI治理系统。

未来生命研究所网站显示,该组织成立于2014年,它的目标是“引导变革性技术造福于生活,远离极端大规模的风险。”网站信息显示,其注册地址在美国宾夕法尼亚州蒙哥马利县。经查证,在2020年6月联合国发布的《数字合作路线图》中,该机构是该活动在AI领域的民间倡议者(Champions)之一。

网站最新页面显示,在该公开信的联合签名栏,有众多大学学者、工程师和企业创始人和高管在列。例如“图灵奖”获得者约书亚·本希奥、特斯拉CEO马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等。这份名单中也包括一些记者、教师和学生的名字。

未来生命研究所网站截图

对于此事,“GPT-4怎么看”?

ChatGPT在回答提问时表示,其原因为确保AI研究在安全和伦理方面的合规性,防止技术滥用,为制定有效规范和监管措施留出时间。对于这一行动的影响,GPT-4称,这将提高AI领域的安全意识,推动政策制定和监管措施的完善,促使AI技术更加负责任地发展。

当被问道,“在你看来,6个月的时间是否足以让人们实现这一目的?”GPT-4认为,虽然这段时间可以让政策制定者、研究人员和社会讨论开始关注AI安全和伦理问题,但要完全解决这些问题并制定全面的规范和监管措施可能需要更长时间。然而,6个月的暂停确实可以作为一个良好的起点,引发关注并推动相关方面加快行动。

“6个月的时间可能对于实现这一目的具有一定的挑战性。”

OpenAI网站截图

本文系观察者网独家稿件,未经授权,不得转载。

本文地址: http://caijing.shanghaima.com/caijing/51456.html
严正声明:本文仅代表作者个人观点,与上海财经网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,上海财经号系信息发布平台,上海财经网仅提供信息存储空间服务。如有侵权请出示权属凭证联系管理员(3455677927@qq.com)删除!
|上海财经网|上海财经新闻网|上海财经网电子版官网|上海财经网电子版阅读|上海财经大学网站|上海财经媒体|上海财政局网站|上海报业集团|上海财经网专栏|上海财经网东方财经|投诉上海财经网|上海财经网有哪些内容|上海财经网在哪里看|上海财经网地址|上海财经网新版上线|上海财经网新浪博客|上海财经网新闻频道|上海财经杂志|上海财经网APP|上海财经网记者新闻采访|

上一篇:7天沉浸式感受古今成都 东南亚旅游业同业采风团在蓉采风活动圆满收官

下一篇:上海市一中院一审公开开庭审理韩宝毅集资诈骗案

相关推荐


关注我们

    Shanghai财经网,✅Shanghai经济网,Shanghai财经频道,上海商业新闻网,上海本地新闻媒体✅
返回顶部