突发!350位大佬发出警告“AI可能灭绝人类”

开源news
发布于 2023-6-1 00:37
浏览
0收藏

AI 灭绝人类,到底是不是危言耸听?

突发!350位大佬发出警告“AI可能灭绝人类”-鸿蒙开发者社区


图源:我的女友是机器人剧照

350名行业大佬警告:AI可能灭绝人类


自聊天机器人 ChatGPT 掀起 AI 热潮以来,ChatGPT 确实为人们带来了诸多便利,但同时这项新技术也面临着巨大的风险。

继此前马斯克等千人签署公开信,呼吁暂停 AI 开发六个月后,OpenAI 首席执行官 Sam Altman 等多位行业专家又来提示风险。

近日,超过 350 名人工智能(AI)领域的行业高管、专家和教授签署了一封公开信,他们在信中警告称,AI 可能给人类带来灭绝风险。

突发!350位大佬发出警告“AI可能灭绝人类”-鸿蒙开发者社区

这封信于周二发表在非营利组织人工智能安全中心(CAIS)的网站上,签署者包括“ChatGPT 之父”Open AI 首席执行官山姆·奥特曼、DeepMind 首席执行官 Demis Hassabis、Anthropic 首席执行官 Dario Amodei 以及微软和谷歌的高管等。

这封信只有一段话:“减轻 AI 带来的灭绝风险,应该与流行病和核战争等其他社会规模的风险一起,成为全球优先事项。”

声明没有详细说明人工智能可能带来的潜在生存威胁,CAIS 表示,声明旨在带起关注对人工智能技术风险的关注及讨论。

其实早在今年 3 月,就一篇有关叫停 6 个月 AI 研究的公开信火遍了全网。

包括特斯拉 CEO 埃隆·马斯克在内的 1000 多名行业高管和专家签署公开信,呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统至少 6 个月。

公开信指出,如果不能迅速实施此类暂停,政府应当介入并采取措施。此外,“AI 实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级 AI 设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督”。

这封信当时在多个层面受到批评,一些专家认为它夸大了人工智能带来的风险,而一些人则赞同存在这种风险,但不同意信中建议的措施。

然而 ChatGPT 之父等 350 余名权威联署签名警告又一次掀起了全球大辩论:AI 究竟会不会让人类灭绝?该不该暂停 AI 的研发?

“AI 灭绝人类”,咋一听确实是有些危言耸听,但这些 AI 大佬们的担忧也不无道理,显然他们是洞悉了 AI 在未来有可能产生自主意识,所以才提前发出警告。

不过,与其考虑是否要暂停 AI 的研发,我们更应当多花点心思在如何立法,以及如何加强监管 AI 方面提早做一些准备。

AI 监管已成共识

以 ChatGPT 为代表的 AI 技术狂飙式发展,让技术的双刃剑特性愈演愈烈。在革新生产力的同时,AI 安全尤其内容安全引发担忧。

日前,AI 生成违法违规内容、AI 诈骗等乱象层出不穷,“通过 AI 换脸向好友借钱,10 分钟被骗 430 万、9 秒被骗走 245万”、“通过 AI 合成语音电话,勒索赎金”等国内外诈骗事件不断冲上热搜。

这也让更多人意识到:AI 智能工具正在以超越以往的速度,制造出新的、智能化的威胁,其危害性正在冲破传统的安全防护屏障。对此,加快制定 AI 监管政策已迫在眉睫、势在必行。

目前来看,AI 可能带来的风险已经受到世界各国和各界的重视。此前,意大利等国家对 ChatGPT 发起监管,暂停其的使用。

而且,欧盟正在推进《AI 法案》,该法案有望成为世界上第一个监管 AI 的全面立法,还将监管 ChatGPT 等新兴 AI 技术。

美国方面,本月早些时候,OpenAI 创始人 Sam Altman 会见了美国总统拜登,并在参议院司法委员会作证,要求加强对 AI 行业的监管。

他称,“随着这项技术的进步,我们明白人们对它如何改变生活方式感到焦虑。”他指出,“我最担心的是 AI 会对世界造成重大伤害”,新技术可以解决人类面临的大问题,但人工智能的力量足以以不可预测的方式改变社会。

中国方面,4 月 11 日,国家互联网信息办公室发布的《生成式人工智能服务管理办法(征求意见稿)》(简称《管理办法》)明确提出“利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息”。

这为加强 AI 生成内容管理提供了基本遵循,希望相关措施进一步细化,并加快出台。

结语

每项革命性的技术进步,都是各有利弊。ChatGPT 技术也是一把双刃剑,我们需要采取有效措施避免不应有的各种灾难。

同时,我们也需要更加深入地思考,让技术开出绚丽之花,为我们造福。

更多精彩原创内容请关注微信公众号:OST开源开发者

突发!350位大佬发出警告“AI可能灭绝人类”-鸿蒙开发者社区


收藏
回复
举报
回复
    相关推荐