突发！350位大佬发出警告“AI可能灭绝人类”

AI 灭绝人类，到底是不是危言耸听？

图源：我的女友是机器人剧照

350名行业大佬警告：AI可能灭绝人类

自聊天机器人 ChatGPT 掀起 AI 热潮以来，ChatGPT 确实为人们带来了诸多便利，但同时这项新技术也面临着巨大的风险。

​

继此前马斯克等千人签署公开信，呼吁暂停 AI 开发六个月后，OpenAI 首席执行官 Sam Altman 等多位行业专家又来提示风险。

​

近日，超过 350 名人工智能（AI）领域的行业高管、专家和教授签署了一封公开信，他们在信中警告称，AI 可能给人类带来灭绝风险。

这封信于周二发表在非营利组织人工智能安全中心（CAIS）的网站上，签署者包括“ChatGPT 之父”Open AI 首席执行官山姆·奥特曼、DeepMind 首席执行官 Demis Hassabis、Anthropic 首席执行官 Dario Amodei 以及微软和谷歌的高管等。

​

这封信只有一段话：“减轻 AI 带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球优先事项。”

​

声明没有详细说明人工智能可能带来的潜在生存威胁，CAIS 表示，声明旨在带起关注对人工智能技术风险的关注及讨论。

​

其实早在今年 3 月，就一篇有关叫停 6 个月 AI 研究的公开信火遍了全网。

​

包括特斯拉 CEO 埃隆·马斯克在内的 1000 多名行业高管和专家签署公开信，呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统至少 6 个月。

​

公开信指出，如果不能迅速实施此类暂停，政府应当介入并采取措施。此外，“AI 实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级 AI 设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督”。

​

这封信当时在多个层面受到批评，一些专家认为它夸大了人工智能带来的风险，而一些人则赞同存在这种风险，但不同意信中建议的措施。

​

然而 ChatGPT 之父等 350 余名权威联署签名警告又一次掀起了全球大辩论：AI 究竟会不会让人类灭绝？该不该暂停 AI 的研发？

​

“AI 灭绝人类”，咋一听确实是有些危言耸听，但这些 AI 大佬们的担忧也不无道理，显然他们是洞悉了 AI 在未来有可能产生自主意识，所以才提前发出警告。

​

不过，与其考虑是否要暂停 AI 的研发，我们更应当多花点心思在如何立法，以及如何加强监管 AI 方面提早做一些准备。

AI 监管已成共识

以 ChatGPT 为代表的 AI 技术狂飙式发展，让技术的双刃剑特性愈演愈烈。在革新生产力的同时，AI 安全尤其内容安全引发担忧。

​

日前，AI 生成违法违规内容、AI 诈骗等乱象层出不穷，“通过 AI 换脸向好友借钱，10 分钟被骗 430 万、9 秒被骗走 245万”、“通过 AI 合成语音电话，勒索赎金”等国内外诈骗事件不断冲上热搜。

​

这也让更多人意识到：AI 智能工具正在以超越以往的速度，制造出新的、智能化的威胁，其危害性正在冲破传统的安全防护屏障。对此，加快制定 AI 监管政策已迫在眉睫、势在必行。

​

目前来看，AI 可能带来的风险已经受到世界各国和各界的重视。此前，意大利等国家对 ChatGPT 发起监管，暂停其的使用。

​

而且，欧盟正在推进《AI 法案》，该法案有望成为世界上第一个监管 AI 的全面立法，还将监管 ChatGPT 等新兴 AI 技术。

​

美国方面，本月早些时候，OpenAI 创始人 Sam Altman 会见了美国总统拜登，并在参议院司法委员会作证，要求加强对 AI 行业的监管。

​

他称，“随着这项技术的进步，我们明白人们对它如何改变生活方式感到焦虑。”他指出，“我最担心的是 AI 会对世界造成重大伤害”，新技术可以解决人类面临的大问题，但人工智能的力量足以以不可预测的方式改变社会。

​

中国方面，4 月 11 日，国家互联网信息办公室发布的《生成式人工智能服务管理办法（征求意见稿）》（简称《管理办法》）明确提出“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息”。

​

这为加强 AI 生成内容管理提供了基本遵循，希望相关措施进一步细化，并加快出台。

结语

每项革命性的技术进步，都是各有利弊。ChatGPT 技术也是一把双刃剑，我们需要采取有效措施避免不应有的各种灾难。

​

同时，我们也需要更加深入地思考，让技术开出绚丽之花，为我们造福。

​

更多精彩原创内容请关注微信公众号：OST开源开发者