OpenAI将组建新团队 以控制“超级智能”人工智能系统

(资料图片仅供参考)

据外媒报道，当地时间周三，OpenAI 宣布，将成立一个新的团队，以开发引导和控制 " 超级智能 " 人工智能系统的方法。

OpenAI 表示，该团队由首席科学家、联合创始人之一伊利亚 · 苏斯克维尔(Ilya Sutskever)以及该公司协调团队负责人简 · 莱克(Jan Leike)共同领导。

这两人预测，智能超过人类的人工智能将在十年内出现。他们还称，这种人工智能不一定是仁慈的，因此有必要研究控制和限制它的方法。

除了苏斯克维尔和莱克外，该团队还将包括其他 OpenAI 部门的研究人员以及新的研究人员和工程师。

据悉，这并不是 OpenAI 第一次谈论超级智能人工智能。2023 年 5 月，OpenAI 首席执行官萨姆 · 奥特曼(Sam Altman)与苏斯克维尔共同撰写了一篇论文，他在论文中描述了对超级智能人工智能进行特殊监管的必要性，以及在它与人类社会融合之前必须如何安全地处理它。

人工智能的潜在危险一直是人工智能研究人员和公众最关心的问题。今年 3 月份，马斯克等千名科技人士曾签署公开信，呼吁暂停训练比 GPT-4 更强大的 AI 系统至少 6 个月。