首页 > 资讯 > 正文

【焦点热闻】OpenAI CEO迫切要求监管大语言模型,警告生成式AI风险

来源:C114通信网 2023-05-24 23:18:21


(资料图片仅供参考)

微软支持的OpenAI首席执行官山姆·阿尔特曼(Sam Altman)呼吁美国监管高级大型语言模型的部署,警告没有坚实的政策框架的生成式人工智能的危险。

在与美国参议院讨论生成式AI治理的听证会上,阿尔特曼认为,随着对社会威胁的担忧日益加剧,监管对于减轻日益强大的模型带来的风险至关重要。

在他的证词中讨论的威胁,集中在与OpenAI如何训练其模型相关的错误信息的传播和违反数据隐私法。

参议员理查德·布卢门撒尔(Richard Blumenthal)在听证会上表示,未经充分训练的人工智能的前景“非常可怕”,并认为新技术必须“担负责任”。

他指出,OpenAI的ChatGPT具有模仿和模拟真实人类互动的能力,他以一段由经过语音训练的模型生成的语音开始了他的证词。

阿尔特曼建议称,成立一个政府机构来监管人工智能的训练和部署将有助于开发,并解释了对于开发者“许可和测试要求相结合”的必要性。

他还提议吊销开发超出某些“阈值”或“能力”的人工智能工具的开发者的许可,例如能自我复制或产生有害内容的模型。

阿尔特曼主张围绕机器学习工具如何从互联网手机数据以生成响应来制定管理规则。

“用户应该能选择不让我们这样的公司或其他社交媒体公司使用他们的数据。”他补充道。

标签:

编辑:

最近更新

热点

想必每一个电竞玩家都梦想拥有一台可以随时随地开黑的汽车。今年上海车展上,合创亮相了一款移动电竞堡垒合创V09雷蛇版。这款新车是由合创

详细>>

MPV这个以往冷清的细分市场正被一大波新车型推向增长轨道,也应验了合创汽车董事、联席总裁杨颖去年成都车展上的预言:电动车时代,SUV份额

详细>>

5 月 17 日,2023 阿里云峰会·常州站上,阿里云正式发布第八代企业级计算实例 g8a 以及性能增强性实例 g8ae。两款实例搭载第四代

详细>>

4月26日,中国信息通信研究院联合全球知名调研机构IDC发布《全球云游戏产业深度观察及趋势研判研究报告(2023年)》,瑞驰基于ARM架构自研的SoC

详细>>

5月12日电 2023世界品牌莫干山大会系列活动5月10日-12日在浙江省湖州市德清县举行。11日,新华社品牌工程与浙江哈尔斯真空器皿股份有限公

详细>>

摘要:5月7日,建筑产业AI应用领军企业小库科技于北京·望京嘉瑞文化中心举办「Enjoy AI with Xkool 享智于库」新品发布会。这一次,小

详细>>