英伟达推出“护栏”软件,让AI聊天机器人不再胡说八道-世界实时
(资料图片)
IT之家 4 月 26 日消息,人工智能(AI)的发展日新月异,但也存在一些难题,比如 AI 模型有时会出现“幻觉”,即说出错误的事实、涉及有害的话题或导致安全风险。为了解决这个问题,英伟达在周二发布了一款新的软件,名为 NeMo Guardrails,可以帮助软件开发者给 AI 模型设置“护栏”,防止它们产生不良的输出。
NeMo Guardrails 是一个软件层,位于用户和 AI 模型之间,可以在模型输出不良内容之前进行拦截和修改。例如,如果开发者想要创建一个客服聊天机器人,可以使用 NeMo Guardrails 来限制它只能谈论相关的产品,而不能谈论竞争对手的产品或其他不相关的话题。如果用户提出这样的问题,机器人可以引导对话回到开发者希望的话题上。
英伟达还提供了另一个例子,一个用于回答内部企业人力资源问题的聊天机器人。在这个例子中,英伟达能够使用 NeMo Guardrails 来阻止基于 ChatGPT 的机器人回答关于公司财务状况的问题或访问其他员工的私人数据。
此外,该软件还能够利用一个 AI 模型来检测另一个 AI 模型的“幻觉”,通过向第二个 AI 模型提问来核实第一个 AI 模型的答案。如果两个模型给出不一致的答案,那么软件就会返回“我不知道”的回答。
英伟达还表示,这个“护栏”软件还有助于提高安全性,可以强制 AI 模型只与白名单列表中的第三方软件进行交互。
NeMo Guardrails 是开源的,并通过英伟达服务提供,可以用于商业应用,开发者将使用 Colang 编程语言来为 AI 模型编写自定义规则。
据IT之家搜索了解,包括谷歌和微软支持的 OpenAI 等其他 AI 公司,也使用了一种称为强化学习的方法来防止 LLM 应用产生有害的输出。这种方法使用人类测试者来创建关于哪些答案是可接受或不可接受的数据,然后使用这些数据来训练 AI 模型。
英伟达正在将其注意力转向 AI 领域,该公司目前占据了创建这项技术所需芯片的市场主导地位,其股价在 2023 年迄今为止上涨了 85%,成为标准普尔 500 指数中涨幅最大的股票。
标签:
2023-04-26 15:07:54
2023-04-26 14:13:33
热图推荐
创世纪
通信
最近更新
- ChatGPT新增隐私选项:可让用户选择对
- 英伟达推出“护栏”软件,让AI聊天机器
- 天天热讯:OpenAI将在未来几个月内推出C
- 比亚迪海鸥正式上市 售价7.38-8.98万元
- 终于要来了?美媒曝李凯尔即将加盟中国
- 悲痛!一名8岁女孩脸部遇手机爆炸后身
- 消息!异动快报:环旭电子(601231)4
- 银行熊猫银币价格(2023年04月26日)
- 港股异动 | 中广核电力(01816)涨近4%
- 每日看点!SEGA公开《森巴德明哥:派对
- 当前通讯!施耐德电气“绿色能源管理创
- 当前消息!季度营收利润双增 虹软科技
- 怎么检测U盘读写速度? u盘读写速度不
- 武汉知识产权多次入选国家级示范建设
- 蓝叠安卓模拟器按键设置教程是什么?
- 蓝叠安卓模拟器手柄设置教程是什么?
- 蓝叠模拟器VT虚拟化设置方法是什么?
- 在电视上看斗鱼直播的方法是什么? 斗
- 福建高速 (600033):4月26日该股突
- 最新资讯:述评:中东涌动“和解潮”的
- 商务部就台湾地区对大陆贸易限制措施进
- 2023款奔腾T55上市 售价8.59-10.49万
- 全面升级 新款林肯冒险家预计5月上市
- 积分市场震荡 政策再次向新能源企业倾
- 别克E5订单突破8000辆 78%用户选择臻
- 今日聚焦!历时仅两年 极氪第10万辆量
- 世界快消息!古装旅拍应明码标价、出境
- 陈奕迅电影全集粤语版_陈奕迅电影
- 全球看热讯:北京理工大学珠海学院是公
- 学生托乐思的迷惘_学生托运
热点
2023年4月8日(上海)——黑马原力在上海徐汇滨江进行了品牌全球首发。品牌首款MPS产品G60小黑在发布会现场以自动驾驶的方式闪亮登场,点燃
详细>>CB-FH52是爱普生推出的3LCD商务投影机。作为新一代的商务投影机,CB-FH52具有高达4000流明的色彩亮度,投屏画面明亮清晰、色彩鲜艳,一经推
详细>>2023年2月16日,由流媒体网、易目唯文化主办,黑龙江龙网视传媒有限公司协办的第七届金屏奖暨2022年度中国智能视听与科技创新产业盛典在哈
详细>>2月14日,首届华彩杯算力基础设施应用创新大赛(以下简称大赛)在京正式启动。中国工程院邬贺铨院士、张宏科院士,工信部信息通信发展司一级巡
详细>>2023年1月13日,2022(第六届)中国行业数字化年度风云榜(以下简称2022风云榜)评选结果正式发布。本届风云榜由信息化观察网组织发起,以5
详细>>每年过年,必不可少的项目之一,就是发红包。一封封烫金封口、漂亮厚实的红包,带着一句句恭喜发财的欢乐祝福,浓浓的年味瞬间扑面而来。在
详细>>