NVIDIA推出安全“护栏” 限制人工智能“一本正经的胡扯”

近日,NVIDIA推出了一款名为NeMo Guardrails的软件,它能够为人工智能模型设置安全“护栏”,避免AI输出一些不良的内容。

随着ChatGPT等生成式人工智能的出现,越来越多的用户在享受便利的同时发现,AI经常会出现“一本正经的胡扯”的现象,有时甚至会有一些让人细思极恐的发言。

近日,NVIDIA推出了一款名为NeMo Guardrails的软件,它能够为人工智能模型设置安全“护栏”,避免AI输出一些不良的内容。

据悉,NeMo Guardrails的本质是一个位于用户和模型之间的软件层,它能够在模型输出不良内容前进行拦截和修改。

比如,如果用户需要一个针对特定方向的AI,就可以利用该软件,来限制AI至输出对应方面的内容,而不谈论不相关的话题。

此外,该软件还能够利用一个AI模型检测另一个AI模型,如果两个模型输出的答案不一致,软件将直接输出“我不知道”的回答。

通过这种方式,人工智能“胡说八道”的情况会得到有效降低,一些可能存在危险的回复也能够被直接拦截。

来源:快科技

⑴本文来自投稿,仅以分享为目的,不代表迈思立场或证实其内容的真实性,不承担此类文章侵权行为的直接责任及连带责任。
⑵如涉及内容、版权等问题,请在文章发表之日起一周内与迈思联系,我们将在您联系我们之后24小时内予以删除,否则视为放弃相关权利。

(0)
上一篇 2023年4月26日 10:58
下一篇 2023年5月4日 16:29

相关推荐

发表回复

登录后才能评论