股票啦网 www.gupiaola.com 2023年04月26日报道：人们一直在朝着NeMo

随着ChatGPT等AI谈话机器人(300024)自去年底以来迅速“走红”，针对它们安全问题的相关警告也层出不穷。虽然背后的开发者也在竭尽全力地想方法解决这些问题，比如实施资讯过滤和人类改正那些被标记的问题，但效果都不尽人意。

有鉴于此，英伟达公司（Nvidia Corp.）周二正式公布了一个名为“NeMo Guardrails”的开源工具包，可以禁止AI谈话机器人(300024)提供那些受限的信息，使人工智能(161631)驱动的应用程序更加“精确、适当、符合主题和安全”。投资美股用

“每个人都意识到了大型生成语言模型的力道，”英伟达应用钻研副总裁Jonathan Cohen说，“以一种安全可靠的方式部署它们比较重大。”

英伟达表达，“NeMo Guardrails”将作为终端用户和人工智能(161631)程序之间的一层“防护墙”。将其与传统软件混合，该系统将能够识别用户提出的事实问题，并检查机器人(300024)是否能够和应该回答这个问题。系统还将确定生成的答案是否基于事实，并操纵谈话机器人(300024)给出回答的方式。

例如，假设一名员工询问人力资源谈话机器人(300024)，公司是否为想要领养孩子的员工提供支持。投资美股用这将通过“NeMo Guardrails”并返回包含公司相关利益的文本。询问同一个机器人(300024)有多少员工利用了这一福利，可能会引发拒绝指令，因为这些数据是保密的。

Cohen还表达，英伟达已经在Guardrails的底层系统上工作了"多年"，但就在大概一年前意识到它很适合GPT-4和ChatGPT这样的模型。

"从那时起，人们一直在朝着NeMo Guardrails的这个版本进展，"他说，"人工智能(161631)模型安全工具针对那些为企业用途部署的模型至关重大。"