随着ChatGPT等AI聊天机器人自去年底以来迅速走红，对于它们安全问题的相关警告也层出不穷。尽管背后的开发者也在竭尽全力地想办法解决这些问题，比如实施资讯过滤和人类纠正那些被标记的问题，但效果都不尽人意。
有鉴于此，英伟达公司（Nvidia Corp.）周二正式发布了一个名为NeMo Guardrails的开源工具包，可以禁止AI聊天机器人提供那些受限的信息，使人工智能驱动的应用程序更加准确、适当、符合主题和安全。
OpenAI：下一步将推出Android版ChatGPT应用:金色财经报道，OpenAI：下一步将推出Android版ChatGPT应用。[2023/5/19 15:12:11]
每个人都意识到了大型生成语言模型的力量，英伟达应用研究副总裁Jonathan Cohen说，以一种安全可靠的方式部署它们非常重要。
英伟达表示，NeMo Guardrails将作为终端用户和人工智能程序之间的一层防护墙。将其与传统软件混合，该系统将能够识别用户提出的事实问题，并检查机器人是否能够和应该回答这个问题。系统还将确定生成的答案是否基于事实，并控制聊天机器人给出回答的方式。
FTX攻击者地址在BNB Chain上仍持有约7.4万枚BNB:11月16日消息，PeckShield在推特上表示，FTX 攻击者地址在 BNB Chain 上仍持有约 7.4 万枚 BNB（价值约 2000 万美元）与约 168 万枚 DAI。该地址已将约 3.4 万枚 BNB 交易为 4500 枚以太坊和 300 万枚 BUSD 并跨链至以太坊。[2022/11/16 13:12:59]
声音 | Charlie Shrem：双子星的稳定币将持续数十年:据bitcoinist消息，比特币基金会前副主席、比特币支持者Charlie Shrem日前就双子星推出基于以太坊的稳定币一事发表看法，他将该稳定币比喻为金门大桥，表示“它花了很长时间建成，但它坚固、稳定，将持续数十年”，对于其他试图推出稳定币的机构他给出提醒，“不太理想的稳定币可能会对行业造成更大的伤害”。[2018/9/12]
例如，假设一名员工询问人力资源聊天机器人，公司是否为想要领养孩子的员工提供支持。这将通过NeMo Guardrails并返回包含公司相关利益的文本。询问同一个机器人有多少员工利用了这一福利，可能会引发拒绝指令，因为这些数据是保密的。Cohen还表示，英伟达已经在Guardrails的底层系统上工作了"多年"，但就在大约一年前意识到它很适合GPT-4和ChatGPT这样的模型。"从那时起，我们一直在朝着NeMo Guardrails的这个版本发展，"他说，"人工智能模型安全工具对于那些为企业用途部署的模型至关重要。"
财联社
媒体专栏
阅读更多
金色荐读
金色财经 善欧巴
Chainlink预言机
白话区块链
金色早8点
Odaily星球日报
欧科云链
深潮TechFlow
MarsBit
Arcane Labs
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。