侃侃吃瓜网如何给智能体装个「AI侃侃吃瓜网护栏」？英伟达有3项全新微服务_ZAKER新闻

如何给智能体装个「AI侃侃吃瓜网护栏」？英伟达有3项全新微服务_ZAKER新闻

　　今年9月，国务院学位委员会、教育部印发《研究生教育学科专业目录（2022年）》和《研究生教育学科专业目录管理办法》，“纪检监察学”进入新版目录，正式成为法学门类下的一级学科。当数量众多的纪检监察学学子进入大学，纪检监察人员“后备军”将得到快速扩充。

雷峰网消息，纽约大学研究人员发现，如果一个给定语言模型的训练数据中有0.001%的数据 " 中毒 "（即故意植入错误信息），那么整个训练集将可能传播这些错误。数据 " 中毒 " 影响训练结果，AI 的实际部署，安全性同样至关重要。咨询公司 Gartner 预测，到 2028 年，AI 智能体将完成至少 15% 的日常工作决策并被应用于 33% 的企业程序。大量的 AI 智能体开发需求，让企业解决其中的信任、物理安全、网络安全以及合规性等问题显得更加迫在眉睫。近日，英伟达发布了全新的保障代理式 AI 应用安全的 NIM 微服务，这将消除企业部署生成式 AI 时的安全疑虑，并且为生成式 AI 的普及提供安全保障。全新的 NIM 微服务是 NeMo Guardrails 软件工具系列的一部分，这些可移植且经过优化的推理微服务可以帮助企业提高生成式 AI 应用的安全性、精准性和可扩展性。3 项 NIM 微服务，兼顾高安全性和低延迟NVIDIA NeMo Guardrails 是一个开源工具包，允许开发者将可编程护栏添加到基于 LLM 的会话系统中，从而保障人工智能系统的安全与合规。NeMo Guardrails 引入的三项全新微服务，能够帮助 AI 智能体在大规模运行时能同时保持受控行为。内容安全 NIM 微服务（Content Safety NIM）使用了质量较高的人工注释数据源Aegis 内容安全数据集进行训练，该数据集包含超过 35000 个人工标记的数据样本，由英伟达整理并开源，已经在 Hugging Face 公开发布。高质量的数据集能够有效防止 AI 生成有偏见或有害的输出结果，确保回答符合道德标准。英伟达的企业 AI 模型、软件与服务副总裁 Kari Briski 表示：" 这是同类数据集中质量最高的数据源之一。"话题控制 NIM 微服务（Topic Control NIM）能将对话聚焦在经过审核的话题上，避免离题或不当内容。越狱检测 NIM 微服务（Jailbreak Detection NIM）增加了对越狱企图（ 指绕过模型的安全防护措施，让模型执行禁止的行为）的防护，帮助在对抗性场景中保持 AI 的完整性。来源：英伟达官方由于" 一刀切 "的方法无法有效保护和控制复杂的代理式 AI 工作流，通过应用多个轻量级专业模型作为护栏，开发者可以弥补在只采取较为通用的全局策略和保护措施时可能出现的漏洞。可编程护栏数量的增加虽然能提升保障能力，但也会导致延迟有所上升，NeMo Guardrails 以最小延迟提升保障能力，极具 " 性价比 "。当护栏数量为 0（仅系统提示）时，延迟约为 0.75 秒，合规性为 1X（基准）。当护栏数量为 1 时，延迟增加到约 1 秒，合规性提升到 1.1X。当护栏数量为 5 时，延迟约为 1.25 秒，合规性达到 1.5X。增加到 5 个护栏，延迟仅增加约 1.25 秒。与增加 1 个护栏，延迟增加 1 秒对比，实现显著的优化。这表明，NeMo Guardrails 在提升保障能力的同时，对延迟的影响较小，能够在保证系统性能的前提下提高安全性和合规性。给汽车、零售、电信等行业的安全、精准、可扩展的「AI 护栏」NeMo Guardrails 已向开源社区开放，其 NIM 微服务解决企业级客户的 " 后顾之忧 "，使开发者能够构建更加安全、可信的 AI 智能体。智能体通过参考特定语境准则做出安全、适当的回答，并且加强了对越狱企图的抵御力度，实现了在汽车、金融、医疗、制造、零售等行业客户服务中的部署。软件和服务解决方案提供商 Amdocs 推出的 amAIz 平台是一个开创性的电信生成式 AI 框架，通过集成 NVIDIA NeMo Guardrails，增强了平台的可信 AI 功能，保障代理式体验的安全性、可靠性和可扩展性，从而让服务提供商能够安全部署 AI 解决方案。Amdocs 技术集团总裁兼战略主管 Anthony Goonetilleke 表示：" 像 NeMo Guardrails 这样的技术对于保障生成式 AI 应用的安全至关重要，能够帮助 AI 安全、道德地运行。"专注于为汽车行业提供 AI 解决方案的 Cerence AI，通过 NVIDIA NeMo Guardrails 帮助车载助手在其 CaLLM 系列大语言和小语言模型的支持下提供符合语境的安全交互。Cerence AI 产品和技术执行副总裁 Nils Schanz 表示："NeMo Guardrails 可以帮助我们为汽车制造商客户提供可信的情境感知解决方案，并作出明智、严谨且无幻觉的回答。"在面向客户的专业知识应用上，更需保证 AI 生成式回答的安全性与可靠性。家居装饰零售商劳氏公司通过利用生成式 AI 巩固店员的专业知识，以此让员工在面对客户的问题时能够 " 对答如流 "。这背后，是 NVIDIA NeMo Guardrails 将 AI 的回答" 框定 "在正确的范围内，确保输出的内容" 不翻车 "。劳氏公司的数据、AI 和创新高级副总裁 Chandhu Nair 则表示：" 我们一直在寻找方法帮助员工为客户提供超出预期的服务。通过部署 NVIDIA NeMo Guardrails，保证了 AI 生成式回答的安全性与可靠性，将对话强行限制在相关和适当的内容范围内。"值得一提的是，NeMo Guardrails 还具备较好的开放性和可扩展性，可集成由 AI 安全模型和防护提供商组成的生态系统，以及 AI 可观察性和开发工具。支持与 ActiveFence 的 ActiveScore（AI 安全服务）集成，防止对话式 AI 应用出现有害或不当内容，并提供可视化、分析和监控功能。区块链基础设施公司 Hive 以 NIM 微服务形式提供适用于图像、视频和音频内容的 AI 生成内容检测模型，通过使用 NeMo Guardrails，Hive 可将其模型集成到 AI 应用中并进行编排。AI 可观测性平台 Fiddler 与 NeMo Guardrails 集成，可增强其监控功能。端到端 AI 开发者平台 Weights & Biases 正在现有 NIM 集成组合基础上，通过增加与 NeMo Guardrails 微服务的集成来扩展 W&B Weave 的功能，以此提升 AI 推理能力。此外，NeMo Guardrails 还提供用于 AI 安全测试和漏洞扫描的开源套件 NVIDIA Garak，用于 LLM 和应用漏洞扫描，借助 Garak，开发者可以发现使用 LLM 中的系统中存在的漏洞，发现并解决 AI 模型中的潜在弱点，提高模型的稳健性与安全性。目前，NVIDIA NeMo Guardrails 微服务以及用于编排 rail 的 NeMo Guardrails 和 NVIDIA Garak 套件已向开发者和企业开放，开发者按照官网上的教程就可以使用 NeMo Guardrails 为 AI 客服智能体构建 AI 护栏。

koa12jJid0DL9adK+CJ1DK2K393LKASDad

编辑:刘长胜

TOP1热点：数说中国家庭变迁｜这个拜年变化，你发现了吗？

　　<strong>直新闻</strong><strong>：</strong><strong>哈里斯此访菲律宾的一个行程安排是到访巴拉望岛，今天也有外媒记者就这一行程向外交部发言人提问，你对此如何看？&nbsp;</strong>。

　　国台办发言人朱凤莲表示，“团团”患病后，两岸同胞都很关心，大陆也应邀派出两名专家赴台，感谢两岸专业团队尽到的努力，希望两岸继续做好大熊猫的保护和交流合作。

TOP2热点：春节假期前四天上海接待游客超943万人次，同比增长7.6%

　　长安街知事（微信id：capitalnews）注意到，他曾任山东省人社厅厅长、省委组织部常务副部长等职，今年8月获聘省政府参事。

　　近日，高血压诊断标准之争颇受关注。由国家心血管病中心、中国医师协会等共同制定的《中国高血压临床实践指南》，推荐将国内成人高血压诊断标准下调至130/80mmHg。这与美国2017年下调后的诊断标准一致。按此前中国高血压诊断标准140/90mmHg，我国高血压患者有2.45亿人。一旦采用“新标准”，国内高血压患者数量将翻倍，达到近5亿人，超过总人口的1/3。这一消息引起很多人的担忧。但是，国家卫健委很快做出回应：“目前，国家未对成人高血压诊断标准进行调整。”

TOP3热点：数说中国家庭变迁｜这个拜年变化，你发现了吗？超碰100在线

　　当被问及是否会为另一只大熊猫“圆圆”寻觅新配偶时，曹先绍说，“圆圆”今年已经18岁，以熊猫的生长年龄而言已经过了“适婚”年龄了，“我们现在就希望好好照顾圆圆，让它快快乐乐地过日子，不会考虑再寻觅新配偶了。不过，很多粉丝和民众倒是很希望团团圆圆的后代圆仔和圆宝可以尽快找对象。”

　　<strong>特约评论员 管姚</strong><strong>：</strong>不排除哈里斯此访巴拉望岛期间，要再打“南海牌”，甚至不排除要再拿早被扫进历史垃圾堆的所谓“南海仲裁”说事。而且我们看到，美媒已经在就此鼓噪预告了，美联社20日发自马尼拉的电稿标题，刻意将巴拉望岛称作front-line Philippine island in sea feud ，所谓“海上争端中的菲律宾前沿岛屿”。

TOP4热点：首席展望｜景顺首席全球市场策略师：新兴市场强劲表现可持续，今年中国需求或将复苏60分钟大床

　　但是，在张震看来，根据中国的实际需求，要健全党和国家监督体系，需要有大量的专业化人才，如果培养体系中只有硕博阶段，没有本科生，那么可能无法满足基层需求，因此，目前仍需继续探索，需要有一套健全的系统的人才培养机制。

　　央视新闻网友：“啊”出了大地回春，万物复苏，秋收冬藏；“啊”出了坚韧不拔，悲天悯人，生生不息；“啊”出了我们这个民族最宝贵的品质。

TOP5热点：专利诉讼攻防回合几时休？中创新航一个月三度公告和宁德时代纠纷棉花糖书屋h

　　几天后，“奋力轮”将会带着长江口二号古船驶入杨浦上海船厂旧址1号船坞，这里将会成为长江口二号古船博物馆，文物保护与考古发掘的新阶段将在此展开。

　　也有学校获得了教育部的批准。比如在2013年，中国政法大学政治与公共管理学院经国务院学位委员会办公室（教育部研究生司）批准，设立国内高校首个“纪检监察学”研究生专业，设国家监察理论、党的纪律检查、中国监察制度三个方向，招收硕士和博士研究生，该校的“纪检监察学”在2018年更名为“国家监察学”。而在2018年3月20日，西南政法大学监察法学院挂牌，是国内第一所命名为“监察法”的法学院，同年其经教育部备案自主设置设立二级学科“监察法学”，并形成了本、硕、博三级培养体系。2020年9月，首届监察法学硕士已顺利毕业。

TOP6热点：春节的8个晚上｜慎终追远，接祖先们“回家过年”一边亲一边在下面膜奶文字

　　但是，在张震看来，根据中国的实际需求，要健全党和国家监督体系，需要有大量的专业化人才，如果培养体系中只有硕博阶段，没有本科生，那么可能无法满足基层需求，因此，目前仍需继续探索，需要有一套健全的系统的人才培养机制。

　　据人力资源和社会保障部网站消息，日前，河北省石家庄市鹿泉区永飞家庭农场负责人李永平通过了石家庄市新型职业农民职称评审，与鹿泉区鹿马种植专业合作社负责人于江一道成为全市最先取得初级职称的新型职业农民。

TOP7热点：今晚看春晚丨浙江卫视集结越剧天团，央视戏曲晚会走进太原吃坤

　　近日，高血压诊断标准之争颇受关注。由国家心血管病中心、中国医师协会等共同制定的《中国高血压临床实践指南》，推荐将国内成人高血压诊断标准下调至130/80mmHg。这与美国2017年下调后的诊断标准一致。按此前中国高血压诊断标准140/90mmHg，我国高血压患者有2.45亿人。一旦采用“新标准”，国内高血压患者数量将翻倍，达到近5亿人，超过总人口的1/3。这一消息引起很多人的担忧。但是，国家卫健委很快做出回应：“目前，国家未对成人高血压诊断标准进行调整。”

　　2亿多人在高血压患者队列转了个圈儿。虚惊一场后，很多人不禁要问：高血压诊断标准真的需要调整吗？这涉及到两个评价维度：一是对个人的健康收益，二是对社会的经济负担。

TOP8热点：男孩将鞭炮扔入化粪池引发沼气爆炸：多辆汽车受损，无人受伤内射网站

　　截至11月19日24时，据31个省（自治区、直辖市）和新疆生产建设兵团报告，现有确诊病例20829例（其中重症病例95例），累计治愈出院病例260141例，累计死亡病例5227例，累计报告确诊病例286197例，无现有疑似病例。累计追踪到密切接触者10002167人，尚在医学观察的密切接触者1105680人。

　　1993年8月，第十四届中央纪委第二次全会在北京召开，会上明确提出了要“加大反腐败工作力度”。次年6月公布的《1994—1998年纪检监察干部培训规划》要求“通过科研健全纪检监察学科体系”，这使得廉政学科建设被正式提上议程，进入制度化发展阶段。

TOP9热点：著名相声表演艺术家武福星逝世，享年82岁八重神子乳液正能量

　　麦可思研究院《2021年中国高职生就业报告》数据显示，近五年农、林、牧、渔业对高职毕业生的需求增长，涉农专业应届高职毕业生“学农从农”意愿也在不断增强。2020届涉农专业高职毕业生从农（即在农、林、牧、渔业就业）比例为48.7%，比2016届（43.6%）上升了5.1个百分点。

　　美联社21日称，哈里斯22日将飞往靠近南海的菲律宾巴拉望岛，在那里发表公开演讲，并会见当地渔民、村民、官员，乘坐菲律宾海岸警卫队船只。“她将成为访问这个边境岛屿的最高级别美国领导人。”报道引述不具名美国官员的话称，“中国可以以自己希望的方式看待这次访问，但华盛顿传递的信息是，作为印太地区的一员，美国致力于该地区盟友的安全”。路透社认为，哈里斯的巴拉望之行“向中国传递一个明确的象征性信息”。

TOP10热点：共享海上中国年，爱达·魔都号载着近五千人开启新春主题航次一边亲一边在下面膜奶文字

　　据于明了解，产品价格在每公斤七八十元以上的高端产品占整体市场的45%左右，中低端产品占整体市场的55%左右。低价产品市场竞争激烈，所以很多国内厂商开始向高端产品市场发起挑战，与国外品牌进行竞争。

　　“现在也不知道职业农民有什么好处，但是这东西不压身，多一个证以后不知道哪时候能用上”，刘广认为，职业农民也可以像个“经理人”，在土地的承包和管理方面体现职业农民的作用。