- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
meta推出ai检测套件，可帮助开发者检测自家AI安全性
12月8日消息，据Meta官方新闻稿，Meta昨日推出一款名为PurpleLlama的AI检测套件，号称提供了一系列工具，可帮助开发者检测自家AI安全性，并“负责任地部署生成式AI模型与应用程序”。
获悉，PurpleLlama套件目前提供“CyberSecEval”评估工具、LlamaGuard“输入输出安全分类器”，Meta声称，之后会有更多的工具加入这一套件。
Meta介绍称，PurpleLlama套件旨在规范自家Llama语言模型，也能够作用于其它友商的AI模型，这一套件的名称由来，是基于安全领域的“紫队概念”。
Meta声称，紫队是“攻击红队和防御蓝队”的结合，而PurpleLlama套件的作用，就是在评估和缓解AI模型的潜在威胁，“兼顾攻击和防御策略”。
具体而言，PurpleLlama套件目前能够量化大模型在网络安全风险的指标，评估可能存在的代码漏洞，并为模型的安全性提供见解，此外还能检查并过滤模型的输入和输出内容，防止黑客“越狱”相关模型。
Meta表示，未来该公司将持续检测AI模型的安全性，除了持续完善PurpleLlama套件外，Meta还将与微软、AMD、亚马逊、谷歌、英特尔、英伟达等公司合作，计划将PurpleLlama评估套件整合进行业模型评估基准中。
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2023-12-09 15:45:02
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
