我们从外部红队演习中学到的东西
除了组织内部红队活动并遵守我们的白宫 ai 自愿承诺外，salesforce 还聘请了外部供应商进行各种渗透测试，以扩大我们的风险范围。利用具有广泛专业知识和全球视野的第三方会很有帮助，因为他们会接触不同的观点，有助于发现更广泛的风险。负责任的 ai 总监sarah tan解释说：“外部红队是对内部红队的补充；两者都可以发现仅靠外部或内部红队可能会遗漏的盲点。” 我们将 agentforce for developers 的测试外包给了供应商，他们使用对抗性提示模拟对我们产品的攻击，目的是让产品产生有偏见或有害的输出。
我们建议与外部合作伙伴进行对抗性测试的企业牢记以下几点：
确保供应商具有对抗性测试的成功记录并且之前曾在您的领域工作过。
领域专业知识至关重要：需要深入了解内部领域、产品和术语，以及自动化 海湾电话号码 和扩展有意义和有用提示的生成所需的开发技能，以确保与产品的目标和目的保持一致。
提供一份“好”和“坏”质量对抗提示的列表，以协之间的期望。
在红队过程中对他们的提示和输出进行采样，并在此过程中创造审查和反馈的时刻。
将测试范围缩小到特定产品套件或选择风险区域。对较小表面区域进行压力测试比试图一次性“破坏”所有内容更能带来更多、更高质量的结果。
salesforce 很荣幸成为白宫 ai 自愿承诺的签署方。作为该承诺的一部分，我们聘请第三方专家来评估我们产品的安全性，并带来我们可能忽略的不同观点。
kathy baxter，负责任的人工智能和技术首席架构师
期待
我们的内部和外部红队实践在识别和缓解我们 ai 驱动工具中的漏洞方面发挥了重要作用，确保它们符合我们负责任的 ai 高标准。通过利用我们自己的员工和外部主题专家的多样化观点，我们已经能够多次在我们的产品上市之前识别出许多潜在风险并相应地缓解它们。