#红队测试

概念-RedTeaming

Red Teaming（红队测试）是一种系统性的对抗性测试方法，通过模拟攻击者行为来评估AI系统的安全性和鲁棒性。在AI语境中，红队测试旨在发现模型可能产生有害输出、泄露敏感信息或被恶意利用的场景，从而在模型部署前识别和修复漏洞。