索引 / 标签

#提示词注入

共 2 篇

2026.06.30Ch11 模型微调
AI 安全基础
当你让 AI 帮你做事的时候，有没有想过：如果有人故意骗 AI，让它做不该做的事，怎么办？这篇讲 AI 最常见的安全问题和防护方法。
约 3 分钟898 字
- #安全
- #提示词注入
2026.06.30Ch15 Agent通信协议
提示词注入攻防（深挖）
概念-AI安全基础介绍了提示词注入的基本概念。这篇深入具体的攻击手法和防御措施——知道怎么攻，才知道怎么守。攻击手法 1. 直接注入最粗暴的方式——直接命令 AI 忽略系统提示词。 2023 年初这种方法有效。2024 年后，主流 AI 都在系统提示词层面做了防护——明确写
约 3 分钟1,048 字
- #安全
- #提示词注入