索引 / 标签
#安全
共 5 篇
- Ch04 机器学习
异常检测 (Anomaly Detection)
异常检测（Anomaly Detection / Outlier Detection）是机器学习中的一项核心技术，目标是识别数据中不符合预期模式、行为异常的样本。这些异常样本可能代表欺诈交易、系统故障、网络攻击、医疗异常或罕见事件。异常检测广泛应用于金融风控、工业运维、网络安全、
约 4 分钟1,123 字 - Ch11 模型微调
- Ch11 模型微调
- Ch15 Agent通信协议
Agent 安全与沙箱（深挖）
深挖-注入攻防 讲了怎么防 AI 被"骗"。但 Agent 还有一层更大的安全问题：AI 能执行代码、能读写文件、能调用 API。如果它被控制了，后果不只是"说了不该说的话"，而是"做了不该做的事"。
约 3 分钟879 字 - Ch15 Agent通信协议
提示词注入攻防（深挖）
概念-AI安全基础 介绍了提示词注入的基本概念。这篇深入具体的攻击手法和防御措施——知道怎么攻，才知道怎么守。 攻击手法 1. 直接注入 最粗暴的方式——直接命令 AI 忽略系统提示词。 2023 年初这种方法有效。2024 年后，主流 AI 都在系统提示词层面做了防护——明确写
约 3 分钟1,048 字