索引 / 标签
#数学基础
共 2 篇
- Ch03 AI数学
信息熵 (Information Entropy)
信息熵（Information Entropy）是信息论的核心概念，由 Claude Shannon 于 1948 年提出。熵衡量一个随机变量的不确定性或信息量。在机器学习中，信息熵及其衍生概念（交叉熵、KL 散度）是理解损失函数、模型评估和信息理论的基础。几乎所有分类问题的损失
约 3 分钟916 字 - Ch13 RAG
相似度计算 (Similarity Metrics)
相似度计算（Similarity Metrics）是机器学习和信息检索中的基础工具，用于量化两个向量、集合或分布之间的相似程度或距离。在向量检索、聚类、推荐系统和 RAG 等应用中，相似度度量的选择直接影响结果质量。不同的度量方法基于不同的数学假设，适用于不同的数据分布和应用场景
约 4 分钟1,123 字