eval-dataset

评估数据集：从真实查询采样、分层、标注到版本化和防污染

补充说明

评估集决定你能否相信模型/提示词/RAG 的改进。好的评估集来自真实用户查询，覆盖不同意图、难度、语言和边界案例，并有明确的参考答案或评分 rubric。它要版本化、防训练污染、定期更新，不能只用几个手写样例或模型自己生成的题目。

构建流程：收集真实查询 → 脱敏/去重 → 分层采样 → 标注答案/ rubric → 划分 dev/holdout → 版本化 → 定期复审。高风险场景还要加入负样本（应该拒答/转人工）和安全用例。

常用示例

# 分层采样：按意图、难度、语言、场景分配配额
strata = {
    "billing": 100, "technical": 150, "account": 80,
    "zh": 200, "en": 130, "edge_case": 60,
}
# 从真实日志采样，脱敏后人工标注；保留 holdout 不参与调参

# 用 Label Studio 标注问题和参考答案
# 导出 JSONL：{"question": "...", "reference": "...", "intent": "...",
#              "difficulty": "easy|medium|hard", "should_refuse": false}

# 防污染检查：评估问题是否出现在训练数据/知识库中
def is_contaminated(question, train_texts, threshold=0.9):
    qv = embed(question)
    return any(cosine(qv, embed(t)) > threshold for t in train_texts)

评估集清单：
- 来源：真实日志/工单/客服对话，脱敏
- 规模：至少几百条，关键场景有足够样本
- 分层：意图、难度、语言、租户、边界/负样本
- 标注：参考答案或 rubric、标注者一致性
- 版本：DVC/对象存储，记录日期和变更
- 防污染：holdout 不公开、不与训练集重叠

易错点与排错

• 只用模型生成题目：题目风格和模型能力同源，评估会虚高；以真实查询为主。
• 训练/评估重叠：评估问题出现在训练数据或知识库中，分数虚高；做去重和污染检查。
• 只覆盖简单案例：评估集太简单，无法区分改进；加入难例、边界和负样本。
• 样本太小：几十条无法支撑结论；关键场景要统计功效分析。
• 标注不一致：多个标注者没有校准；计算一致性，分歧样本讨论定稿。
• 评估集过期：业务/产品/模型变化后题目失效；定期复审和补充。
• 隐私问题：真实日志含个人信息；脱敏、授权、限制访问。
• 公开评估集被污染：公开后可能进入训练数据；保留私有 holdout。

相关命令

• label-studio — 数据标注平台。
• dvc — 数据集版本管理。
• lm-eval — 标准评测执行。
• promptfoo — 用例回归。
• regression-testing — 评估集纳入 CI。

参考链接

• Hugging Face 评估指南
• OpenAI Evals
• NIST AI 风险管理框架

读完自测

合上页面，先回答，再展开对照。

1. 为什么评估集要以真实用户查询为主，而不是模型生成题目？
2. 什么是评估集污染？怎样检查？
3. 评估集为什么要分层和保留 holdout？