先确定模型要完成的任务
Langfuse官方评测文档介绍数据集和评估的组织方式。对创业者而言,更先要确定客户需要的结果:提取事实、遵守格式、引用资料还是处理某种例外。没有任务标准的比较容易只剩语言风格偏好。
固定输入,保留原始输出
选择获准使用且能代表业务的样例,包含资料不足和困难情形。比较时记录模型、配置、提示与日期,由适当人员按同一标准判断。不能边看结果边修改某一方输入,再把不同条件下的表现当成公平比较。
错误可分为事实不符、遗漏条件、格式失败与无法执行等类型,处理方式各不相同。还要记录延迟、重试和人工修正时间;一次回答质量好,不代表整体交付成本更低。
输出应是选择依据
交付样例、评分说明、失败清单及适用边界,不将小规模试测包装为行业排名。模型或业务资料变动后重看关键样例。延伸阅读:模型替换风险。