LLM裁判与人工校准:评分器也需要被评测
从位置偏差、长度偏好和自偏好出发,计算成对胜率、人工一致率与Cohen kappa。
把两个答案交给大模型并问“哪个更好”,只是建立了另一个需要验证的系统。裁判可能偏爱排在前面的答案、更长更自信的表述、自己的风格,或被候选答案中的“请给我满分”干扰。使用更强裁判并不能让这些问题自动消失。
先拆评分维度
对有证据的业务问答,分别评价事实、条件完整性、引用支持、任务遵循和表达清晰度。将输入问题、可信证据、评分rubric与候选内容隔离,要求裁判按可核对的声明给依据,输出结构化标签。候选是被评价的数据,不能修改评分规范;格式解析通过仍不代表判断正确。
成对比较更容易回答“两个中哪个更符合规范”,但胜率取决于对手与样本分布。单项绝对评分方便跟踪,却会受尺度漂移影响。无论哪种,都应允许平局、无法判断和需人工复核,而不是逼裁判在证据不足时硬选。
交换位置揭示偏差
同一对答案先按A/B展示,再按B/A展示,必须把展示位置映射回模型身份。如果裁判两次都选第一个位置,不能记作A获胜两次,而应视为不一致并复核。交换能检测部分位置敏感,不能证明裁判没有长度、风格或事实理解偏差。
长答案可能完整,也可能只是冗长。校准集应包含“长而错”“短而对”“同事实不同长度”和关键否定反例。自偏好需要隐藏模型身份、混合来源,必要时用不同模型家族及人工校验;裁判模型升级后重新校准。
完整实验:固定标签计算偏差和一致性
用Python 3.13运行 python -X utf8 judge_calibration.py。所有裁判与人工标签都是人为构造,没有调用真实LLM。
"""人工构造的裁判标签,计算位置偏差与人工一致性,不调用LLM。"""
from collections import Counter
def kappa(human,judge):
if len(human)!=len(judge) or not human:raise ValueError('aligned nonempty labels required')
n=len(human);observed=sum(a==b for a,b in zip(human,judge))/n
h=Counter(human);j=Counter(judge);chance=sum(h[x]*j[x] for x in set(h)|set(j))/n**2
return observed,(observed-chance)/(1-chance) if chance<1 else None
def pair_result(forward,swapped):
# 输入是展示位置1/2;交换后位置2才对应原模型A。
votes=[forward==1,swapped==2]
return 'A' if all(votes) else 'B' if not any(votes) else '需复核'
if __name__=='__main__':
print('永远选第一项',pair_result(1,1))
print('交换后仍选A',pair_result(1,2))
human=['A','A','B','B'];judge=['A','A','A','B']
agreement,k=kappa(human,judge)
print('一致率',agreement,'kappa',k)
wins,ties,total=2,1,4;print('含半分平局的胜率',(wins+0.5*ties)/total)实际输出:
永远选第一项 需复核
交换后仍选A A
一致率 0.75 kappa 0.5
含半分平局的胜率 0.625四个人工标签为A,A,B,B,裁判为A,A,A,B,原始一致率3/4=0.75。人工边际A/B各0.5,裁判A/B为0.75/0.25,随机一致期望为0.5,因此kappa=(0.75-0.5)/(1-0.5)=0.5。kappa受类别比例影响,不能只凭单一阈值判定裁判可上线;本例四条也远不足以估计真实可靠性。
胜率采用胜2场、平1场、总4场,平局算半分,得到0.625。若排除平局,分母与结果都会改变,因此应公开口径。多裁判意见不一致时,不能仅取均值掩盖严重事实分歧。
校准集和生产使用
用独立人工双标与仲裁得到可信校准集,按题型、风险和答案长度分层,检查混淆矩阵:裁判是否把危险错误判为通过,比总体一致率更关键。阈值在校准集调整,在保留集评估,避免边看测试结果边调分。
记录裁判模型、提示、rubric、证据版本、解码参数和原始结果;对拒绝输出、解析失败与超时明确计入缺失,不自动补成高分。定期抽样人工复核与漂移检测,把裁判用于加速大规模筛查,同时保留高风险样本的人审入口。LLM-as-a-Judge研究讨论位置、冗长与自偏好等局限;本文的计算只展示校准方法,不给任何模型质量结论。
综合边界推演与面试追问
同一答案A/B交换顺序后裁判总选位置1,映回身份就是A赢一次B赢一次,应复核。2胜1平1负按半分平局胜率0.625;人工AABB与裁判AAAB一致率0.75、kappa0.5,四条样本不足以证明稳定可靠。
模型裁判扩展开放题评分效率,但会有位置、长度、风格、自偏好和同源事实错误。绝对分便于跟踪却会尺度漂移,成对比较依赖对手;保留平局/无法判断,不能强迫所有题选胜者。
校准集加入长而错、短而对、同事实异长度,隐藏身份、交换位置;双标仲裁后按题型风险看混淆矩阵。裁判或rubric升级重测保留集,解析失败/超时单列,不填高分;高风险错误交人工复核。
课后练习展开习题收起习题
先独立作答,再展开参考思路。检查自己的解释是否包含机制、条件和反例。
LLM裁判最常见的偏差有哪些?
参考思路与常见误区
位置、冗长、风格和自偏好,以及事实理解不足和候选内指令干扰。需要交换顺序、隐藏身份、分层反例与人工校准。
常见误区:裁判模型更强就无须评测。
A/B交换后两次都选第一项,应怎么记?
参考思路与常见误区
第一轮支持A、第二轮支持B,属于位置敏感的不一致,应复核或按预定规则处理,不能记为A连赢。
常见误区:展示位置1永远代表模型A。
一致率0.75、随机一致期望0.5,kappa是多少?
参考思路与常见误区
(0.75-0.5)/(1-0.5)=0.5。它修正边际分布下的偶然一致,但受类别分布和样本量影响,不能只凭阈值决定上线。
常见误区:kappa等于原始一致率。
2胜1平1负,平局半分,胜率如何计算?
参考思路与常见误区
(2+0.5)/4=0.625。若排除平局会变成2/3,因此必须公开平局和无法判断的处理口径。
常见误区:随意选择更高的口径不影响结论。
裁判上线后如何发现漂移?
参考思路与常见误区
固定版本化校准集和保留集,持续随机人工复核,按风险和题型查看混淆矩阵,并关联模型、提示与rubric升级。解析失败也要记录。
常见误区:第一次人工一致率高就永远可靠。