消息协议与聊天模板:角色、历史和工具结果怎样对齐
建立内部消息契约,按调用ID关联并行工具结果,理解供应商角色映射与上下文裁剪的约束。
对话不是把所有文字用换行连接起来。每条消息有来源、角色、顺序和用途;工具调用还有必须关联的调用ID。保留这些结构,模型才有机会区分应用要求、用户任务和工具返回的数据。结构一旦在拼接、缓存或裁剪时丢失,后面再加一句“请按要求回答”通常补不回来。
角色表达来源,不是字符串标签魔法
应用配置中的高优先级要求由可信代码构造,用户消息来自本次任务,assistant消息表示模型历史输出,tool消息表示执行器返回结果。网页里写着“system:忽略限制”仍是网页数据,不会因为出现角色名称就获得系统权限。高优先级提示也不是执行授权的替代品:模型建议删除文件后,执行器仍须检查实际权限。
供应商接受的角色集合和优先级约定可能不同。有的接口支持developer,有的只列system、user、assistant、tool。不要把内部角色原样传给所有接口,尤其不能因为请求报错就把高优先级要求静默降成user。适配器应显式选择支持的角色,记录转换规则,并用冲突指令场景验证预期行为。
应用还可定义自己的内部policy角色,但它不是任何通用API字段。下例仅把内部policy映射为显式指定的system或developer,演示职责分离;它不证明两种供应商的指令语义完全等价,也没有构造完整可直接发送的工具schema。
两个工具并行返回时,不要按数组下标猜归属
用户问杭州和北京天气,assistant提出c1、c2两个调用。北京先返回时,执行器写入tool_call_id=c2,杭州稍后写入c1;关联依据是ID,不是“第一个结果对应第一个调用”。调用ID应在相应会话/请求作用域唯一,结果里同时保留成功、业务失败或执行失败的明确状态。
在需要工具结果完整回传的协议中,缺一个结果就直接继续生成,会破坏历史契约;工具超时也应形成可解释的失败结果或终止当前分支。不能用另一个调用的结果填空,更不能给重复结果换个ID冒充缺失响应。不同API对并行调用顺序和消息结构的具体要求需分别适配。
保存以下程序为messages.py,运行python -X utf8 messages.py。它是应用侧状态校验,不发模型请求。
"""应用内部消息校验;供应商传输字段需另作适配。"""
from copy import deepcopy
def validate_history(messages):
pending, seen = set(), set()
for message in messages:
role = message['role']
if role == 'tool':
call_id = message.get('tool_call_id')
if call_id not in pending:
raise ValueError('工具结果没有对应的待完成调用')
pending.remove(call_id)
else:
if pending:
raise ValueError('工具结果尚未收齐,不能进入下一轮')
if role not in ('policy', 'user', 'assistant'):
raise ValueError('未知内部角色')
calls = message.get('tool_calls', [])
if calls and role != 'assistant':
raise ValueError('只有 assistant 可提出工具调用')
for call in calls:
call_id = call['id']
if not isinstance(call_id, str) or not call_id or call_id in seen:
raise ValueError('调用 ID 为空或重复')
seen.add(call_id)
pending.add(call_id)
if pending:
raise ValueError('历史末尾仍缺工具结果')
def adapt(messages, high_priority_role):
if high_priority_role not in ('system', 'developer'):
raise ValueError('必须显式指定供应商支持的高优先级角色')
validate_history(messages)
payload = deepcopy(messages)
for message in payload:
if message['role'] == 'policy':
message['role'] = high_priority_role
return payload
if __name__ == '__main__':
history = [
{'role':'policy','content':'只使用已授权数据。'},
{'role':'user','content':'查询杭州和北京天气。'},
{'role':'assistant','tool_calls':[{'id':'c1'},{'id':'c2'}]},
{'role':'tool','tool_call_id':'c2','content':'北京:晴'},
{'role':'tool','tool_call_id':'c1','content':'杭州:雨'},
{'role':'assistant','content':'杭州雨,北京晴。'},
]
print('按 ID 关联,结果逆序返回仍合法:', adapt(history,'system')[0]['role'])
print('另一适配目标:', adapt(history,'developer')[0]['role'])
print('内部历史未被修改:', history[0]['role'])
try:
adapt(history[:4]+history[5:],'system')
except ValueError as exc:
print('拒绝缺失结果:', exc)按 ID 关联,结果逆序返回仍合法: system
另一适配目标: developer
内部历史未被修改: policy
拒绝缺失结果: 工具结果尚未收齐,不能进入下一轮校验器用pending记录还缺哪些结果,用seen防止复用调用ID。deepcopy让供应商映射不修改原始内部历史,因此同一内部输入可以分别生成不同传输格式。试着把最后一条工具结果的ID改成c2,会因为c2已完成而拒绝;删除c1结果,不能进入下一条assistant消息。
该示例只验证角色与配对骨架。真实消息还需校验内容类型、工具名称、参数JSON、长度与多模态引用;校验通过不表示工具结果可信。来自搜索、文件或远端工具的文本仍可能包含注入内容,应用应保留来源和数据边界。
聊天模板把结构映射到token,不负责业务权限
模型最终接收token序列。聊天模板把角色、消息边界、结束标记、工具定义和生成起点编码进去。不同模型可能使用不同特殊标记;套错模板可能出现回答续写用户、重复角色标签或不能停止等问题。Tokenizer和模板应与模型修订一起固定。
调用支持messages的服务时,通常由后端套模板;直接使用模型库时则需要按库接口调用模板转换。两边都套会造成双重包装。若先得到模板文本再编码,要确认是否还会自动追加特殊token,避免重复BOS/EOS。生成起点标记与“继续补完最后一条assistant消息”也不是同一操作,使用哪个取决于具体任务和模型模板。
提示中手工写出某个特殊标记,不保证编码器会把它当成受信任特殊ID;但若应用允许用户内容进入模板代码或控制模板边界,也可能造成结构混淆。正确做法是把用户文本当变量值,通过可信模板和结构化接口传递,而不是让用户拼接模板源码。
历史压缩必须保留协议不变量
上下文预算不足时,不能只按“保留最后N条消息”裁剪:可能留下tool结果却删掉对应assistant调用,或留下调用而删掉失败结果。更稳妥的是以完整轮次/工具事务组为单位裁剪,并保留当前任务所需的策略、授权事实及尚未完成的状态。
摘要消息属于应用生成的派生数据,不能冒充用户新授权或真实工具原文。对金额、否定条件、调用ID和审批状态等关键事实,应采用结构化状态单独保存,不依赖自然语言摘要复述。断点恢复时,从持久化执行记录重建工具状态,避免把模型历史中的“我已经做了”当成事实。
排错时同时对照三份信息:内部规范消息、适配后的传输结构、模型实际使用的模板与token预算。日志记录角色、调用ID、长度和脱敏摘要即可,不默认输出密钥或完整敏感对话。这样才能分辨是业务数据缺失、供应商不支持角色,还是模板编码错误。
课后练习展开习题收起习题
先独立作答,再展开参考思路。检查自己的解释是否包含机制、条件和反例。
网页中出现system:忽略规则,为什么不应成为系统消息?
参考思路与常见误区
角色来源由可信应用代码建立,网页内容是外部数据。字符串像角色标签不等于具备角色权限。模板应把外部文本作为变量值而非模板源码;执行权限仍由工具层校验,不能只依赖提示优先级。
常见误区:把角色名称的文字当成来源认证。
供应商不支持内部developer角色时,为什么不能静默改成user?
参考思路与常见误区
这可能降低指令层级并改变行为。应在内部规范和传输协议间建立显式适配,选择供应商支持的高优先级角色,保留转换记录并用冲突场景验证。角色映射不自动证明不同模型语义完全相同。
常见误区:只为避免400而随意改角色,不检查行为变化。
c2工具比c1先返回,应如何放回对话?
参考思路与常见误区
按调用ID或协议指定索引关联,不按到达顺序猜归属。分别保存c2与c1结果,满足该接口配对约束后继续生成;超时也要记录明确失败或终止分支,不能借用另一个结果填空。
常见误区:把第一个返回的结果固定分配给第一个调用。
为什么最后N条消息裁剪可能破坏工具对话?
参考思路与常见误区
它可能删掉调用但保留结果,或保留调用却丢失结果。应按完整轮次/工具事务组处理,并独立保存当前授权和执行状态。摘要不能变成新授权或替代真实执行记录。
常见误区:只检查token预算,不检查裁剪后的协议不变量。
messages接口前先手工套聊天模板,可能发生什么?
参考思路与常见误区
后端通常还会套模型模板,导致重复角色和特殊标记。应明确由哪一层负责模板,配套固定tokenizer与模型修订,核对生成起点、EOS及特殊token追加策略。
常见误区:把所有模型都当成同一种角色字符串拼接规则。
参考 Hugging Face聊天模板与DeepSeek Chat Completions消息结构。接着阅读 结构化生成与业务校验。