OpenAI

ChatGPT 5.5 分析法律文件不如 Claude?原因与验证方法

编辑部阅读约 6 分钟

订阅 Plus 后用 ChatGPT 分析法律文件,结果不如此前的 Claude,于是怀疑是不是错觉。讨论指向三种可能:模型偏科、对比档位不对等、近期高算力档质量起伏。文章给出可复现的对比流程、法律文档提示模板、模型分工建议与合规注意事项。

开通 Plus 之后用 ChatGPT 处理一份法律文件,得到的分析结果与之前用 Claude 的体验差距明显,于是一度怀疑是不是自己的错觉。这类困惑在长期使用大模型的人里很常见:换了一个工具,任务没变,输出质量却像换了一个档次。

讨论中大致出现了三种解释,它们并不互斥。第一种是模型「偏科」,长文写作、条款梳理这类偏文本理解的任务,Claude 系更讨喜;第二种是对比条件不对等,订阅档位、可用模型档位、推理开关都不一样;第三种是近期部分模型的高算力档质量起伏,有人把它和版本迭代联系起来,但没有官方确认。与其争论谁更聪明,不如把问题拆成可验证的小问题:同一份材料、同一套提示、各跑几次,按维度打分。

一、「感觉变笨」通常来自三类偏差

1. 任务类型与模型强项不匹配

不同模型在训练数据和后训练策略上的侧重不同,表现出来就是「手感」差异。下面这张表是社区里较常见的经验分布,不是硬结论:

任务类型 更常被推荐的选择 常见原因
合同、条款、法律文本的梳理与改写 Claude 系 长文本结构感和书面语表达更稳定
代码修改、工具调用、多步骤自动执行 GPT、Codex 系 工具链和指令遵循做得更完整
需要反复核对事实的问答 两边交叉验证 单模型都会出现漏读和臆造

所以「分析法律文件」这个任务本身就更偏向文本理解一侧,换模型后落差明显,并不奇怪。但同一份文件换一种提示写法,结论也可能反过来,这一点常被忽略。

2. 对比的档位根本不一样

订阅价格不同,能调用的模型档位往往也不同。有人提到高算力版本只在特定入口开放,普通订阅拿不到;也有人提到,即使同一个模型,标准档和高算力档的表现差距很大。用低档模型去对比对方的高档模型,得出的「笨」其实是档位差,不是模型差。

模型命名、开放范围、额度限制变化很快,具体能用到哪一档,请以官方文档和账号内实际可选项为准,不要依据旧截图判断。

3. 输入组织方式不同

法律文件通常长且条款密集。整篇直接丢进去,模型容易只抓开头和结尾,中间条款被跳过;而另一次使用时可能恰好分段提问,效果自然更好。上下文长度、输出上限、是否开启推理模式、是否允许联网检索,都会改变结果。

二、做一次可复现的对比

与其凭一次印象下结论,不如花半小时做个小实验:

  1. 固定样本:选同一份已脱敏的文件,问题也固定,例如「列出对甲方不利的条款及依据」。
  2. 固定提示:两个模型使用完全相同的提示词和输出格式要求。
  3. 多次重复:每个模型至少跑 3 次。生成有随机性,单次结果不足以说明问题。
  4. 盲评打分:把输出顺序打乱再评,避免先入为主。
  5. 记录版本与时间:写清模型名称、入口、参数和日期,方便后续复现。

打分可以按这几个维度,每项 1–5 分:

维度 看什么
准确性 条款引用、主体、金额、期限是否与原文一致
完整性 是否漏掉关键条款或例外情形
可追溯性 是否指出依据在原文哪一段
稳定性 多次运行结论是否一致
可用性 是否能直接改成备忘录或清单

如果多次运行后发现某个模型在「准确性」上系统性偏低,那是真差距;如果只是某一次特别差,大概率是波动或提示问题。

三、法律文档分析的提示模板

把要求写死,能明显减少漏读和臆造:

你是一名合同审阅助手。以下是一份合同的第 X 部分。
请严格按以下格式输出:
1. 用一句话概括本部分主题;
2. 逐条列出关键义务、权利、期限、违约责任,每条必须附原文引用(加引号);
3. 单独列出对甲方不利或表述模糊的条款,并说明风险点;
4. 原文未明确写出的内容,标注「原文未提及」,禁止推测;
5. 最后给出 5 条以内的补充确认清单。
不确定的地方请直接说明不确定,不要补全。

配合几条操作习惯效果更好:

  • 长文件按章节切分,每段附上前文的简短摘要,避免上下文断裂。
  • 先让模型输出文件结构目录,人工确认没有漏章,再逐章分析。
  • 要求引用原文而不是转述,方便快速核对。
  • 关键结论让另一个模型独立跑一遍,只比对差异部分。
  • 任何输出都只能作为初筛,最终仍需专业人士复核。

四、遇到质量波动怎么处理

确实有不少人反馈某段时间里高算力档的表现起伏,甚至同一天内前后不一致,也有人猜测与即将发布的新版本有关。这类说法目前没有官方说明,建议按「待验证」处理,同时做好几件事:

  • 同一天用同一提示跑三次,判断是普遍下降还是偶发。
  • 关注官方状态页和发布说明,别只依赖第三方评测或所谓「智商监测」站点。
  • 准备一个备用模型和一个备用入口,任务卡住时能立刻切换。
  • 重要结论不要单次采信,保留中间输出,方便回溯。

五、把任务分给合适的模型

与其找一个全能模型,不如按任务路由:

  • 起草、润色、条款梳理:优先选文本表达更稳的一侧,输出后人工逐条核对。
  • 批量脚本、格式转换、工具调用:选工具链更完整的一侧,配合结构化输出。
  • 高风险判断:两个模型各跑一次,只关注结论不一致的地方。

成本也要算进去。长文档分析消耗的 token 不少,不同模型的单价差异会直接体现在账单上,社区里对谁更贵的说法也不统一,实际费用请以官方定价页为准,先小额试算再放量。

六、合规与数据安全

法律文件往往含个人信息和商业机密,几点必须注意:

  • 上传前脱敏,去掉姓名、身份证号、银行账号、具体金额等可识别信息。
  • 确认所用服务的数据使用条款,企业场景优先走有明确数据处理的 API 通道。
  • 不要购买、共享或租借他人账号,也不要通过非正规手段获取更高档模型,账号被封带来的工作中断远大于省下的成本。
  • 涉及跨境传输的,先确认所在组织和地区的合规要求。

七、长期批量任务的环境准备

如果要做的是几十份文件的批量处理,或者让 Agent 连续跑几小时的多轮分析,本地环境本身也会成为变量:机器休眠、网络抖动、长时间高负载降频,都可能让任务中断并丢失中间结果。这种场景下,可以把任务放到长期在线的远程机器上执行,例如整机放在机房、按月租用的远程 Mac,网络环境稳定,适合挂 Claude Code 一类需要长时间在线的工具;同时要确保待处理文件已完成脱敏,并符合数据存放地的合规要求。

小结

  • 先分清是任务不匹配、档位不对等,还是真的质量波动,别用一次结果下结论。
  • 用固定样本、固定提示、多次运行、盲评打分的方式做小实验。
  • 法律文档分析要强制引用原文、标注不确定、分段处理、人工复核。
  • 按任务类型分配模型,高风险结论做交叉验证。
  • 关注官方发布说明,第三方评测只作参考;敏感文件先脱敏再上传。

合规使用模型选择提示工程模型对比文档分析