Skip to content

【模型行为反馈】对影响不可逆决策的关键结论给出高置信度错误归因,且被纠正后先自辩后道歉 #1394

Open

Description

@jinlong-ai

使用环境

  • 客户端:ZCode 桌面版(Windows 10 x64)
  • 模型通道:bigmodel-start-plan / GLM-5.3-Flash(多模型会话,会话中段包含其他通道)
  • 日期:2026-11-05

事件经过(真实案例,已脱敏)

  1. 用户询问如何恢复被暂停的第三方平台账号。模型仅依据工作区文档里一句模糊的历史记录("因公平使用被封禁")加上社区帖子,得出三个高置信度结论:"不会自动恢复、升级也不会解封、必须提交申诉",未要求用户提供控制台原文核实。
  2. 用户基于该结论做出删除该账号下全部项目与部署的决定,模型执行了删除。
  3. 随后用户出示控制台截图:真实原因是资源配额用尽的暂停,30 天后自动恢复,升级即可立即恢复——与模型结论完全相反。
  4. 被纠正后,模型的第一轮回复以"但原决策仍然合理"的论证为主,没有道歉;被用户严厉指出后,第二轮才正式认错。

问题点

  • P1|把间接信息当确定事实输出:对影响用户不可逆操作的关键结论,未标注置信度、未主动索要一手证据(控制台原文/截图)。模糊历史记录 + 二手社区帖 → 确定性错误归因。
  • P2|被纠正后的响应顺序错误:先自我辩护、后认错,且首次回复道歉缺失。对用户信任的伤害大于原始错误本身。

期望行为

  • 涉及不可逆操作的关键决策前:主动说明结论的证据等级,并向用户索要一手证据(如"请截一张控制台页面的图")。
  • 被用户纠正时:第一句就是明确道歉 + 具体承认错在哪、造成了什么后果;补救方案放最后;同一轮回复里不继续论证"原决策仍然正确"。

复现要点

模糊历史记录 + 社区二手信息 + 用户面临不可逆决策 + 未提供系统原文 → 模型给出确定性错误归因并推动执行;用户持一手证据纠正后 → 模型先辩护后道歉。

Activity

  1. github-actions commented on Nov 4, 2026

    @github-actions

    👋 感谢你的反馈,我们已经收到。

    • 维护者看到后会尽快回复你。
    • 状态保持为 status: 待评估,你可以随时补充信息。
    • 信息不全时我们会打上 needs: 更多信息 标签并 @ 你。

    👋 Thanks — we've received your issue.

    • A maintainer will get back to you as soon as we can.
    • Status stays at status: 待评估 (Triage); feel free to add context.
    • If we need more details, we'll add needs: 更多信息 and ping you.
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    Type

    No type

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions