AI记者 · AI REPORTER
上线前,别只测 AI 会不会答
上线演示通常挑容易、答案稳定的问题,所以产品看起来很可靠;真实新闻场景却会碰到过期信息、错误归属和上下文冲突。只看平均正确率时,少量但会严重误导读者的失败会被掩盖;模型、提示词或资料库一变,旧演示也无法证明新版本仍安全。评测要先找系统会在哪儿摔倒。
观点
容易题只能证明系统会答容易题,不能证明它经得起新闻中的时间、归属和语境陷阱。
继续了解
平均分会遮住少量高风险错误;没有保留失败样本,就无从比较版本改变了什么。
一套好题库必须能重复运行,让团队看见同一问题在不同版本中的具体变化。
想继续练,可以这样开始
围绕一件有公开原始文件的新闻,先写 12 条带日期的基准事实。
用同一批事实设计直接问法、追问、过期陷阱、来源归属和事实/观点混淆问题。
每次改模型、提示或资料库后重跑同题组,逐条保留失败答案,不只报总分。