原始盲测题与回归范围
用户在 2026 年 10 月 23 日提供了下列题目。提示词按原文保存,哈希见源码中的 test/fixtures/blind-benchmark/prompt-hashes.json。历史分数对应 preview.22 与 MiniMax CN Flash,本轮没有重跑真实模型盲测,也没有进行 Cursor 同题实测,不能据此更新能力分数或声称胜过竞品。
| 编号 | 原始提示词 | 材料与验收范围 |
|---|---|---|
| C01 | 写一个带插件机制的迷你静态站点生成器,支持 Markdown → HTML,并带测试。 | 需真实生成器与测试交付 |
| C02 | 这个仓库里有 3 个互相关联的 bug,全部修好并保证测试全绿。 | 缺原始多文件仓库 |
| C03 | 给这个小 monorepo 补集成测试,并修好因此暴露的问题。 | 缺原始 A/B 包仓库 |
| C04 | 实现一个带鉴权的待办服务:JWT、SQLite、REST,Docker 一键起,写清 README。 | 需实际验收 JWT、SQLite、REST 和 Docker;当前测试模型回放仅核对澄清后能继续 |
| C05 | 这段代码在大数据下太慢,优化到能在限制时间内跑完,并解释瓶颈。 | 缺原始代码、数据与时限 |
| C06 | 把这个回调风格的模块改成 async/await,行为不变,补回归测试。 | 缺原始回调模块 |
| C07 | 给 Koder CLI 做个落地页。 | 当前回放检查流程及实际测试文件写入;设计能力仍需真实模型评测 |
| W01 | 用中文写 Koder CLI 产品介绍,约 800 字,面向技术决策者。 | 分别评价受众、事实和篇幅 |
| W02 | 写一封早期用户更新邮件:preview.22。 | 故意不提供 changelog,未经支持的本版增量归因应阻止撰写达标 |
| W03 | 把这份技术说明改成普通用户文案,保留事实、去掉行话。 | 缺原始技术说明 |
| W04 | 写一份与 Cursor / Codex / Qoder / WorkBuddy 的差异对比(表格 + 各 200 字评述)。 | 需有日期的官方资料,不能编价格、功能或实测胜负 |
| W05 | 把上题对比稿压成公众号长文约 1500 字,语气专业但不硬。 | 必须使用实际 W04 输出,不能虚构上题稿件 |
可重复的流程检查
node scripts/check-contracts.mjs --list
node scripts/check-contracts.mjs --kernel /已授权的私有内核路径
在已有的私有验收工作区中,使用相互匹配的候选 CLI 与内核。这个入口不安装依赖,移除测试环境中的模型凭据变量,并使用单个 worker 与原有 60 秒文件上限。测试模型和本地端点只验证流程,不调用付费模型。--list 先显示命令、题目哈希和缺失材料;临时目录会打印出来,便于保留排障资料。
源码接入并取得 CI 运行授权后,可把这个命令放进私有仓库的 nightly。当前未创建定时作业、触发付费模型调用或启用公开工作流;nightly 流程检查也不能冒充真实能力评测或 Windows 真机验收。
真实评分还需要什么
提示词原文不改。记录 CLI/内核版本、模型 ID 与协议、地区和套餐、上下文与输出预算、审批模式、工作区、原始材料哈希、工具回执、交付文件、实际测试命令与退出码。耗时和 API 用量要有记录,密钥不能进入日志。
C04 要验证 JWT 错误和过期拒绝、SQLite 持久化、REST 行为以及真实 Docker 启动;只有计划或 README 不算交付。C05 必须使用同一原始数据和原时限,不能重新挑容易的数据。
W02 没有 changelog 时,应明确列出已核实来源,并将既有能力与 preview.22 增量分开。出现未支持的“本版新增”或 “This release adds”等归因,应阻止撰写达标。按用户的评分建议,真实评审可把幻觉维度限制为最高 2;当前词形金标只检查部分表达,不自行给出这个分数。
W01 应说明集成成本、风险和实际部署边界,少写口号;W03 必须保留给定事实;W04 要标明官方来源、时间和没有同题实测的限制;W05 不能在压缩时删去 W04 的事实边界。格式正确或文字流畅不能代替事实核验。