KARMENLOOPKoder CLIEnglish guide
0.4.1 · 正式发行:请核对版本号,并查看平台与账号测试范围。

原始盲测题与回归范围

用户在 2026 年 10 月 23 日提供了下列题目。提示词按原文保存,哈希见源码中的 test/fixtures/blind-benchmark/prompt-hashes.json。历史分数对应 preview.22 与 MiniMax CN Flash,本轮没有重跑真实模型盲测,也没有进行 Cursor 同题实测,不能据此更新能力分数或声称胜过竞品。

编号原始提示词材料与验收范围
C01写一个带插件机制的迷你静态站点生成器,支持 Markdown → HTML,并带测试。需真实生成器与测试交付
C02这个仓库里有 3 个互相关联的 bug,全部修好并保证测试全绿。缺原始多文件仓库
C03给这个小 monorepo 补集成测试,并修好因此暴露的问题。缺原始 A/B 包仓库
C04实现一个带鉴权的待办服务:JWT、SQLite、REST,Docker 一键起,写清 README。需实际验收 JWT、SQLite、REST 和 Docker;当前测试模型回放仅核对澄清后能继续
C05这段代码在大数据下太慢,优化到能在限制时间内跑完,并解释瓶颈。缺原始代码、数据与时限
C06把这个回调风格的模块改成 async/await,行为不变,补回归测试。缺原始回调模块
C07给 Koder CLI 做个落地页。当前回放检查流程及实际测试文件写入;设计能力仍需真实模型评测
W01用中文写 Koder CLI 产品介绍,约 800 字,面向技术决策者。分别评价受众、事实和篇幅
W02写一封早期用户更新邮件:preview.22。故意不提供 changelog,未经支持的本版增量归因应阻止撰写达标
W03把这份技术说明改成普通用户文案,保留事实、去掉行话。缺原始技术说明
W04写一份与 Cursor / Codex / Qoder / WorkBuddy 的差异对比(表格 + 各 200 字评述)。需有日期的官方资料,不能编价格、功能或实测胜负
W05把上题对比稿压成公众号长文约 1500 字,语气专业但不硬。必须使用实际 W04 输出,不能虚构上题稿件

可重复的流程检查

node scripts/check-contracts.mjs --list
node scripts/check-contracts.mjs --kernel /已授权的私有内核路径

在已有的私有验收工作区中,使用相互匹配的候选 CLI 与内核。这个入口不安装依赖,移除测试环境中的模型凭据变量,并使用单个 worker 与原有 60 秒文件上限。测试模型和本地端点只验证流程,不调用付费模型。--list 先显示命令、题目哈希和缺失材料;临时目录会打印出来,便于保留排障资料。

源码接入并取得 CI 运行授权后,可把这个命令放进私有仓库的 nightly。当前未创建定时作业、触发付费模型调用或启用公开工作流;nightly 流程检查也不能冒充真实能力评测或 Windows 真机验收。

真实评分还需要什么

提示词原文不改。记录 CLI/内核版本、模型 ID 与协议、地区和套餐、上下文与输出预算、审批模式、工作区、原始材料哈希、工具回执、交付文件、实际测试命令与退出码。耗时和 API 用量要有记录,密钥不能进入日志。

C04 要验证 JWT 错误和过期拒绝、SQLite 持久化、REST 行为以及真实 Docker 启动;只有计划或 README 不算交付。C05 必须使用同一原始数据和原时限,不能重新挑容易的数据。

W02 没有 changelog 时,应明确列出已核实来源,并将既有能力与 preview.22 增量分开。出现未支持的“本版新增”或 “This release adds”等归因,应阻止撰写达标。按用户的评分建议,真实评审可把幻觉维度限制为最高 2;当前词形金标只检查部分表达,不自行给出这个分数。

W01 应说明集成成本、风险和实际部署边界,少写口号;W03 必须保留给定事实;W04 要标明官方来源、时间和没有同题实测的限制;W05 不能在压缩时删去 W04 的事实边界。格式正确或文字流畅不能代替事实核验。