评测大模型别只看榜单：我给它出的 30 道“小考卷”
榜单像体检报告的平均分，真正重要的是：你的业务里它会在哪些题上失手。
大模型
共 5 篇文章
推理服务别只盯模型：我踩坑后总结的三件小事
用户觉得“模型不稳定”，很多时候是网关、队列、超时策略在暗地里打架。
微调？RAG？还是提示词？我用一张“决策树”把自己救了
别一上来就想着“训练一个更懂我的模型”。很多时候，你缺的不是更聪明的模型，而是更清楚的需求。
同一句话第二次更快：我终于把 KV Cache 想明白了
KV Cache 听起来像黑魔法，其实它更像“你翻过的页不需要再翻一次”。
上下文窗口这事儿：我怎么让大模型“别忘太快”
我以前总以为模型“记性差”，后来才发现：很多遗忘是我自己喂的内容太乱。