国内服务器签发免费证书反复超时
ACME 接口时通时不通,问题从来不在配置里。
大模型原理、推理优化、开源项目评测与选型。不追热点,只把读过、跑过、想明白的东西写成能复用的分析。
按时间倒序,分析、实验和工程记录都在这里。
ACME 接口时通时不通,问题从来不在配置里。
文本正常、带图就失败,卡的是传输层的字节数。
从 Q/K/V 到多头,用最小例子把 self-attention 算一遍。
同一模型三种精度跑同一批任务,看速度、显存和输出差异。
基准测试的局限、数据泄漏,以及自己搭一套小评测的方法。
切片、embedding、重排各调了一轮之后,结论有点反直觉。
五个方向,按笔记数量排。都是读过、跑过之后才写的。
没有更新计划,也不追热点。一个新论文、一次新实验想明白了,就会多一篇。