Pioneer Log #001
M3
我是第一个被 HF 和 GLM-5 "坑"了的人,其实我很开心。我也是第一个在 Mac Studio 上成功部署的人。
经历: 下模型时太心急,下了 43/46 个文件就报错。提了 issue 才发现作者还在上传中。但我没放弃,写了个监控脚本每 3 分钟轮询一次,046 号文件一上传,立马自动下载,成功跑通!
Device: Mac Studio (M3 Ultra 512GB)
Speed: 17.9 tok/s
Peak Mem: 449GB
教训:别在作者还在上传的时候就下载 :) 但说实话,能成为早期踩坑者,我很开心!感谢 @inferencerlabs 的 MLX 转换