模型量化:把大模型塞进手机里发生了什么 2026-05-20 人工智能 0 评 问题一个 70 亿参数(7B)的模型,如果用 FP16(半精度浮点,每参数 2 字节)存储,仅权重就需要约 14GB 显存。普通手机根本没…