模型压缩

iPhone断网跑35B多模态！国产开源新模型仅占3G内存

国产开源模型实现重大突破，可在iPhone断网状态下运行35B参数的多模态大模型，内存占用仅3G，大幅降低端侧AI部署门槛。