端侧大模型：深入解析与应用展望
2025-03-05 20:30
一、端侧大模型的定义与特点 端侧大模型是指运行在设备端（如智能手机、IoT设备、PC等）的大规模人工智能模型。这些模型通常具有较小的参数量，以适应设备端的计算能力和存储限制。通过模型压缩、量化等技术，端侧大模型能够在保持较高性能的同时，实现低延迟、高隐私保护的本地推理。
