分享到：
- 微信
- 微博
分享到微信打开微信，点击底部的“发现”， |
华泰证券：关注AI大模型在终端侧的轻量化应用
第一财经 2023-04-17 07:59:17
责编：张骁
华泰证券研报表示，模型压缩技术是实现AI大模型在边/端部署的核心技术。当前，谷歌、微软、腾讯等厂商在该领域均有布局，将加速AI技术与智能终端融合，国内SoC设计公司有望深度受益。模型压缩技术可在保有大模型原有性能和精度基本不变前提下降低对推理算力的需求：1）量化：将浮点计算转成低比特定点计算；2）网络剪枝：去除神经网络中冗余的通道、神经元节点等；3）知识蒸馏：将大模型作为教师模型，用其输出训练性能接近、结构更简的学生模型。
举报
相关阅读
逆水寒打造“零门槛”非遗体验场景，开启文化传承轻量化时代
AI进化速递丨国产AI大模型“AI孙悟空”亮相大阪世博会
国产AI大模型“AI孙悟空”亮相大阪世博会；字节跳动正计划推出自家的AI智能眼镜；贝瑞基因GENOisi™智能体正式发布。
8个大模型，30个应用场景，13款智能终端……广东一大波AI产品扎堆上新
在安全领域，深信服安全大模型可24小时不间断工作，将需要多次手动操作的安全运营工作量减少了92%。
AI进化速递丨“本源悟空”全球首次运行十亿参数级AI大模型微调任务
“本源悟空”全球首次运行十亿参数级AI大模型微调任务；Kimi开放平台：下调模型推理服务和上下文缓存价格。
AI大模型智能体正全面重构人类教育
AI工具的迭代速度将持续快速推动学习变革，而传统教育体系若不加速改革，可能被加速边缘化。学生和家长会越来越多地基于AI的建议，来选择最适合的学习资源和路径，学校将逐渐从知识的垄断者变为学习的支持者，主动权转移将推动教育更加以学生为中心。
一财最热