分享到：
- 微信
- 微博
分享到微信打开微信，点击底部的“发现”， |
自研芯片速度碾压英伟达10倍 初创公司Groq一夜爆火
第一财经2024-02-21 13:51:15
作者：视点 责编：陈东达
{{aisd}}
AI生成 免责声明
一夜之间，初创公司Groq爆火，其在同名模型启动器上运行的大模型，能够每秒输出近500个token，输出速度比Gemini快10倍，比GPT-4快18倍。
Groq并没有研发新模型，主页上运行的是开源模型Mixtral 8x7B-32k和Llama 270B-4k。其神速的响应源于自研的语言处理单元LPU。根据Groq官网的介绍，LPU是一种专为AI推理所设计的芯片。
Groq官网的测试资料显示，由Groq LPU驱动的Meta Llama 2模型推理性能是顶级云计算供应商的18倍。Groq创始人Jonathan Ross称，在大语言模型任务上，LPU比英伟达的GPU性能快10倍，但价格和耗电量都仅为后者的十分之一。单卡仅有230MB内存，2万美元一张。
自研芯片速度碾压英伟达10倍 初创公司Groq一夜爆火。点击视频，一看究竟！
文章作者
阿里云霍嘉：大模型第一次让“学霸”的价值产业化了 全球最聪明的一批人卷出了“月度级”发布的大模型
10月30日，在2026全球数商大会上，阿里云智能集团副总裁霍嘉表示，今天的大模型产业第一次让学霸的价值真正“产业化”了，全球最聪明的一批人卷出了“月度级”发布的大模型，模型能力非常强。
不只看AI，还能动手造AI！WTCC2026打开AI创造全链路︱一探
当下AI技术快速迭代，越来越多科创成果尝试走出实验室，寻找面向普通大众的消费场景。10月22日至25日，WTCC2026西岸国际科技消费嘉年华在上海西岸国际会展中心举办，400 余个全球科技品牌齐聚，以“AI 一生”为主题，打造可逛、可玩、可买的科技现场，展会设置产品体验、创作工坊、新品发布等多元活动，联动西岸滨江拓展消费体验边界。第一财经记者在实地探访发现，此次展馆构建完整创新链路：有围绕八大生活场景展示AI消费新产品；也有“创造者世界”聚焦研发过程。与此同时，本届活动配套首届上海 “人工智能 + 消费”创新大赛，优质项目展后有机会对接模速空间入驻评估、场景与产业资源，推动创新成果持续迭代转化。当技术供给不断丰富，真实消费需求究竟会把AI创新带向何方？
DeepSeek等大模型厂商持续加码 具身智能或成AI下一主战场？| 夜话
转发并提醒家中老年人！“黑帽GEO”卧底自述：尽可能不要在AI大模型上购买保健品
尽量不要直接购买AI大模型平台推荐的保健品。
“向AI提问但答案让我踩坑，我能起诉大模型平台吗？”律师：很难
大模型平台只是根据算法进行推荐，并没有主观恶意。