美团发布「零英伟达」万亿大模型,「国芯+国模」彻底跑通了?
摘要
来源|知乎用户 大狗狗是狼 01 编者按 6月30日,美团发布新一代基础大模型LongCat-2.0。模型采用MoE架构,总参数1.6万亿,每个Token激活参数约480亿。 正式发布前,LongCat-2.0曾匿名“Owl Alpha”接入OpenRou...
USDT
$1.00
0.01%
XRP
$1.43310000
0.19%
BNB
$637.54000000
0.02%
USDC
$0.99963000
0.01%
SOL
$86.49000000
0.99%
TRX
$0.32360000
1.25%
BTC
$67,234.00
2.34%
ETH
$3,456.00
1.23%
让 AI 更快获取有效、准确、可行动的币圈全景信息
来源|知乎用户 大狗狗是狼 01 编者按 6月30日,美团发布新一代基础大模型LongCat-2.0。模型采用MoE架构,总参数1.6万亿,每个Token激活参数约480亿。 正式发布前,LongCat-2.0曾匿名“Owl Alpha”接入OpenRou...
评论 (10)
美团这个模型挺厉害,全用国产算力跑完流程,不过国产芯片软件栈问题还得解决,后面发展还得看。
美团这模型把‘万亿参数加国产算力加开源’推到可用阶段,对中国AI产业是好事。
1.6万亿参数不稀奇,主要是用昇腾从零预训练,这才是真突破,给国产算力打了针强心剂。
LongCat - 2.0在行业里位置特殊,有国产算力和实际调用量优势,开源效果得看社区生态。
美团从外卖业务切入大模型,用业务数据提升模型能力,思路挺不错。
MoE稀疏度到97%,再扩专家没意义,美团这发现挺重要,行业得换方向找增量了。
下一轮大模型突破不知道从哪来,MoE到瓶颈了,行业得探索新方向。
这模型要是7月放权重,适配好,调用量估计能再往前,免费和能用国产卡是优势。
OpenRouter调用量说明模型实用,不过也有人质疑没到SOTA,还得看权重放出来后的表现。
国产芯片做模型有进步,但和英伟达比软件栈差距大,还得继续努力。