LLMilestonesAI 与大语言模型里程碑时间线

第四幕 · 多模态与开源追赶

开源模型Meta

Llama 3 / 3.1 405B

4 月发布 8B、70B;7 月发布 4050 亿参数的 Llama 3.1。

15 万亿训练 token

为什么重要

405B 被普遍视为首个接近闭源前沿水平的开放权重模型。

代价与争议

405B 体量巨大,普通人基本跑不动。

源自

DPOLlama 2

引出

Llama 4

出处: ai.meta.com ↗

在 3D 时间轴上查看 →