LLMilestonesAI 与大语言模型里程碑时间线

第四幕 · 多模态与开源追赶

闭源模型Google

Gemini 1.5:百万上下文

一次能读入约 70 万个英文单词、约 1 小时的视频或 3 万多行代码。

100 万token 上下文

为什么重要

把上下文长度从“几页纸”拉到“一整个图书馆”,改变了人们使用模型的方式。

代价与争议

100 万 token 起初只在受限预览中开放,默认窗口为 12.8 万;同一天 OpenAI 发布 Sora,风头被抢走大半。

源自

Gemini 1.0

出处: blog.google ↗

在 3D 时间轴上查看 →