Ai2通过更智能的令牌技巧将卫星图像AI成本降低3倍

艾伦人工智能研究所（Ai2）推出了OlmoEarth v1.1，这是一个经过改进的遥感模型系列，将计算成本削减了多达三倍，同时保持了与原始OlmoEarth v1相当的性能。这项更新在一份技术报告中进行了阐述，专注于卫星图像令牌的生成方式，解决了困扰基于Transformer模型的二次扩展问题。ai2-releases-olmo-eval-an-open-evaluation-workbench-for-active-llm-development

通过令牌重新设计实现效率提升

当你处理覆盖数万到数十万平方公里的卫星图像时，计算是整个生命周期中最大的成本项目，从数据导出、预处理到推理和后处理。由于OlmoEarth模型基于Transformer，计算成本随令牌序列长度呈二次增长。这意味着即使令牌数量的微小减少也能显著降低开支。kog-laneformer-2b-the-latency-first-model-that-redefines-small-scale-inference

对于常见的Sentinel-2图像，单个图像表示为一个张量，包含高度（H）、宽度（W）、时间维度（T）和12个光谱通道。原始OlmoEarth v1将数据分割成大小为p x p的空间块，然后为每个时间步和每个分辨率（10米、20米和60米）创建一个令牌。这意味着一个包含2个时间步的Sentinel-2输入会产生每个块6个令牌（2个时间步 × 3个分辨率）。

OlmoEarth v1.1将这三个特定于分辨率的令牌合并为一个每个块每个时间步的令牌，从而将令牌数量减少三倍。“由于令牌数量是复合倍增的，将分辨率合并为一个令牌可以在预训练、微调和推理中产生三倍少的令牌和实质性节省，”Ai2团队写道。fast-lewm-parallel-action-prefix-prediction-slashes-latent-world-model-planning-costs

然而，这并非一个简单的修复。简单地合并令牌导致了显著的性能下降，包括在m-eurosat kNN基准测试中下降了10个百分点。研究人员怀疑，将Sentinel-2波段分离到不同的令牌中，使得模型更容易学习重要的跨波段关系。为了解决这个问题，他们调整了预训练方案，相关变化在随附的论文中进行了详细说明。

对开发者和研究人员的影响

对于开发者来说，OlmoEarth v1.1的运行成本比v1低三倍，使得频繁的、行星规模的地图更新变得更加经济实惠。新的模型系列包括Base、Tiny和Nano三种尺寸。Ai2指出，虽然OlmoEarth v1.1以三分之一的计算成本提供了与v1相似的性能，但已经发现了一些性能退化，技术报告中有完整的详细说明。

对于研究人员来说，这次更新提供了一个清晰的先后对比。“我们在与OlmoEarth v1相同的数据集上训练OlmoEarth v1.1，因此两者之间的任何差异都隔离了方法变化的影响，”团队写道。这为研究人员提供了一个清晰的视角，了解令牌化和预训练变化如何影响遥感性能。microsoft-research-introduces-generative-causal-testing-to-turn-black-box-ai-brain-models-into-readable-theories

背景与使命

Ai2于2025年11月发布了OlmoEarth v1。自那以来，合作伙伴已使用该模型追踪红树林变化、分类森林丧失的驱动因素，并在数天内生成全国范围的作物类型地图。每一次发布都使研究所更接近其使命：将最先进的AI交到致力于保护地球的组织手中。open-by-design-ai2-brings-fully-open-ai-infrastructure-online-with-nsf-omai

OlmoEarth v1.1的权重和训练代码现已可在项目网站上获取。