JPEG质量92：让Photoroom 7B模型运作的无聊数据工程选择

AI图片编辑初创公司Photoroom发布了其PRX模型开发博客系列的第四部分，深入、不加修饰地展示了他们如何为其开源7B扩散模型组装训练数据。这篇文章《PRX第四部分：我们的数据策略》是实用工程的大师课，作者系统地论证了每个决策在规模、算力和时间限制下的合理性。the-specialization-revolution-how-smaller-models-are-redefining-ais-future

理念：广度优于美感

PRX预训练的指导原则是深思熟虑且有些反常规的：避免过度过滤以追求美学。Photoroom认为，一个广泛、有代表性的语料库教会模型更多关于视觉世界结构的知识，即使许多单个图像是普通快照或略有压缩。“在现阶段过度过滤美学实际上会有害，会缩小分布，导致模型失去日后无法恢复的概念和构图多样性，”团队写道。微调和偏好对齐，应用于小型、严格精选的集合，则保留用于使生成结果看起来精致。why-metas-muse-spark-signals-a-strategic-pivot-in-generative-media

数据格式：Lance用于构建，MDS用于流式传输

该管道依赖两种互补的数据格式。Lance是一种支持廉价谓词下推和向量搜索的列式格式，用于构建和探索数据集。Mosaic Data Shards (MDS) 来自Mosaic Streaming库，用于分布式训练。团队发现MDS对于分布式训练低维护且高性能，但对于特征工程则较为僵化，因此采用了两层方法。一个实用的警告：“不要过度分片你的Lance表，”他们指出，并讲述了过度小的分片（每片10万行）如何使查询变慢，直到执行压缩后才恢复正常。alibaba-cloud-emr-serverless-spark-now-processes-multimodal-data-via-sql-no-python-needed

JPEG质量92：数字证明选择合理

一个值得注意的技术主张是，将训练图像存储为JPEG（质量92）相比无损PNG几乎不可感知，即使在多次重新编码循环后也是如此。在针对高分辨率（1、2百万像素）和低分辨率（0.25、0.5 MP）图像的多轮循环中，首次重新编码至质量92时，PSNR分别达到48.7 dB和45.1 dB，LPIPS分数分别为0.004和0.005。即使经过10轮循环，退化仍保持在不可感知范围内（PSNR分别为45.4和42.2 dB）。团队还训练了两个相同的PRX模型，使用相同的图像，一个存储为PNG，另一个存储为JPEG，发现生成的图像“几乎无法区分”。两者中大约每十次生成才有一次显示出可检测的量化结构，且差异很小。结论是：高质量JPEG存储并未增加任何超出来源本身可测量的内容，而PNG将大3到10倍，且没有感知上的收益。chrome-experiments-with-cross-origin-storage-api-to-eliminate-duplicate-ai-model-downloads

重新描述所有内容：速度优于指标

Photoroom使用视觉语言模型重新描述了语料库中的每一张图像，而不是依赖不一致的源描述。他们筛选了三个候选模型：Qwen2.5-VL-7B-Captioner-Relaxed、Qwen3-VL-8B和Qwen3.5-9B。在基准测试中，Qwen3.5-9B在所有三个指标（FID 10.51、CMMD 0.278、DINO-MMD 0.162）上表现最佳，Qwen3-VL-8B在FID（10.98）和DINO-MMD（0.182）上紧随其后。然而，团队选择了Qwen3-VL-8B，因为它是最快的（每块H200 GPU每秒20张图像），并且具有稳定、发布级的vLLM支持。Qwen3.5-9B尽管生成描述出色，但运行速度仅约为每秒6.5张图像，并且当时需要不稳定的夜间依赖项构建。文章承认，Qwen2.5-VL“Relaxed”描述器在修复一个错误后实际上也能达到20张/秒，但这后来才被意识到。alibabas-qwen-readies-its-next-leap-a-35b-agent-world-model-and-the-quiet-expansion-of-the-qwen3-family

过滤与去重：轻量且可逆

团队使用仅文本模式的Qwen3-8B构建了一个轻量级分类流程，该模型读取每个描述，将样本标记为“视觉”、“文本”或“nsfw”。从描述而非像素进行分类成本低廉，每块GPU每秒约200个描述，且复用了已完成的工作。对于去重，他们使用了标准的基于DCT的感知哈希。仅去除精确的像素级重复（汉明距离为零）。同一主体的不同真实镜头得以保留。所有被过滤掉和重复的样本通过每分片跳过列表处理，这是一种灵活的机制，也支持用户选择退出而无需重写数据集。唯一的警告是：一旦跳过的部分超过约10%，就值得重写数据集。microsofts-bet-on-small-models-for-agentic-ai-is-about-orchestration-not-knowledge

局外人的启示

Photoroom的数据策略并非来自大型实验室的成果。这是一家初创公司在Apache 2.0许可下开源了7B文本到图像模型，所采取的审慎、迭代的方法。这些决策, , JPEG优于PNG、最快的描述器优于最佳指标、跳过列表优于重写, , 都是为了以完美换取速度。这篇文章罕见地揭示了支撑现代扩散模型的真实、不光彩的数据工程。该系列承诺未来将更新关于微调和偏好对齐的内容，届时权衡将从广度转向质量。the-math-says-general-ai-is-a-myth-biology-markets-and-machine-learning-all-agree