2026年10月23日，OpenAI发布Habitat在线存储平台工程文章第二部分。公司披露，通过区域缓存、关键数据复制及Rust服务改写，平台全球读取请求的p50延迟从约120毫秒降至约10毫秒。
这是存储指标，不是回答速度
p50即中位数：约一半读取请求的耗时处于该值以内。它衡量Habitat的数据访问，不能解读为ChatGPT生成完整回答快了12倍，也不是对每位用户响应时间的承诺。
背后的工程取舍
Habitat为OpenAI产品提供数据接入。9月11日的第一篇文章介绍了它从Python客户端库向统一服务演进的过程，10月23日的续篇侧重底层存储与全球部署。
续篇介绍了共享Azure Cosmos DB容器、热点限流、请求优先级，以及与Azure团队共同运维的做法；这些措施用于协调资源利用与关键请求隔离。文中提及的自研EB级存储仍在开发，不能写成已全面部署。
对AI工具使用者的参考
看待AI产品的“提速”消息，需要先确认测量对象：数据库访问、首字输出、完整生成和端到端任务，是不同指标。基础设施改进可能帮助改善体验，但单个中位数不能替代完整场景的表现。这是本文根据工程说明作出的阅读建议。
消息日期：2026年10月23日；整理日期：2026年10月25日。本次为工程实践披露，未宣布新的模型、套餐或地区开放。
原始来源
© 版权声明
文章版权归作者所有，未经允许请勿转载。
相关文章
暂无评论...