BoostIO分布式缓存加速

概述

在存算分离架构下，BoostIO利用计算侧的内存和磁盘资源构建分布式多级缓存，写缓存通过RDMA高速通信、缓存亲和策略、副本冗余和线性布局等特性提升业务写性能，提高数据可靠性；读缓存通过数据预取提前将热点数据加载到缓存磁盘中，通过LRU淘汰策略和冷热识别提高读缓存命中率，从而提升业务读性能。

技术原理

图1 BoostIO框架

预期效果

AI大模型应用CheckPoint场景和数据集加载场景，大块读写提升300%+。