有史以来功能最强大的 MinIO 版本--AIStor 介绍
今天,我们宣布推出 AIStor,这是一个新版本,它代表了我们专注于为 AI/ML 工作负载构建世界上最好的对象存储。AIStor 代表了我们最大客户一年的加速学习。MinIO 的运营水平与行业其他公司不同。我们有多个客户端的 PiB 超过 100 PiB,有些客户端的 PiB 超过 1 EiB。你大规模经历的挑战不是你可以预测的 - 你必须经历它。如果您没有合适的架构作为起点,您将永远无法克服这些挑战。这方面的示例包括我们为 Intel、AMD 和 Arm 所做的芯片组优化。其他示例包括我们决定将元数据与对象一起原子存储。第三方元数据数据库确实会大规模内爆。您还可以高效、基于 Go 的纠删码、位腐保护和加密实施。MinIO 选择投资这些 AI 工作负载,因为我们知道 MinIO 可以扩展。我们仍然对 1 EiB 出现的挑战感到惊讶——而且是在我们没有考虑过的地方。内存、网络、复制和负载平衡等位置。由于我们拥有正确的基础,因此我们能够快速克服这些挑战,并使我们的客户能够继续有增无减地发展其数据基础设施。我们为这些成就感到非常自豪,这些额外的功能、优化和功能都在新的 AIStor 中,可供我们的商业客户使用。
通过将开发重点放在此类工作负载上,我们可以增强我们支持的所有其他工作负载,包括高级分析、现代数据湖仓一体、Hadoop 替换、应用程序工作负载以及传统的存档和备份工作负载。对于大多数存储供应商来说,对象存储是一个复选框练习。他们专注于过去,包括 file 和 block。未来是对象存储。这就是我们独家做这件事的原因。专注于 file 和 block 的供应商永远不会放下他们的技术债务,因此他们永远不会交付一个伟大的对象存储。未来是关于海量命名空间的。企业全部 AI 数据的单一位置。不是企业的所有数据,而是他们的所有 AI 数据 - 也就是说,其中的绝大多数。您将继续拥有支持重要但相对小众的记录数据系统的基础设施,它们可能基于文件/块 - 但与过去十年一样,这些工作负载达到数百 TiB。该数据将立即从 AI 数据存储中可用 - 并且将位于对象存储中。问问超大规模者就知道了。
新事物
我们的 AIStor 版本有几个核心支柱,我们和我们的客户都生成了强大的附加功能路线图。每个核心功能都有其自己的专用博客文章,我们鼓励您阅读它们:
promptObject - 这个新 API 代表了 S3 API 的重要扩展,它使应用程序、开发人员和管理员能够像使用 LLM这意味着应用程序开发人员可以成倍扩展其应用程序的功能,而无需具备 RAG 模型或矢量数据库的特定领域知识。它可在 Global Console 和 MinIO 的 SDK 中使用。考虑此扩展时,应用程序几乎是无限的。对象存储领域现在从 PUT 和 GET 范例转变为 PUT 和 PROMPT 范例。应用程序可以通过具有附加逻辑的函数调用来使用 promptObject。这可以与同时寻址多个对象的链式函数结合使用。这将大大简化 AI 应用程序的开发,同时使其更加强大。

MinIO AIHub - 用于直接在 AIStor 上存储 AI 模型和数据集的私有存储库。AIHub 的 API 与 HuggingFace 兼容,允许企业在私有云或气隙环境中创建自己的数据和模型存储库,而无需更改任何代码。私有数据中心消除了开发人员泄露敏感数据集或模型的风险。其他示例集成可能包括使用 vLLM 部署微调模型。

其他协议支持 - AIStor 增加了对 S3 over RDMA 的支持。通过利用 RDMA 的低延迟、高吞吐量功能,MinIO 使客户能够充分利用其 400GbE、800GbE 和更高以太网投资,在 MinIO 服务器上进行 S3 对象访问,从而提供额外的性能提升,以保持计算层的充分利用,同时降低 CPU 利用率。
更新的全局控制台 - 完全重新设计的 MinIO 用户界面,通过单一管理平台提供有关 IAM、ILM、负载平衡、防火墙、安全性、缓存、复制和编排的广泛功能。更新后的控制台具有新的 MinIO Kubernetes 运算符,可进一步简化大规模数据基础设施的管理,其中有数百台服务器和数万个驱动器。

同样,这些代表了此版本的支柱,但它们建立在令人难以置信的基础之上。MinIO 的对象存储是世界上部署最广泛的对象存储。全球有超过 6.2M 的部署。迄今为止,已经有超过 2B Docker 拉取。之所以成功,是因为 MinIO 不仅拥有所有可以想象的功能,而且还拥有所有可以想象的功能的行业最佳实现,每一项功能对于为 AI 构建可扩展、高性能和安全的对象存储都至关重要。复制、加密、对象不变性、身份 + 访问管理、信息生命周期管理、版本控制、密钥管理服务器、目录、防火墙、缓存、可观察性、负载平衡,当然还有 S3 兼容性。虽然这些功能代表了功能,但只是整体产品的一部分,它以直接工程支持、惊人的 SLA、即时 SLA 选项、SUBNET 支持门户、基准测试工具、运行状况检查工具以及无数其他软件功能和优势为基础。
带回家
在数据和数据基础设施方面,我们正处于一个不同的阶段。这些挑战与企业所习惯的挑战有着根本的不同。原因是规模和大规模交付性能的并行要求。这种规模只是打破了旧技术 - 这就是为什么他们中的许多人试图将自己从存储中重塑自己的品牌。他们知道自己无法扩展,因此它们成为“管理”或“数据库”产品,表面上可以提供 1-10 PiB 范围内的价值。然而,这种规模正是 Object Storage 的初衷。这就是为什么 MinIO、AWS、GCP 和 Azure 都专注于对象存储,而不是文件和块存储。MinIO、AWS、GCP 和 Azure 知道在这种规模下运营是什么感觉,我们共同拥有客户名单来证明这一点。管理 1 EB 与 1 PB 有根本的不同。这不能说 1 TB 到 1 PB。这些并没有太大的不同。
正如一位客户所说:
“管理移动设备耗尽(即在应用程序测试期间从设备发出的数据)通常极具挑战性,因为应用程序在不同的平台、操作系统、版本和事件形式因素上运行,”Kobiton 的首席技术官 Frank Moyer 说。“MinIO 使我们能够管理和存储大规模的设备耗尽。MinIO 的速度和容错能力对于我们进行移动应用程序测试的能力至关重要,它帮助我们的数百名测试人员使用 AI 和自动化浏览数千个测试脚本。AIStor 将推动我们基于 AI 的测试解决方案更高水平的高性能系统。
我们告诉客户要有大处着眼。我们拥有可为您提供支持的架构。其他存储供应商鼓励稀缺心态。这在 AI 时代不会发挥作用。