MinIO-无旋钮可旋转,无按钮可按

The Architect’s Guide to Data and File Formats

“我需要的越少,感觉就越好。” 〜Charles Bukowski我们经常忘记从过去的成功项目中学习。如果您和我一样大,您将记住一个名为qmail的项目。由于其极简的设计(qmail安全保证),没有人会戳它的安全漏洞。系统管理员也喜欢它的简单性。我看到极简主义

阅读更多...

将您的Node.js应用程序日志存储到Minio

The Architect’s Guide to Data and File Formats

日志记录仍然是开发人员关注的主要问题之一。通常,各种组件(如Web服务器,数据库)会将日志存储在不同的位置。当出现问题时,开发人员需要四处寻找相关的日志。将您的应用程序日志自动存储在预定义的位置不是很好。您可以使用Fluentd和

阅读更多...

通过RabbitMQ发布Minio事件

The Architect’s Guide to Data and File Formats

简介Minio服务器支持针对以下目标AMQP,Elasticsearch,Redis,nats.io,PostgreSQL和Apache Kafka的Amazon S3兼容存储桶事件通知。本博客系列的第1部分介绍了使用RabbitMQ服务器通过AMQP发送存储桶通知。您可以将此设置与AWS S3&S

阅读更多...

调试Go例程泄漏

The Architect’s Guide to Data and File Formats

在开始调试Goroutines泄漏之前,让我先简要介绍一些基础知识,这些基础知识将使您对问题有更广阔的了解。并发编程。并发编程处理程序的并发执行,其中一次执行多个顺序的执行流,从而可以更快地执行计算,从而有助于更好地利用多核

阅读更多...

ToolsLib切换到MinIO以实现规模和性能

The Architect’s Guide to Data and File Formats

ToolsLib最近切换到全新的仪表板。但是,在幕后,发生了另一种变化。我们将基于块的文件系统用于基础存储。但是,随着我们的成长,事实证明文件系统很难扩展。因此,当我们发现MinIO时,我们正寻求从基于块的存储转移到对象存储系统。经过初步分析,MinIO看上去

阅读更多...

安全 咨询

The Architect’s Guide to Data and File Formats

简介:已发现针对Minio服务器的拒绝服务(DoS)漏洞,并已在RELEASE中修复。2018–05–25T19–49–13Z严重程度:中受影响的对象:签名V4身份验证的所有用户均受到影响。签名V2身份验证的用户不受影响。针对用户的建议操作:建议所有用户将其Minio部署升级到

阅读更多...

S3基准:硬盘上的MinIO

The Architect’s Guide to Data and File Formats

高性能对象存储是当今企业中的热门话题之一。一方面,对象存储已成为企业存储策略(公共或私有云)不可或缺的一部分-以TB或PB衡量时,承担了绝大多数企业负担。另一方面,传统上,对象存储服务于

阅读更多...

S3基准:NVMe上的MinIO

The Architect’s Guide to Data and File Formats

写得好的软件就是快速的软件。当MinIO诞生时,它的设计从一开始就是简单,可扩展(因为简单的东西可以更好地扩展)和快速。简洁和规模有其自己的主观和客观度量-但是快速通常是数字游戏。当您使用编写精良的快速软件并将其与快速硬件配对时,

阅读更多...

针对Apache Spark将MinIO与AWS S3进行基准测试

The Architect’s Guide to Data and File Formats

Apache Spark是用于分布式计算的框架。它提供了跨群集中的多台计算机分布数据并对其执行计算的最佳机制之一。Spark通过构造称为RDD(弹性分布式数据集)的数据结构来实现这一目标。RDD允许将数据分为不同的块,并彼此独立地进行处理。各个块可以

阅读更多...

Hadoop HDFS的逻辑继承者

The Architect’s Guide to Data and File Formats

Hadoop的消亡可能是过分的。它不会突然从企业环境中消失-仅仅是有太多的客户,太多的沉没投资使其无法消失在夜里。毫不夸张的是,Hadoop与之前的无数技术一样,正在世俗地,不可逆转地衰落。有很多原因,但是

阅读更多...

扩展MinIO:将性能从TB升级到PB

The Architect’s Guide to Data and File Formats

正如我们在先前的基准测试中反复展示的那样,MinIO提供了同类最佳的性能。在这些基准测试中,我们选择了最高端的硬件,并测量了MinIO是否可以挤出其提供的所有资源。这证明了两个关键点:确保MinIO利用可用的最大CPU,网络和存储。确保MinIO不是IO瓶颈。

阅读更多...

HDD 数据持久性:块级 RAID 与对象存储纠删码

The Architect’s Guide to Data and File Formats

在数据持久性、容错性和恢复时间方面,我们已经广泛发表了关于使用纠删码的对象存储如何比块存储 RAID 更好的方法的博客。存储技术领域的其他人开始意识到我们是对的,RAID,本质上是 1980 年代的技术,已经过时了,无法提供始终在线的数据驱动的云原生数据中心所需的数据保护。

阅读更多...

数据湖屋的颠覆性本质

The Architect’s Guide to Data and File Formats

1997 年,克莱顿·克里斯滕森 (Clayton Christensen) 在他的《创新者的困境》一书中确定了一种创新模式,该模式可跟踪现有企业和新进入者之间按细分市场划分的能力、成本和采用情况。

阅读更多...

如何使用Restic和MinIO进行备份

The Architect’s Guide to Data and File Formats

每个系统都需要备份,因为有无数种方法可以丢失本地文件系统数据和配置。这种损失可能是毁灭性的——可能导致收入损失、客户不满意,甚至代价高昂的诉讼。统计数据相当惨淡——遭受数据丢失事件的企业中有 60% 在六个月内关闭,而失去数据中心超过 10 天的公司中有 93% 在一年内申请破产。

阅读更多...

如何使用MinIO和LakeFS实现人工智能训练的可重现性

The Architect’s Guide to Data and File Formats

运行多个机器学习实验的现实情况是,管理它们可能会变得不可预测和复杂,尤其是在团队环境中。经常发生的情况是,在研究过程中,团队在实验之间不断更改配置和数据。例如,尝试多个训练集和多个超参数值,并且 - 当涉及大型数据集时 - 分布式计算引擎(如 Apache Spark)的不同配置。

阅读更多...

MinIO不适用小文件,是真的吗?

The Architect’s Guide to Data and File Formats

网上一些评论和提问经常会遇到三个问题,我们将这三个问题展开: MinIO不适用于小文件? MinIO小文件性能? MinIO是否是合小文件的读取场景? 首先,我们正面回答问题。 第一种观点是错误的,MinIO不仅非常适合小文件,还适合中型文件和大文件。

阅读更多...

minio和阿里云oss哪个好?

The Architect’s Guide to Data and File Formats

在回答这个问题前,我们首先要明白一个关于监管上的要求和产品上的区别。因此,如果在公有云产品选择上可以选择阿里云OSS、腾讯云的COS、华为云的OBS和AWS的S3,都是全球非常优秀的对象存储产品。

阅读更多...

离线部署的MinIO

The Architect’s Guide to Data and File Formats

网络有不同的部分,例如 DMZ、公共、私有、堡垒等。这实际上取决于您的组织和网络要求。在部署应用程序时,任何应用程序,我们都需要考虑类型以及它是否需要位于网络的特定部分。

阅读更多...

我如何知道我的MinIO集群复制是最新的?

The Architect’s Guide to Data and File Formats

客户可以在任何需要快速、弹性、可扩展对象存储的地方运行 MinIO。MinIO 包括多种类型的复制,以确保每个应用程序都使用最新的数据,无论它在哪里运行。在之前有关批量复制、站点复制和存储桶复制的文章中,我们详细介绍了各种可用的复制选项及其最佳实践。

阅读更多...

AI 的未来是开源的

The Architect’s Guide to Data and File Formats

想象一下,在未来,人工智能不会被锁在公司的金库里,而是由全球创新者社区一砖一瓦地在开放中构建的。协作,而不是竞争,推动进步,道德考虑与原始绩效同等重要。这不是科幻小说,而是人工智能发展核心正在酝酿的开源革命。

阅读更多...

调试 MinIO 安装

The Architect’s Guide to Data and File Formats

MinIO 部署形式多样。我们支持在任意版本的 Linux 上进行裸金属安装,支持在任何版本的 Kubernetes(包括 Red Hat OpenShift)上进行容器化安装,还支持在大大小小的环境中部署单个轻量级二进制文件。

阅读更多...

复制策略深入探讨

The Architect’s Guide to Data and File Formats

在之前的博客中,我们讨论了复制最佳实践和不同类型的复制,例如批量、站点和存储桶。但是,随着所有这些不同类型的复制类型的出现,人们不得不想知道在哪里使用哪种复制策略?

阅读更多...

使用GitOps自动化推动AI/ML工作流程

The Architect’s Guide to Data and File Formats

作为一名深耕自动化和人工智能领域的开发人员,我们逐渐认识到尖端工具和方法之间的显着协同作用,这些协同作用突破了可能性的界限。在这次探索中,我们想分享一个概念,它不仅彻底改变了我们的软件开发和基础设施管理方法,而且还打开了无尽创新的大门:GitOps。

阅读更多...

MinIO 突破了Boundary

The Architect’s Guide to Data and File Formats

随着银行、医疗保健、石油和天然气等关键行业的企业从云端遣返数据,有时他们需要以“老派”的方式做一些事情,因为根本没有其他方法。其中之一是堡垒主机。

阅读更多...

停止向供应商提供您的数据

The Architect’s Guide to Data and File Formats

组织管理其数据基础设施的方式正在发生重大转变。越来越多的公司认识到存储和计算分离的优势,从而获得更好的性能、成本节约和可扩展性。这一趋势是由 AI 和 ML 工作负载日益复杂所推动的,这些工作负载需要灵活、高性能的系统

阅读更多...

从 HDFS 迁移到 MinIO 企业对象存储

The Architect’s Guide to Data and File Formats

云原生、面向 Kubernetes 、基于微服务的架构推动了对 MinIO 等网络存储的需求。在云原生环境中,对象存储的优势很多 - 它允许独立于存储硬件对计算硬件进行弹性扩展。它使应用程序无状态,因为状态是通过网络存储的,并且通过降低操作复杂性,使应用程序能够实现比以往更高的规模

阅读更多...

MinIO 学习订阅服务

The Architect’s Guide to Data and File Formats

MinIO 的入门非常简单 — 只需几个简单的命令和一个 100 MB 的小二进制文件,您就可以立即启动并运行一个功能性开发环境。但是,为了在生产规模上利用 MinIO 的全部功能,我们鼓励专业人士更多地了解 MinIO 的广泛功能

阅读更多...

复制、数据整合和数据迁移

The Architect’s Guide to Data and File Formats

Parsec Labs 是一家工程师公司。大多数人都设计了存储系统,负责备份和复制,或者从事网络构建交换机的工作。其 Unified Data Mobility and Protection Appliance 成立于 2013 年,为大规模迁移、复制和备份数据提供了最直接的工具。

阅读更多...

充分利用 AIStor 的网络配置

The Architect’s Guide to Data and File Formats

AIStor 可以以分布式方式部署,从而有效利用多个物理机或虚拟机的计算和存储资源。这可以是在私有云或公共云环境中运行的 AIStor,例如使用 Amazon Web Services、Google Cloud Platform、Microsoft 的 Azure 平台等

阅读更多...

AIStor 更新和重启最佳做法

The Architect’s Guide to Data and File Formats

在现代世界中,保持系统运行不仅仅是赌注 - 它是没有商量余地的。当涉及到软件更新及其对您的系统意味着什么时 - 嗯,这要复杂得多。一方面,安全性是当今更新的主要驱动力,这也是没有商量余地的。需要尽快在所有系统中实施补丁,以保持最强的安全性

阅读更多...

AWS re:Invent 的创新技术

The Architect’s Guide to Data and File Formats

本月早些时候,Amazon 于 12 月 1 日至 5 日在内华达州拉斯维加斯举行了为期 5 天的 re:Invent 大会。如果您从未参加过 re:Invent 会议,那么最能描述它的词是“巨大”——不仅从与会者人数(60,000 人)来看,还从涵盖的主题的广度来看

阅读更多...

关于 ROSA 的 AIStor

The Architect’s Guide to Data and File Formats

AIStor 是高性能、可互操作的云原生对象存储的先驱,具有多功能性和敏捷性。AIStor 可在无数平台上运行,例如 Kubernetes、AWS、GCP、Azure、裸机 Linux 和许多其他环境。最近,业内出现了一种趋势,即让数据“更贴近”家庭

阅读更多...

为 AIStor 部署选择最佳硬件

The Architect’s Guide to Data and File Formats

事实是,AIStor 没有最佳的硬件配置。我们的客户根据其使用案例和要求选择硬件。如果 AIStor 有一个最佳硬件配置,那么我们会在设备上销售 AIStor,但这将剥夺您为工作选择最佳硬件的自由,并将您锁定在特定的外形规格中。

阅读更多...

介绍 MinLZ 压缩算法

The Architect’s Guide to Data and File Formats

存在不同类型的压缩算法和非常好的实现。在 MinIO,我们已经使用了 Snappy 的增强版本,它一直为我们服务良好。但随着时间的推移,我们发现了一些可能的改进,可以更好地对压缩数据进行编码

阅读更多...

AIStor 与 NVIDIA NIM™ 集成

The Architect’s Guide to Data and File Formats

基于 AIStor 强大的 AI 功能,MinIO 的 PromptObject 使用户能够通过自然语言查询与他们的数据进行交互,如此处所述。PromptObject 允许用户使用自然语言询问有关其数据内容的问题并提取信息,从而改变了用户与存储对象的交互方式,无需编写复杂的查询或代码

阅读更多...

MinIO AIStor: 利用英伟达™(NVIDIA®)BlueField-3 DPU 率先开发

The Architect’s Guide to Data and File Formats

Arm 架构正在彻底改变超大规模云,这得益于其总拥有成本 (TCO) 优势(更低的功耗和更低的冷却要求),从而实现了可持续的大规模高性能计算。AWS、Azure 和 GCP 等行业领导者正在采用 Arm 来驱动其用于 AI 训练的最新计算实例,利用其效率来满足数据密集型工作负载的需求

阅读更多...