查询到最新的12条

分布式存储概念及特点

  应用访问存储的方式包括:基于块访问,基于文件访问,基于对象访问。传统存储与分布式存储的区别:传统的NAS或SAN存储解决方案绑定至昂贵的专有硬件,软件定义型存储通常设计为使用现成的存储驱动器和设备,花费要低于传统的存储设备,软件定义型存储是一个软件层,在物理存储设备和数据请求之间提供一个抽象层,借助这一抽象层,可以更加轻松地实施存储虚拟化等功能&#xf 继续阅读

聊聊分布式存储系统中的心跳机制以及主节点下发指令给从节点

心跳( heartbeat )是分布式系统中常用的技术。顾名思义,心跳就是以固定的频率向其他节点汇报当前节点状态的方式。收到心跳,一般可以认为发送心跳的这个节点在当前的网络中状态是良好的。 同时分布式存储系统中经常会采用master-slave架构(也即主从架构),从节点通常会使用心跳技术向主节点汇报自身的健康状况,或者其他请求,主节点处理接收到的心跳信息,并响应给从节点一些操作指令,从节点收到这些操作指令后,会进行相应的操作。今天这篇文章就来分析总结一下这个实现方案。 一、 概述 先总结 继续阅读

人工智能相关概念及金融相关应用概念

人工智能相关概念及金融相关应用概念        人工智能(Artificial Intelligence, AI),是研究、开发用于模拟、延伸和扩展人类智能的理论、方法及应用系统的一门科学技术,其利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统,本质是对人类思维过程的模拟。从1956年约翰·麦卡锡在达特茅斯会议 继续阅读

MySQL数据库事务和存储引擎

MySQL数据库事务和存储引擎 一、mysql事务1、事务的概念2、事务的ACID特点2.1 原子性2.2 一致性2.3 隔离性2.4 持久性 3、两个事务之间的影响3.1 脏读(读取未提交数据)3.2 不可重复度(前后多次读取,数据内容不一致)3.3 幻读(前后多次读取,数据总量不一致)3.4 丢失更新 4、mysql事务隔离级别4.1 查询全局事务的隔离级别4.2 查询会话事 继续阅读

分布式存储系统 之 数据备份

为了保证分布式存储系统的高可靠和高可用,数据在系统中一般存储多个副本。当某个存储节点出故障时,系统能够自动将服务切换到其他的副本,从而实现自动容错。 分布式存储系统通过复制协议将数据同步到多个存储节点,并确保多个副本之间的数据一致性。同一份数据有多个副本,仅有一个为主副本 Primary,其他的副本为备份副本 Backup,数据从主副本复制到备份副本。 复制协议分为两种:强同步复制 继续阅读

hdfs读写流程_必须掌握的分布式文件存储系统—HDFS

必须掌握的分布式文件存储系统—HDFS​mp.weixin.qq.comHDFS(Hadoop Distributed File System)分布式文件存储系统,主要为各类分布式计算框架如Spark、MapReduce等提供海量数据存储服务,同时HBase、Hive底层存储也依赖于HDFS。HDFS提供一个统一的抽象目录树,客户端可通过路径来访问文件,如hdfs://namenode:port/dir-a/a. 继续阅读

分布式存储系统的分类

分布式存储系统面临的需求比较复杂,大致可以分为三类: 非结构化数据:包括所有格式的办公文档、文本、图片、图像、音频、视频信息等。结构化数据:一般会存储在关系型数据库中,可用二位关系的表结构来对数据进行描述,数据的模式需要预先进行定义。半结构化数据:介于结构化数据和半结构化数据直接,HTML文档就属于半结构化数据。它一般是自描述的,与结构化数据的最大区别之处在于&#xff 继续阅读

AWS S3云存储服务

AWS S3云存储服务 1 S3概念及基础知识2 S3的基本操作3 S3数据安全4 S3数据加密以及命令行CLI4.1 S3加密工作原理4.1.1 server端的加密4.1.2 client 端的加密 4.2 图形化方式——使用aws内置功能加密4.3 命令行方式加密4.3.1 SSE-S34.3.2 SSE-KMS4.3.3 SSE-C 5 S3对象锁6 s3版本控制及生命周期管理7 s3网站托管8 s3跨域资源共享(CORS)9 CloudFront内容 继续阅读

分布式存储系统Minio简介

Minio 是一个基于Go语言的对象存储服务。它实现了大部分亚马逊S3云存储服务接口,可以看做是是S3的开源版本,非常适合于存储大容量非结构化的数据,例如图片、视频、日志文件、备份数据和容器/虚拟机镜像等,而一个对象文件可以是任意大小,从几kb到最大5T不等。区别于分布式存储系统,minio的特色在于简单、轻量级,对开发者友好,认为存储应该是一个开发问题而不是一个运维问题。 Mini 继续阅读

2.10 - 存储管理 2.11 - 页式存储 2.12 - 段式存储 2.13 - 段页式存储

目录 2.10 - 存储管理 一、存储管理的目的 二、分区存储管理 1、概念 2、分类 3、固定分区 4、可变分区 5、可重定位分区 2.11 - 页式存储 一、分页存储管理 1、概念 2、如何得知每一页存在哪个物理块中 3、物理地址 4、页式存储的地址 二、考法1:页式存储地址机构 三、考法2:页式存储地址转换 2.12 - 段式存储 一、段式存储 1、概念 2、解决问题 3、优点 4、缺点 5、段式存储的地址 2.1 继续阅读

分布式存储系统之Ceph(理论详解)

目录 Ceph 简介 ceph的构成         ceph 集群基础:                  Monitor(ceph-mon):ceph 监视器                  Managers(ceph-mgr)的功能:                 Ceph OSDs(对象存储守护程序 ceph-osd):                  MDS(ceph 元数据服务器,ceph- 继续阅读

Hadoop HDFS-分布式存储系统入门、配置、使用及架构原理分析

文章目录 一、HDFS简介1.1、为什么需要HDFS1.2、核心数据和行为数据 二、核心架构和读写流程2.1、核心架构组件NameNodeSecondary NameNodeDataNodeBlock 2.2、读数据逻辑2.3、写数据逻辑 三、基本命令使用四、分布式可靠性保障3.1、副本冗余3.2、机架策略3.3、心跳机制3.4、安全校验3.5、数据恢复 附:HDFS环境配置 一、HDFS简介 HDFS全称为Hadoop Distributed File S 继续阅读