查询到最新的12条

Spring Boot中大文件分片上传—支持本地文件和AWS S3

Spring Boot中大文件分片上传—支持本地文件和AWS S3 前言 本篇主要整理了大文件分片上传客户端和服务端的实现,其中客户端是通过Java代码来模拟的文件分片上传的逻辑(我不太会写前端,核心逻辑都是一样的,这边前端可以参考开源组件:vue-uploader),服务端实现包含本地文件系统和AWS S3对象存储两种文件存储类型。 分片上传实现原理 实现原理其实很简单,网上 继续阅读

​h5文件格式详解及h5文件与图片文件之间的相互转换(python实现)

背景:h5文件详解 H5文件是层次数据格式第5代的版本(Hierarchical Data Format,HDF5),它是用于存储科学数据的一种文件格式和库文件。由美国超级计算中心与应用中心研发的文件格式,用以存储和组织大规模数据. H5将文件结构简化成两个主要的对象类型: 数据集dataset,就是同一类型数据的多维数组 组group,是一种容器结构,可以包含数据集和其他组&#xff0c 继续阅读

分布式存储概念及特点

  应用访问存储的方式包括:基于块访问,基于文件访问,基于对象访问。传统存储与分布式存储的区别:传统的NAS或SAN存储解决方案绑定至昂贵的专有硬件,软件定义型存储通常设计为使用现成的存储驱动器和设备,花费要低于传统的存储设备,软件定义型存储是一个软件层,在物理存储设备和数据请求之间提供一个抽象层,借助这一抽象层,可以更加轻松地实施存储虚拟化等功能&#xf 继续阅读

分布式存储系统Minio简介

Minio 是一个基于Go语言的对象存储服务。它实现了大部分亚马逊S3云存储服务接口,可以看做是是S3的开源版本,非常适合于存储大容量非结构化的数据,例如图片、视频、日志文件、备份数据和容器/虚拟机镜像等,而一个对象文件可以是任意大小,从几kb到最大5T不等。区别于分布式存储系统,minio的特色在于简单、轻量级,对开发者友好,认为存储应该是一个开发问题而不是一个运维问题。 Mini 继续阅读

在 Linux 上用密码加密和解密文件

age 是一个简单的、易于使用的工具,允许你用一个密码来加密和解密文件。 文件的保护和敏感文档的安全加密是用户长期以来关心的问题。即使越来越多的数据被存放在网站和云服务上,并由具有越来越安全和高强度密码的用户账户来保护,但我们能够在自己的文件系统中存储敏感数据仍有很大的价值,特别是我们能够快速和容易地加密这些数据时。 age 能帮你这样做。它是一个小型且易于使用的工具,允许你用一个密码加密一个文件,并根据需要解密。 安装 age 继续阅读

ROS.yaml文件用法介绍

本文将从多个方面详细阐述ROS中的yaml文件,并给出相应的代码示例。 一、ROS.yaml文件是什么? ROS.yaml文件是ROS中用于配置参数的文件格式。它有助于参数的配置管理,可以通过配置文件的方式来快速获取、修改、存储和使用参数。 二、ROS.yaml文件的基本结构 ROS.yaml文件的基本结构包括键值对和注释。其中,键值对用于记录参数的名称和值,注释用于说明和解释键值对的含义。 下面是一个简单的ROS.yaml文件示例: # ROS.yaml 继续阅读

Python中通过对象不能调用类方法和静态方法的解析

当我们在使用Python编写程序时,可能会遇到通过对象调用类方法和静态方法失败的问题,那么这是为什么呢?接下来,我们将从多个方面对这个问题进行详细解析。 一、类方法和静态方法的定义 在了解Python中通过对象不能调用类方法和静态方法之前,首先需要明确类方法和静态方法的定义。 类方法和静态方法都是定义在类中的一种方法,可以通过类名直接调用,而不需要先创建该类的实例。具体定义如下: class MyClass: # 类方法 @classmeth 继续阅读

hdfs读写流程_必须掌握的分布式文件存储系统—HDFS

必须掌握的分布式文件存储系统—HDFS​mp.weixin.qq.comHDFS(Hadoop Distributed File System)分布式文件存储系统,主要为各类分布式计算框架如Spark、MapReduce等提供海量数据存储服务,同时HBase、Hive底层存储也依赖于HDFS。HDFS提供一个统一的抽象目录树,客户端可通过路径来访问文件,如hdfs://namenode:port/dir-a/a. 继续阅读

MySQL数据库事务和存储引擎

MySQL数据库事务和存储引擎 一、mysql事务1、事务的概念2、事务的ACID特点2.1 原子性2.2 一致性2.3 隔离性2.4 持久性 3、两个事务之间的影响3.1 脏读(读取未提交数据)3.2 不可重复度(前后多次读取,数据内容不一致)3.3 幻读(前后多次读取,数据总量不一致)3.4 丢失更新 4、mysql事务隔离级别4.1 查询全局事务的隔离级别4.2 查询会话事 继续阅读

Python编写读取HDFS目录下的所有文件

如何使用Python编写程序读取HDFS目录下的所有文件?在这篇文章中,我们将详细阐述这个问题。 一、读取HDFS文件系统 HDFS是Apache Hadoop的分布式文件系统。它设计用来存储和处理大规模数据集(Big Data),并提供高容错性、高可靠性、高可扩展性和高性能的数据存储。我们通过Python的hdfs模块来连接和操作HDFS文件系统。 代码示例: from hdfs import InsecureClient hdfs_client = I 继续阅读

Python 关闭文件

在Python中,使用open()函数打开文件后,我们需要通过调用close()方法来关闭文件。关闭文件的目的是释放文件对象占用的系统资源,防止文件被其他进程占用而无法读取或写入,同时也可以确保数据在写入文件之前被完全保存。关闭文件的方式有两种:显式关闭和隐式关闭。显式关闭文件在打开文件之后,我们可以使用close()方法来显式地关闭文件。以下是关闭文件的示例代码:# my.lmcjl.com # 打开文件 f = open('file.txt', 'r') ​ # 读取 继续阅读