上传与大文件
这一篇只讲上传时你会碰到什么。普通用户看前半段就够了,管理员再看后半段。
普通用户先记住这几件事
- 小文件通常会很快完成
- 大文件会自动拆成多段上传
- 上传中断后,能继续就继续
- 继续上传时,重新选同一个文件
- 可恢复上传也有时效:普通分片通常 24 小时,对象存储直传通常更短
日常使用时,你不用分辨“普通上传”“分片上传”还是“对象存储直传”。
上传路径怎么决定
text
用户选择文件
|
+-- 当前工作空间属于谁?
| +-- 个人用户
| +-- 团队空间
|
+-- 命中用户或团队绑定的策略组
|
+-- 按文件大小匹配策略组规则
|
+-- 命中具体存储策略
|
+-- local:写入本地存储
+-- s3 + relay_stream:服务端转发到对象存储
+-- s3 + presigned:浏览器直传对象存储
+-- remote + relay_stream:主控节点转发到从节点
+-- remote + presigned:浏览器直连从节点的 `base_url`排查上传失败时从策略组开始
很多上传问题看起来像“文件传不上去”,实际是当前用户或团队命中的策略组不对。先确认工作空间,再确认策略组,再看具体存储策略。
管理员部署前要准备什么
如果你负责部署,先确认下面这些事:
- 当前用户或团队绑的是哪一个策略组
- 这个策略组会把文件分到哪条存储策略
- 策略的单文件大小上限和分片大小是否合适
- 服务本地临时目录有没有足够空间
- 反向代理的上传大小和超时是否足够
- 如果要直传对象存储,浏览器上传所需的 CORS 是否已经配好
- 如果用远程节点,follower 是否已经有默认接收落点
- 如果用远程节点
presigned,浏览器是否能访问 follower 的base_url,并且 follower 对外暴露了所需的 CORS 响应头
哪些上传会明显占用本地磁盘
不是所有上传都会先落到本地盘。最常见会明显占用临时目录空间的情况有:
- 使用本地存储,尤其是大文件分片组装时
- 一些需要服务端参与处理的上传路径
重点看这两个目录的容量:
data/.tmpdata/.uploads
如果你使用对象存储,最常见的两种方式
服务端转发
浏览器先把文件传给 AsterDrive,再由服务端转到 S3 / MinIO。
这条路不靠本地临时目录,也不会做内容去重。
对象存储直传
浏览器直接把文件传到 S3 / MinIO。大文件会自动分成多段。
这种方式最省服务端带宽,但对象存储必须先配好浏览器上传所需的 CORS。
如果你用这条路,至少确认:
- 允许浏览器发起
PUT - 允许上传站点的来源
ExposeHeaders里包含ETag
上传失败时,先按这个顺序查
- 当前工作空间是不是切对了
- 当前用户或团队绑的是哪一个策略组
- 命中的存储策略单文件大小上限是否够
- 反向代理的请求体大小和超时时间是否够
- 如果走对象存储直传,CORS 配置是否正确
- 如果走远程节点,节点是否启用、
base_url是否可达、协议能力是否兼容、默认接收落点是否已应用 - 用户或团队配额是不是已经满了
什么时候应该改配置
如果用户经常上传大文件,通常只要看这几处:
管理 -> 存储策略的单文件大小上限和分片大小管理 -> 策略组的文件大小分流规则- 服务器本地临时目录的可用空间
- 反向代理的上传大小和超时
- 对象存储的浏览器直传放行规则
- 远程节点的
base_url、协议能力、默认接收落点和网络可达性