Skip to content

上传与大文件

这一篇只讲上传时你会碰到什么。普通用户看前半段就够了,管理员再看后半段。

普通用户先记住这几件事

  • 小文件通常会很快完成
  • 大文件会自动拆成多段上传
  • 上传中断后,能继续就继续
  • 继续上传时,重新选同一个文件
  • 可恢复上传也有时效:普通分片通常 24 小时,对象存储直传通常更短

日常使用时,你不用分辨“普通上传”“分片上传”还是“对象存储直传”。

上传路径怎么决定

text
用户选择文件
  |
  +-- 当前工作空间属于谁?
  |     +-- 个人用户
  |     +-- 团队空间
  |
  +-- 命中用户或团队绑定的策略组
  |
  +-- 按文件大小匹配策略组规则
  |
  +-- 命中具体存储策略
        |
        +-- local:写入本地存储
        +-- s3 + relay_stream:服务端转发到对象存储
        +-- s3 + presigned:浏览器直传对象存储
        +-- remote + relay_stream:主控节点转发到从节点
        +-- remote + presigned:浏览器直连从节点的 `base_url`

排查上传失败时从策略组开始

很多上传问题看起来像“文件传不上去”,实际是当前用户或团队命中的策略组不对。先确认工作空间,再确认策略组,再看具体存储策略。

管理员部署前要准备什么

如果你负责部署,先确认下面这些事:

  • 当前用户或团队绑的是哪一个策略组
  • 这个策略组会把文件分到哪条存储策略
  • 策略的单文件大小上限和分片大小是否合适
  • 服务本地临时目录有没有足够空间
  • 反向代理的上传大小和超时是否足够
  • 如果要直传对象存储,浏览器上传所需的 CORS 是否已经配好
  • 如果用远程节点,follower 是否已经有默认接收落点
  • 如果用远程节点 presigned,浏览器是否能访问 follower 的 base_url,并且 follower 对外暴露了所需的 CORS 响应头

哪些上传会明显占用本地磁盘

不是所有上传都会先落到本地盘。最常见会明显占用临时目录空间的情况有:

  • 使用本地存储,尤其是大文件分片组装时
  • 一些需要服务端参与处理的上传路径

重点看这两个目录的容量:

  • data/.tmp
  • data/.uploads

如果你使用对象存储,最常见的两种方式

服务端转发

浏览器先把文件传给 AsterDrive,再由服务端转到 S3 / MinIO。
这条路不靠本地临时目录,也不会做内容去重。

对象存储直传

浏览器直接把文件传到 S3 / MinIO。大文件会自动分成多段。
这种方式最省服务端带宽,但对象存储必须先配好浏览器上传所需的 CORS。

如果你用这条路,至少确认:

  • 允许浏览器发起 PUT
  • 允许上传站点的来源
  • ExposeHeaders 里包含 ETag

上传失败时,先按这个顺序查

  1. 当前工作空间是不是切对了
  2. 当前用户或团队绑的是哪一个策略组
  3. 命中的存储策略单文件大小上限是否够
  4. 反向代理的请求体大小和超时时间是否够
  5. 如果走对象存储直传,CORS 配置是否正确
  6. 如果走远程节点,节点是否启用、base_url 是否可达、协议能力是否兼容、默认接收落点是否已应用
  7. 用户或团队配额是不是已经满了

什么时候应该改配置

如果用户经常上传大文件,通常只要看这几处:

  • 管理 -> 存储策略 的单文件大小上限和分片大小
  • 管理 -> 策略组 的文件大小分流规则
  • 服务器本地临时目录的可用空间
  • 反向代理的上传大小和超时
  • 对象存储的浏览器直传放行规则
  • 远程节点的 base_url、协议能力、默认接收落点和网络可达性

基于 MIT 许可证发布