S3 / MinIO / R2 存储策略教程
适合什么时候用
Section titled “适合什么时候用”S3 / MinIO / R2 适合这些场景:
- 本地磁盘容量不想继续扩
- 已经有 MinIO、R2、AWS S3 或其他 S3 兼容对象存储
- 大文件较多,希望把对象交给专门的存储服务承接
- 想让不同用户或团队使用不同 bucket / prefix
- 想把应用节点和对象存储容量分开扩展
如果你只是单机自用、文件量不大,本地 local 策略更简单。S3 后端不是必须项。
先分清你要配哪几层
Section titled “先分清你要配哪几层”只创建 S3 存储策略还不够。用户或团队真正上传时,会先命中策略组,再由策略组规则分配到某条存储策略。
这篇用到的入口
Section titled “这篇用到的入口”| 你要做什么 | 入口 |
|---|---|
| 创建 S3 策略 | 管理 -> 存储策略 -> 新建策略 |
| 测试对象存储连接 | 管理 -> 存储策略 -> 测试连接 |
| 创建分流规则 | 管理 -> 策略组 |
| 给用户绑定策略组 | 管理 -> 用户 -> 用户详情 |
| 给团队绑定策略组 | 管理 -> 团队 -> 团队详情 |
| 调公开站点地址 | 管理 -> 系统设置 -> 站点配置 -> 公开站点地址 |
1. 准备 bucket 和 prefix
Section titled “1. 准备 bucket 和 prefix”先在对象存储里准备一个专用 bucket,例如:
asterdrive-prod建议给 AsterDrive 单独规划 prefix:
prod/这样对象最终会在 bucket 里按 AsterDrive 的内容寻址路径继续展开。不要让多个 AsterDrive 实例写同一个 prefix,除非你明确知道它们不会互相覆盖或清理对象。
2. 准备访问凭证
Section titled “2. 准备访问凭证”给 AsterDrive 准备一组只用于这个 bucket / prefix 的凭证。
最少需要覆盖:
- 读取对象
- 写入对象
- 删除对象
- 大文件上传所需操作
- 列出或访问目标 bucket / prefix 的必要权限
不同服务商的权限名不完全一样。原则是:不要给全账号管理员权限,只给 AsterDrive 操作目标 bucket / prefix 所需的权限。
3. 先选上传和下载方式
Section titled “3. 先选上传和下载方式”第一次接入建议先用保守路线:
| 方向 | 建议初始值 | 原因 |
|---|---|---|
| 上传方式 | relay_stream | 浏览器不需要直连对象存储,少踩 CORS |
| 下载方式 | relay_stream | 下载也先由 AsterDrive 中继,便于排查 |
确认基本读写没问题后,再考虑切换到:
- 上传
presigned - 下载
presigned
relay_stream 怎么工作
Section titled “relay_stream 怎么工作”上传时:
下载时:
好处是入口集中,排查简单。代价是应用节点要承接上传和下载带宽。
presigned 怎么工作
Section titled “presigned 怎么工作”上传时:
下载时:
好处是减轻 AsterDrive 节点带宽压力。前提是浏览器能访问对象存储 endpoint,并且 CORS 配置正确。
4. 在 AsterDrive 创建 S3 存储策略
Section titled “4. 在 AsterDrive 创建 S3 存储策略”进入:
管理 -> 存储策略 -> 新建策略选择驱动类型:
s3按你的对象存储填写连接信息。
MinIO 常见写法
Section titled “MinIO 常见写法”| 字段 | 示例 |
|---|---|
| Endpoint | https://minio.example.com |
| Region | us-east-1 |
| Bucket | asterdrive-prod |
| Prefix | prod/ |
| Path-style | 通常开启 |
| 上传方式 | 初次建议 relay_stream |
| 下载方式 | 初次建议 relay_stream |
如果 MinIO 只暴露在 Docker 内网,例如:
http://minio:9000那它通常只适合 relay_stream。如果要用 presigned,浏览器也必须能访问这个 endpoint,通常需要一个真实 HTTPS 域名。
Cloudflare R2 常见写法
Section titled “Cloudflare R2 常见写法”| 字段 | 示例 |
|---|---|
| Endpoint | https://<account-id>.r2.cloudflarestorage.com |
| Region | auto |
| Bucket | asterdrive-prod |
| Prefix | prod/ |
| Path-style | 按后台测试结果决定 |
| 上传方式 | 初次建议 relay_stream |
| 下载方式 | 初次建议 relay_stream |
R2 的自定义域名、缓存和公开访问策略在 Cloudflare 侧单独配置。AsterDrive 只需要能通过 S3 API 操作私有对象。如果后续要把上传或下载切换到 presigned,需要先给 bucket 配好 CORS。
AWS S3 常见写法
Section titled “AWS S3 常见写法”| 字段 | 示例 |
|---|---|
| Endpoint | 使用 AWS 标准 endpoint 或按后台字段要求留空 |
| Region | ap-northeast-1、us-east-1 等真实 region |
| Bucket | asterdrive-prod |
| Prefix | prod/ |
| Path-style | 通常关闭 |
| 上传方式 | 初次建议 relay_stream |
| 下载方式 | 初次建议 relay_stream |
AWS S3 的 region 要和 bucket 所在 region 一致。
5. 保存前先测试连接
Section titled “5. 保存前先测试连接”保存前或保存后,先用后台的连接测试确认:
- AsterDrive 能访问 endpoint
- bucket 存在
- 凭证能读写目标位置
- path-style / region 没填错
编辑已有策略时,如果 Access Key 或 Secret Key 字段留空,草稿连接测试会复用这条策略已经保存的凭据。这样轮换 endpoint、region、path-style 或 prefix 时,不需要为了测试连接重新粘贴 secret。新建策略没有可复用凭据,仍然必须把必填凭据填完整。
连接测试失败时,后台会显示可用于排查的原因,并隐藏 Secret Key 等敏感信息。
如果连接测试失败,不要继续把用户切到这条策略。先按下面顺序查:
- Endpoint 从 AsterDrive 服务器能不能访问
- HTTPS 证书是否可信
- Bucket 名是否正确
- Region 是否正确
- path-style 是否符合服务商要求
- Access Key / Secret Key 是否正确
- 凭证权限是否覆盖目标 bucket / prefix
- AsterDrive 服务器时间是否准确
6. 创建测试策略组
Section titled “6. 创建测试策略组”不要一上来直接改默认策略组。建议先创建一个测试策略组。
进入:
管理 -> 策略组创建策略组,例如:
S3 Test Group添加一条规则:
| 字段 | 建议 |
|---|---|
| 存储策略 | 刚创建的 S3 策略 |
| 优先级 | 保持默认或设为最先命中 |
| 文件大小范围 | 先覆盖所有大小,方便测试 |
这样测试用户上传任何大小的文件都会命中这条 S3 策略。
7. 绑定测试用户或测试团队
Section titled “7. 绑定测试用户或测试团队”进入:
管理 -> 用户 -> 用户详情把测试用户的策略组改成刚才创建的 S3 Test Group。
进入:
管理 -> 团队 -> 团队详情把测试团队的策略组改成 S3 Test Group。
团队空间上传时会按团队策略组走,不按个人用户策略组走。
8. 做一轮真实验收
Section titled “8. 做一轮真实验收”用被绑定的测试用户登录,按顺序测试:
- 上传一个小文件
- 上传一个大于分片大小的文件
- 下载文件
- 创建分享链接并访问
- 删除文件,再从回收站恢复
- 如果启用了历史版本,覆盖保存一次并查看版本历史
- 到对象存储控制台确认对象写入目标 bucket / prefix
如果这些都正常,再考虑切换真实用户或团队。
9. 配置按大小分流
Section titled “9. 配置按大小分流”常见生产策略不是“所有文件都走 S3”,而是按大小分流:
进入:
管理 -> 策略组在同一个策略组里配置多条规则,例如:
| 规则 | 文件大小范围 | 存储策略 |
|---|---|---|
| 小文件 | 0 到 100 MiB | 本地策略 |
| 大文件 | 100 MiB 以上 | S3 策略 |
规则是有序的。保存后,用测试用户分别上传小文件和大文件,确认文件详情里的存储策略符合预期。
10. 切换真实用户或团队
Section titled “10. 切换真实用户或团队”确认测试策略组可用后,再选择切换方式:
| 场景 | 做法 |
|---|---|
| 只让少数用户使用 S3 | 到 管理 -> 用户 逐个绑定策略组 |
| 让某个团队使用 S3 | 到 管理 -> 团队 给团队绑定策略组 |
| 新用户默认使用 S3 | 把目标策略组设为新用户默认策略组 |
| 所有人逐步迁移 | 分批调整用户或团队绑定,观察任务和日志 |
切换策略组只影响后续上传。旧文件仍按原来的存储策略读取。
11. 什么时候切到 presigned
Section titled “11. 什么时候切到 presigned”等 relay_stream 稳定后,再考虑 presigned。
适合切换的信号:
- 上传或下载带宽主要压力在 AsterDrive 节点
- 用户网络能直连对象存储
- 对象存储 endpoint 有可信 HTTPS
- 你能配置对象存储 CORS
- 你接受下载响应头更多由对象存储控制
不适合切换的场景:
- 对象存储只在内网可达
- 用户网络无法访问对象存储 endpoint
- CORS 不好配置
- 希望所有下载都保持同源响应
12. 给 presigned 配置 CORS
Section titled “12. 给 presigned 配置 CORS”使用 presigned 时,浏览器会直接访问 S3-compatible 对象存储。对象存储必须允许 AsterDrive 站点的跨域请求,否则上传、下载、图片预览、PDF / 视频 Range 请求都可能失败。
AllowedOrigins 必须填写浏览器访问 AsterDrive 的站点 origin,例如:
https://drive.example.com不要带路径,也不要写成 https://drive.example.com/ 或 https://drive.example.com/api。
一份通用配置示例
Section titled “一份通用配置示例”同一个 bucket 同时启用 presigned 上传、下载和预览时,可以参考:
[ { "AllowedOrigins": [ "https://drive.example.com" ], "AllowedMethods": [ "GET", "HEAD", "PUT" ], "AllowedHeaders": [ "Content-Length", "Content-Type", "If-None-Match", "Range", "x-amz-content-sha256", "x-amz-date", "x-amz-security-token" ], "ExposeHeaders": [ "Accept-Ranges", "Content-Disposition", "Content-Length", "Content-Range", "Content-Type", "ETag", "Range" ], "MaxAgeSeconds": 3600 }]只启用上传时,可以只保留 PUT 和上传所需请求头;只启用下载和预览时,可以只保留 GET、HEAD、Range 及相关响应头。视频、音频和 PDF 预览依赖 Range 支持,不要把这些项删掉。
不同 S3-compatible 服务商的 CORS 配置界面可能使用不同名称。遇到问题时,先确认 AllowedOrigins 和浏览器地址栏中的站点来源完全一致,并使用当前版本的 AsterDrive 前端。
13. 常见故障
Section titled “13. 常见故障”连接测试失败
Section titled “连接测试失败”优先看 AsterDrive 服务器到对象存储的网络,不要先看浏览器。
检查:
- endpoint 是否能从服务器访问
- bucket 是否存在
- region 是否匹配
- path-style 是否正确
- 凭证是否有权限
上传到一半失败
Section titled “上传到一半失败”如果是 relay_stream:
- 看 AsterDrive 日志
- 看对象存储是否有写入失败
- 看反向代理上传限制
- 看策略组规则和单文件大小上限
如果是 presigned:
- 看浏览器控制台
- 看对象存储 CORS
- 看用户网络到对象存储是否稳定
- 看大文件上传权限是否完整
下载重定向后打不开
Section titled “下载重定向后打不开”通常发生在 presigned 下载。
检查:
- 用户是否能访问对象存储 endpoint
- presigned URL 是否过期
- 对象存储是否返回正确
Content-Type - 对象存储侧是否改写
Content-Disposition - CDN 或网关是否拦截签名参数
旧文件突然找不到
Section titled “旧文件突然找不到”先问最近有没有改过:
- endpoint
- bucket
- prefix
- path-style
- 凭证
- 对象存储里的实际对象路径
如果改过,先恢复原配置。已经写入的文件按原路径读,直接改落点不会自动搬迁旧对象。
14. 日常维护
Section titled “14. 日常维护”- 定期确认凭证没有过期
- 定期用真实账号上传和下载抽查
- 不要手动清理仍被 AsterDrive 引用的对象
- bucket 侧如果开启生命周期规则,确认不会清理正常对象
- 如果对象存储支持版本化或复制,按你的备份策略启用
- AsterDrive 数据库和对象存储要一起考虑备份一致性
完整备份边界见 备份与恢复。