需求 1:模型上传支持压缩包(MMD 模型包) - common/zip-reader.ts:纯 TS 极简 ZIP 读取器(EOCD/中央目录、STORE+DEFLATE、 ZIP64 大小字段、Shift-JIS/GBK 文件名回退、拒绝 zip-slip 与加密条目) - models/model-convert.ts:解压 → 选主模型(指名字/最浅/最大)→ Assimp 导出 FBX → **assimp info 回读校验**(Assimp 对带蒙皮大骨架模型会写出损坏文件: 实测 714 骨骼 PMX 导出退出码 11、产物回读报 FBX-DOM no Objects dictionary found) → 失败自动回退 GLB;两种都失败则 422 - models/glb-textures.ts:把 Assimp 写成外部 URI 的贴图内嵌进 GLB 的 BIN chunk, 保证模型库里单文件即可加载(否则是白模) - 溯源:压缩包原件存为 model-archive 资产;models 新增 source_asset_id / conversion_note(迁移 1789450000000-AddModelConversionFields,已在真实库上 验证 up/down 可逆) - 默认模型:转换成功且 autoDefault 不为 false → is_primary=1 + published, 并把身份(名称/格式/产物 sha256)写进源码 src/config/default-model.ts; resolveDefaultModelId 增加 DEFAULT_MODEL_ID 与源码种子两步(按 sha256 匹配, 换库仍有效),实测库中有 2 个 VRM 时默认模型仍解析为该 GLB - scripts/import-default-model.mjs:运维 CLI(上传 zip 并写源码 / --write-source-only) - 修复 multipart 中文文件名乱码(upload.util.decodeUploadName) - DTO/契约新增 conversionNote、fileSha256;管理端 accept 增加 .zip 并展示转换来源 需求 2:首次启动 .env 引导 - deploy/init-env.sh:交互式逐项填写 8 个键(回车保留默认、口令不回显不加引号、 端口校验、mysql2 连通性自检且口令只经环境变量传递、只改这 8 个键并保留模板注释、 chmod 600、结尾打码摘要);--force/--check/-y/-i/--skip-db-check 等开关; 非交互(-y、OPENDANCE_NONINTERACTIVE、stdin 关闭)绝不提问、读取带超时 - install.sh 缺 .env 时改为调用引导,失败才 die 需求 3:默认监听 0.0.0.0 - 代码默认值、两份 .env 模板、install.sh、init-env.sh 五处一致,并新增测试守护 (未设置 HOST 时为 0.0.0.0;两份模板都写着 HOST=0.0.0.0) 契约:rest-api / data-models / model-formats → 0.3.0,database → 0.2.0(另两库已同步) 验证:125 项单测通过(7 文件);契约 6 项与 29 条路由一致;typecheck/build 通过; 真实包端到端 HTTP 201 / 0.89s / format=glb / isPrimary=true / published; GLB 1,152,464 字节、1 mesh / 240 nodes / 1 skin(238 joints) / 2 张内嵌贴图; 迁移 revert→run 实测可逆且数据无损恢复
16 KiB
16 KiB
DSH.md —— opendance-web(OpenDance Studio 项目一:Web 管理服务端)
0. 本文件的作用
本文件是 opendance-web 仓库内的 DSH 执行约束。顶层说明书见用户提供的 《DSH 开发文档:OpenDance Studio》,二者冲突时以顶层文档为准。
1. 项目定位
Web 管理服务端是另两端(Windows 客户端、Android 辅助 App)的唯一数据源与 契约权威。它管理歌曲、VRM 模型与动作来源,并输出冻结的 REST / WebSocket / 数据模型契约。
现有 MySQL 实例(外部,本项目不部署)
│
▼
opendance-web ←── 本仓库
│ 冻结 REST API + 数据模型 + WebSocket 关键点协议
├──▶ opendance-windows
└──▶ opendance-android
2. 技术栈
| 组件 | 选型 |
|---|---|
| 后端 | NestJS 11 |
| ORM | TypeORM 0.3 |
| 数据库 | 现有 MySQL 兼容实例(当前部署为 MariaDB 10.11.19),mysql2 驱动 |
| 管理前端 | React 18 + Vite + TypeScript |
| 3D 预览 | three.js + @pixiv/three-vrm |
| 多格式解析 | BVH / VMD 内置纯 TS 解析器;FBX/glTF 走可选外部 Assimp |
| 模型压缩包 | 纯 TS ZIP 读取器(common/zip-reader.ts)+ 外部 Assimp 转换(models/model-convert.ts);GLB 贴图内嵌见 models/glb-textures.ts |
| 默认模型种子 | web-server/src/config/default-model.ts(服务端/CLI 写入,运行期只读) |
| 认证 | 本版本不含认证(内网部署);上线前须补 ≥ T-WEB-011 |
3. 单次会话加载范围
允许加载:
- 本文件
DSH.md project.yaml- 当前
tasks/xxx.md - 该任务文件中
load列出的文件 contracts/中被明确引用的锚点片段
禁止加载:
opendance-windows/opendance-android的任何源码- 非当前任务的
tasks/*.md - 完整
contracts/目录(只引用锚点) node_modules/、dist/、构建产物、二进制、模型文件、上传存储
4. 上下文预算
| 项 | 建议值 |
|---|---|
| 单任务文件数 | ≤ 6 |
| 单任务代码行数 | ≤ 1500 |
| 单任务 Token | ≤ 12K |
| 契约引用 | 只引用锚点,不加载全文 |
5. 目录结构
opendance-web/
├── project.yaml # 任务清单与状态
├── DSH.md # 本文件
├── tasks/ # 单任务说明书(001~010)
├── contracts/ # ★ 跨端契约(权威)
│ ├── VERSION # 契约版本(唯一来源)
│ ├── rest-api.yaml # OpenAPI 3.0
│ ├── websocket-keypoints.md # 239 字节关键点帧 + 控制消息
│ ├── data-models.md # 资源字段与默认模型选择规则
│ ├── skeleton-topology.md # MediaPipe 33 点拓扑 + 关节角
│ ├── model-formats.md # 支持格式、预处理产物、上传限制
│ ├── database.md # 现有 MySQL 连接与迁移约定
│ └── open-source-credits.md # 开源声明锚点(三端共用)
├── web-server/ # NestJS 服务端
│ ├── src/ # 源码(entities / models / preprocess)
│ │ ├── common/zip-reader.ts # 纯 TS ZIP 读取器(STORE/DEFLATE、ZIP64、zip-slip 防护)
│ │ ├── models/ # 模型上传 + 压缩包转换 + VRM 识别
│ │ │ ├── model-convert.ts # 解压 → 选 PMX → Assimp → 回读校验 → 回退
│ │ │ ├── glb-textures.ts # 把外部贴图内嵌进 GLB 的 BIN chunk
│ │ │ ├── default-model-source.ts # 渲染 / 写入 src/config/default-model.ts
│ │ │ └── vrm-inspector.ts
│ │ ├── config/default-model.ts # 默认模型种子(由服务端/CLI 写入,运行期只读)
│ │ ├── migrations/ # TypeORM 迁移(含 AddModelConversionFields)
│ │ └── preprocess/ # BVH / VMD / FBX → MediaPipe33
│ │ ├── vmd-parser.ts # VMD 二进制 + Shift-JIS + 贝塞尔插值
│ │ ├── mmd-skeleton.ts # 标准 MMD 骨架(静止比例实测自参考 PMX)
│ │ ├── mmd-pose.ts # MMD FK + 两骨骼腿部 IK + 左手系→右手系 Z 镜像
│ │ └── retarget.ts # worldFramesToKeypointFrames():BVH / VMD 共用
│ ├── admin/ # React 管理端
│ ├── test/ # 单元测试 + 端到端冒烟
│ │ # (mmd-vmd / model-archive / init-env / admin-port …)
│ └── scripts/ # migrate.mjs / check-contracts.mjs / check-routes.mjs
│ # / inspect-vmd.mjs(VMD 诊断)
│ # / import-default-model.mjs(默认模型导入 / 补写源码)
├── deploy/ # ★ 业务服务部署(不含 MySQL、不含反代)
│ ├── init-env.sh # ★ 首次启动的 .env 交互引导(install.sh 缺 .env 时调用)
│ ├── install.sh # 一键部署(systemd / OpenRC / SysVinit / 后台进程)
│ ├── uninstall.sh
│ ├── ctl.sh # 无 init 系统时的进程控制
│ ├── .env.example
│ ├── systemd/opendance-api.service
│ ├── openrc/opendance-api
│ ├── initd/opendance-api
│ └── proxy/ # ★ 反代配置说明(nginx / IIS,仅文档不部署)
├── scripts/package-release.sh # 发布产物打包
└── THIRD_PARTY.md
6. 硬性约束
- 不部署 MySQL。数据库为部署方提供的现有实例,连接信息只经环境变量注入。
也不使用 Docker,也不部署反向代理:本端只提供业务服务
(API + 自带的管理端页面),反代由另外的服务负责,
本项目只在
deploy/proxy/下提供 IIS 与 nginx 的配置说明文档。 业务服务监听两个端口(软件 API 端口PORT+ 管理端端口ADMIN_PORT), 约定见 §9。 DB_SYNCHRONIZE生产必须为false,所有表结构变更走 migration;每个 migration 必须可逆。- 绝不把凭证写入仓库。
.env已在.gitignore中,只提交.env.example。 - 来源五元组强制必填:
source_type/source_name/source_url/license/author。任何资产入库缺一即 400。 - 契约先行:改接口先改
contracts/,再提升contracts/VERSION,同步web-server/src/config/contract-versions.ts,最后才改实现。npm run contracts:check在构建前拦截漂移。 - 不使用 SMPL 及其衍生拓扑(许可风险),统一 MediaPipe 33 点。
- 上传文件永不使用原始文件名作为路径,一律
sha256去重后归档。
7. 每任务的执行步骤
# 1. 静态与单元校验
cd web-server
npm run contracts:check
npm run typecheck
npm run test
# 2. 构建
npm run build
# 3. 端到端冒烟(需数据库可连通)
npm run start:prod &
npm run test:smoke
# 4. 数据库迁移
npm run migration:run
# 5. 提交
git checkout -b task/T-WEB-0XX
git add . && git commit -m "feat(web): <scope>"
git push origin task/T-WEB-0XX
# Gitea 创建 PR → 合并到 dev
8. 环境变量
见 web-server/.env.example 与 deploy/.env.example。首次部署的 deploy/.env
可由 deploy/init-env.sh 交互生成(见 §12)。生产关键项:
DB_HOST DB_PORT DB_USER DB_PASS DB_NAME
DB_SYNCHRONIZE=false
PORT=3000 # 软件 API 端口(客户端调用,不含管理页面)
ADMIN_PORT=3001 # 管理端端口(默认 PORT + 1;等于 PORT 为单端口兼容模式)
HOST=0.0.0.0 # 软件 API 监听地址(未设置时默认即 0.0.0.0)
ADMIN_HOST=0.0.0.0 # 可选,管理端监听地址,默认跟随 HOST
STORAGE_DIR=/data/storage
UPLOAD_MAX_BYTES=536870912
ASSIMP_BIN=assimp # 可选;上传 .zip 模型包时必需
MODEL_CONVERT_FORMAT=fbx # 压缩包首选格式;导出后回读校验,失败自动回退 glb
MODEL_CONVERT_PMX="Hatsune Miku.pmx" # 优先选用的 PMX 文件名(大小写不敏感)
MODEL_CONVERT_TIMEOUT_MS=180000
DEFAULT_MODEL_ID=1 # 可选;未设置时按 src/config/default-model.ts 的种子匹配
CONTRACTS_DIR=/contracts # 可选,读取实时契约版本
9. 双端口约定(软件 API 端口 / 管理端端口)
- 软件 API 端口:
PORT,默认 3000。给 Windows/Godot 客户端与 Android App 调用,只提供/api、/health、/static、/contracts;不提供管理页面,/、/songs等一律 404(有意设计,避免管理页暴露在客户端调用的端口上)。 - 管理端端口:
ADMIN_PORT,默认PORT + 1(即 3001)。给浏览器访问, 提供管理页面(含 SPA 深链接回退)与上面全部接口。 ADMIN_HOST可选,默认跟随HOST;可用它把管理端限制在本机或内网。ADMIN_PORT === PORT为单端口兼容模式:管理页面回到 API 端口,日志提示 「未分端口」,只 warn 不中止启动。- 端口非法(非 1..65535 整数)在生产环境会中断启动。
- 启动日志分别打印两行:
软件 API 端口:…与管理端端口:…。 - 反向代理按用途分别转发两个端口;
/health两个端口都提供,可用于存活探测。 细则见deploy/proxy/README.md与tasks/010-deploy.md。
10. VMD 动作通路(MikuMikuDance)
.vmd ─▶ vmd-parser.ts ─▶ mmd-skeleton.ts ─▶ mmd-pose.ts ─▶ retarget.ts
二进制 + Shift-JIS 标准 MMD 骨架 FK + 腿部 IK worldFramesToKeypointFrames()
+ 贝塞尔插值 + Z 镜像 (与 BVH 共用)
MotionFormat.Vmd = 'vmd',扩展名.vmd,固定 30 fps(上传时填写的fps被忽略)。- VMD 二进制:30 字节头 + 20 字节 Shift-JIS 模型名 + 111 字节/条的骨骼关键帧 + morph 段;
只有旋转(少数骨骼带位移)、不含骨骼长度,因此必须靠
mmd-skeleton.ts的标准骨架 (静止比例从参考 PMX 实测)做 FK。 - 腿部驱动自动判定:
足IK有非零位移 → 两骨骼解析 IK(膝盖朝角色正面弯, 不可达时收敛为伸直);否则用 FK 旋转。部分动作数据把腿烘焙成 FK。 - 手性:MMD 为左手系,统一做 Z 镜像(旋转
(x,y,z,w) → (-x,-y,z,w)、位移 z 取反) 后进入右手系通路。由真实数据对照实验确定:腿部烘焙为 FK 的样本中,zMirrored下「膝盖朝前」占 94.1%,不转换仅 5.9%。 worldFramesToKeypointFrames()为 BVH / VMD 共用:骨盆归零 / 自适应缩放 / 图像空间投影 / 9 个关节角完全一致。- 诊断工具:
node scripts/inspect-vmd.mjs 动作.vmd [--frames N] [--json out.json](打印头部/模型名/帧数/轨道数、未识别骨骼、IK 还是 FK、关键点序列异常统计、膝肘角分布)。 - 契约
contracts/model-formats.md§2.3;测试test/mmd-vmd.spec.ts(31 项)。
11. 模型压缩包转换(.zip → FBX / GLB)与默认模型种子
.zip(MMD 包)─▶ zip-reader.ts ─▶ pickModelFile() ─▶ model-convert.ts ─▶ glb-textures.ts
中央目录/EOCD 优先 MODEL_CONVERT_PMX Assimp 导出 GLB 贴图内嵌
STORE+DEFLATE 否则目录最浅、文件最大 + info 回读校验
拒绝 zip-slip/加密 失败回退 FBX → GLB
POST /api/models的file也接受.zip,视为 MMD 模型包;只认包内.pmx。- 新增模块(均在
web-server/src/):common/zip-reader.ts:纯 TS 极简 ZIP 读取器(中央目录/EOCD、STORE+DEFLATE、 ZIP64 大小字段、Shift-JIS/GBK 文件名回退、拒绝 zip-slip 与加密条目、 不支持的压缩方式报错)。models/model-convert.ts:解压 → 选主模型 → Assimp 转换 → 回读校验 → 回退。models/glb-textures.ts:把 GLB 里 Assimp 写成外部 URI 的贴图内嵌进 BIN chunk。models/default-model-source.ts:渲染 / 写入src/config/default-model.ts。config/default-model.ts:默认模型种子(服务端/CLI 写入,运行期只读)。
- 选主模型:优先
MODEL_CONVERT_PMX(默认Hatsune Miku.pmx,大小写不敏感); 否则取目录最浅、其次文件最大者。 - 转换与回退:先试
MODEL_CONVERT_FORMAT(默认fbx);导出后必须用assimp info回读校验,失败自动回退glb,两次尝试写进conversion_note。 实测 Assimp 6.0.4 对 714 骨骼的 Miku PMX 导出 FBX 失败(退出码 11,产物回读报FBX-DOM no Objects dictionary found),实际入库为 GLB。 - 默认模型:转换成功且
autoDefault不为 false(默认 true)→is_primary=1+status=published,并把身份写进源码种子;GET /api/catalog/export的defaultModelId解析顺序为DEFAULT_MODEL_ID→ 源码种子(按产物 sha256 匹配) → 已发布且 is_primary 的 VRM → 任意已发布 VRM → id 最小的已发布模型。 - 溯源:压缩包原件存为
model-archive资产,记入models.source_asset_id(迁移AddModelConversionFields1789450000000);models.conversion_note记转换说明。 - 失败:包内没有
.pmx、Assimp 不可用、两种格式都失败 → HTTP 422, 不产生模型记录。 - 文件名编码:
common/upload.util.ts的decodeUploadName()修正 multipart 文件名的 latin1/UTF-8 乱码(中文文件名原先存成模å_…)。 - 契约:
contracts/model-formats.md§1.1、contracts/data-models.md§4.1; DTO 新增conversionNote/fileSha256;测试test/model-archive.spec.ts(22 项)。
12. 首次启动的 .env 引导(deploy/init-env.sh)与监听地址
deploy/init-env.sh:交互式逐项询问DB_HOST / DB_PORT / DB_USER / DB_PASS / DB_NAME / PORT / ADMIN_PORT / HOST,回车保留默认;口令read -rs不回显、 按约定写盘不加引号;校验必填与端口范围;可用 Node + mysql2 做连通性自检 (口令只经环境变量传递、失败仅告警);只替换/追加这 8 个键、保留模板注释, 写完chmod 600并回读校验;结尾打印摘要(口令***)与变更列表。- 开关:
--force/--check/-y|--yes|--non-interactive/-i|--interactive/--skip-db-check/--dir/--env-file/--example/--timeout/-h; 环境变量OPENDANCE_NONINTERACTIVE/OPENDANCE_INTERACTIVE/OPENDANCE_SKIP_DB_CHECK/OPENDANCE_ENV_FILE/OPENDANCE_ENV_EXAMPLE/OPENDANCE_PROMPT_TIMEOUT。 - 非交互绝不挂住:stdin 非 TTY 且是
</dev/null/关闭,或带-y等开关 → 只校验不提问;所有 read 带超时,EOF/超时立即exit 1。 - 接入点:
deploy/install.sh缺deploy/.env时先调用init-env.sh引导, 失败才 die(若$APP_DIR/deploy/.env已存在则复用,保持原语义)。 - 监听地址默认
0.0.0.0:configuration.ts的bindHost = process.env.HOST ?? '0.0.0.0',adminHost默认跟随HOST(同样回落0.0.0.0);deploy/.env.example与web-server/.env.example均为HOST=0.0.0.0;install.sh的BIND_HOST="${HOST:-0.0.0.0}",init-env.sh的 HOST 默认值也是0.0.0.0。 (install.sh的HEALTH_HOST/API_HOST是本机健康检查用的回环地址, 与对外监听的默认值无关。) - 测试
test/init-env.spec.ts(16 项)。
13. 上下文超标时的拆分策略
| 超标原因 | 拆分方式 |
|---|---|
| 单任务涉及多个端点 | 按端点拆 |
| 单文件过大 | 按类/函数拆,先生成接口再分实现 |
| 契约全文加载 | 改用锚点引用 |
| 需要参考其他项目 | 只读契约,不读源码 |
| UI 与逻辑耦合 | UI 任务只调用已定义接口 |
| 测试与实现同任务 | 测试单独任务,共享接口摘要 |