跳转至

数据湖目录

湖根目录由配置中的 [data].root 决定。不同演示湖和正式湖应使用独立路径。

路径 用途
staging/ 尚待合并的批次数据;失败恢复可能依赖它
curated/、derived/ 合并工作副本及兼容布局;直接扫描不固定已发布版本
meta/revisions/ 数据版本收据、当前版本指针与不可变数据文件
meta/state/ 更新水位与覆盖状态
meta/quality/ 质量检查与来源差异报告
meta/raw/ 原始响应归档
meta/raw_storage.json 可选的外置原文位置登记;来源记录仍在 meta/raw/,快照会包含外置原文而不依赖本机路径
meta/source_snapshots/ 用于来源核验的快照
meta/locks/ 单次运行、发布和写入协调所用的锁
locks/ 调度脚本与操作页共用的调度锁。可用 CNE_SCHEDULER_LOCK_DIR 或 CNE_LOCK_DIR 改到别处
meta/snapshots/ 默认可移植数据快照。含所选数据集及对应状态、契约和修订,不含原配置与凭据
meta/serve_jobs/ 操作页任务记录与取消标记
duckdb/ SQL 视图数据库
logs/ 运行日志
backups/ 湖内备份的可选位置。调度脚本默认把元数据 tar 放在这里;操作页也可以把数据快照放在这里。元数据 tar 不能恢复行情,数据快照也不能代替整盘复制

日常管理

通过 Python API 或 cne query 读取已发布数据。不要直接修改版本指针、generation 文件或把备份放进 curated/。长期保存使用研究快照,日志和报告留在自己的本地目录。

清理 staging 前先确认任务已完成并已合并。meta/locks/ 和 locks/ 里的锁文件存在,都不等于仍有进程持锁;不要靠删除锁文件恢复运行。见排障。

分区布局发生变化时,旧目录仍可能可读,但与新目录重叠会造成重复主键。按迁移脚本说明先预演、备份,再统一布局。