Knowit
c6279bff08
补齐前一批失败的 2 个 legacy Pro 项目（立创·泰山派 RK3566、立创·梁山派），
打通 Pro 2.x 旧版工程的源抓取链路。结合上一 commit 的 modern Pro 3.x
路径，本仓库 5/5 Pro 项目 EPRO2/dataStr 全部端到端打通。
Pro 2.x 与 Pro 3.x 是两个完全不同的存储模型：
- Pro 3.x：git-style branch + linear history chain，AES-128-GCM 加密的
EPRO2 增量消息流，按 history 重放（已在前一 commit 打通）
- Pro 2.x：无 branch / 无 history。文档以 EasyEDA Std plaintext dataStr
存储（同 ["DOCTYPE","SCH","1.1"] 格式），按 doc UUID 通过
/api/v2/documents/lists 批量 GET，主体无加密，只组件库走 AES
Pro 2.x 抓取链由 HAR (tmp/prodownload3.har, 178 请求) 反推：
GET /api/v4/projects/<P> → boards: [{sch, pcb, name}]
GET /api/projects/<P>/ticket?uuid=&g_ticket=-1
→ 完整项目 manifest
POST /api/schematic/lists {uuids:[<sch>]} → sort: [{uuid:<sheet>}]
POST /api/v2/documents/lists {uuids,docType:1} → schematic plaintext
POST /api/v2/documents/lists {uuids,docType:3} → PCB plaintext
POST /api/coppers/search {paths} → 铺铜层
POST /api/textpath/search {paths,project_uuid}→ 字体/文字
POST /api/v2/resources/search {hash,project_uuid} → BLOB 图片
实现：
- crawlers/oshwhub/crawler.py:
- fetch_pro_source() refactor 成 dispatcher，先 GET project meta
检查 branch_uuid，null 即旧版走 _fetch_pro_legacy()，非空走
_fetch_pro_modern()
- _fetch_pro_legacy() 新增（按上面 9 步流程拉所有 doc + 辅助层）
- _pro_post_json() POST helper（与 _pro_get_json 对称）
- schemas/project.schema.json: source_format enum 加 easyeda-pro-legacy
- docs/sources/easyeda_pro_source.md rev 4: §1.1 旧版 vs 新版判别表更新、
§2.7 新增旧版抓取流程 + 实测数据
落盘约定（旧版）：
source/ticket.json 完整 manifest
source/<sheet_uuid>.json 每张原理图（含 dataStr）
source/pcb_<pcb_uuid>.json 每块 PCB
source/coppers.json/textpath.json/blobs.json 辅助 PCB 层资源
source/manifest.json 索引
实测：
立创·梁山派 editor=2.1.30, 2 sheets+1 pcb, 1.0 MB, 78 sym/191 fp/128 dev
立创·泰山派 RK3566 editor=2.1.40, 29 sheets+1 pcb, 0.8 MB, 299 sym/524 fp/295 dev
旧版项目体量比新版小两个数量级（梁山派 1 MB vs RK3576 66 MB）—— 没有
增量 history，组件库走单独端点，本身就是当前快照。
5/5 Pro 项目终极汇总：
X86 主板 easyeda-pro 3.2.15 7374 docs / 481 MB
泰山派 RK3566 easyeda-pro-legacy 2.1.40 30 docs / 0.8 MB
梁山派 easyeda-pro-legacy 2.1.30 3 docs / 1.0 MB
220V 桌面电源 easyeda-pro 3.2.69 771 docs / 26 MB
ESP-VoCat easyeda-pro 3.2.91 278 docs / 7.5 MB
共 8456 docs / ~516 MB plain。
Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
FacereDataset
为 Facere 专有模型训练与硬件设计知识库提供数据支撑的开源硬件设计数据集。
目标
采集、清洗、结构化互联网公开可用的硬件设计资产（原理图、PCB、BOM、Gerber、3D 模型、固件、文档），输出：
- 训练数据集：可直接喂给 LLM / 多模态模型做预训练、SFT、RAG 的结构化语料。
- 检索型知识库：按元器件、拓扑、应用领域可查的设计参考库。
- 派生产物：元件封装库、常见子电路模板、BOM 成本曲线等。
数据来源（第一批）
| 站点 | URL | 覆盖 | 许可 | 复杂度 | 登录态 |
|---|---|---|---|---|---|
| 立创开源平台 | oshwhub.com | 12 493 公开项目（附件 + 元数据） | GPL 3.0 / Public Domain / CC-BY-SA 为主 | 中 | 不需要 |
| 立创 EDA 工程源 | u.lceda.cn | 原理图 + PCB + 组件 JSON | 同 oshwhub 项目 | 中 | 需要（合法账号，见 CLAUDE.md） |
HF bshada/open-schematics |
huggingface.co | 10K+ KiCad 已预处理 schematics | CC-BY-4.0 | 极低（整包镜像） | 不需要 |
| GitHub | github.com | KiCad / EasyEDA repo | 各 repo 自定 | 低（gh API） | 不需要 |
| Hackaday.io | hackaday.io | 项目叙事 + 文件 | 作者自定 | 中 | 不需要 |
| CERN OHR | ohwr.org | 高质量工业级 | CERN-OHL | 低 | 不需要 |
| Wikifactory | wikifactory.com | 社区项目 | 作者自定 | 中 | 不需要 |
运行环境：专用云服务器（广州），登录凭据集中在 ~/.secrets/。详情见 docs/infra.md（部署后创建）。
详细爬取计划见 plan.md；当前已入库项目清单见 projects.md。
仓库结构
FacereDataset/
├── README.md 项目简介（本文件）
├── CLAUDE.md Claude Code 项目级指令
├── plan.md 分阶段爬取与处理计划
├── log.md 执行日志（时间倒序）
├── crawlers/ 各站点爬虫（一站一子包）
├── schemas/ 统一数据 schema（project.schema.json）
├── scripts/ 去重、格式转换、完整性校验工具
├── data/ 数据产出（raw/ processed/，大文件走 LFS 或外部存储）
└── docs/ 设计笔记、法律合规、数据字典
合法与伦理
- 产出结果用于研究，不公开，不再分发
- 只抓取公开可访问、标注为开源或明确允许再分发的内容。
- 每条记录保留
source_url、author、license、crawled_at作溯源。 - 后续按许可证逐条核对清洗（CC-BY 要求署名，CC-BY-SA 要求同许可分享，等）。
快速开始
# 克隆
git clone https://git.deepknow.site/Facere/FacereDataset.git
cd FacereDataset
# 安装（Python 3.11+，uv）
uv sync
# 运行某个爬虫
uv run python -m crawlers.oshwhub --limit 10
当前处于骨架初始化阶段，爬虫尚未实现。见
plan.mdPhase 1。
维护
- 主要维护者：Charles（
git.deepknow.site/Knowit） - 远端：
git.deepknow.site/Facere/FacereDataset - 问题追踪：Gitea Issues