Knowit
7f9e2fad73
在 replay 的扁平 objects[id] -> payload 之上盖一层 Relations，建索引和
反向引用，把孤立对象拼成可遍历的图，是后续 EPRO2 → KiCad 转换器的
中间表示前置。
Relations.build(doc) 单遍扫所有对象，得到：
主集合（按类型分桶）：
parts / components / pins / pads / wires / nets / layers / rules
复合 ID 解析（关键）：
'["LAYER",1]' → layers[1]
'["NET","GND"]' → nets["GND"]
'["PAD_NET","e0","1","e7"]' → pad_nets_by_pad/by_net
'["RULE","SAFE","copperThickness1oz"]' → rules[("RULE","SAFE",...)]
反向引用：
obj_ids_by_part partId → 引用对象 ids（lib 内 RECT/TEXT/PIN 都带 partId）
components_by_part partId → component ids
attrs_by_parent parentId → ATTR ids
lines_by_wire WIRE.id → LINE ids（wire 由若干 LINE 段组成）
pad_nets_by_pad PAD.id → PAD_NET 记录
pad_nets_by_net net name → PAD_NET 记录
objects_on_layer / objects_in_net 字段反查
便捷 accessor：
attrs_dict(parent_id) 折叠所有 ATTR ops 到 {key: value} dict（last
write wins），KiCad 转换时按 component 拿
Designator/Value/Footprint 的常用入口
ATTR.parentId 解析（实测发现的两种坑）：
1. 不仅指向 COMPONENT/PART —— 也大量指向 WIRE（schematic 上的网络
标签 / 网络属性）。原查重函数漏算，636 个 false positive
unresolved；改为"任意 doc.objects[parentId] 命中即算 resolved"
2. 复合形式 `<comp_id>-<pin_id>` 用于把 ATTR 挂在某 component 的某个
pin 上（如 PinName）。`_resolve_parent()` 用 split("-",1) 兜底
CLI 加 --relations，按 docType 聚合 stats：
uv run python -m tools.epro2 data/raw/oshwhub/<uuid> --relations
ESP-VoCat 验证：
SCH_PAGE 9 docs : 572 components, 563 wires, 934 lines_grouped,
4111 attrs_attached, 0 unresolved_parents
PCB 6 docs : 206 components, 807 pad_nets, 173 nets, 544 layers
SYMBOL 105 docs : 106 parts, 560 pins, 1680 attrs_attached
FOOTPRINT 55 docs: 496 pads, 9 nets, 1771 layers, 140 rules
注：PCB 内 pads=6 vs pad_nets=807 不矛盾 —— PAD 实例存在 FOOTPRINT
文档里，PCB stream 用 ["PAD_NET",comp,pin,pad] 复合 id 跨文档引用；
解析"comp 的某 pin 通过哪个 footprint 的哪个 pad"需要 project-级
Relations 聚合（下个 task）。
测试：tools/epro2/tests/test_relations.py 9 个单测覆盖复合 id 解析、
lineGroup 链接、parentId 直/复合解析、partId 反查、attrs 折叠。
parser + relations 共 15/15 通过。
Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
FacereDataset
为 Facere 专有模型训练与硬件设计知识库提供数据支撑的开源硬件设计数据集。
目标
采集、清洗、结构化互联网公开可用的硬件设计资产（原理图、PCB、BOM、Gerber、3D 模型、固件、文档），输出：
- 训练数据集：可直接喂给 LLM / 多模态模型做预训练、SFT、RAG 的结构化语料。
- 检索型知识库：按元器件、拓扑、应用领域可查的设计参考库。
- 派生产物：元件封装库、常见子电路模板、BOM 成本曲线等。
数据来源（第一批）
| 站点 | URL | 覆盖 | 许可 | 复杂度 | 登录态 |
|---|---|---|---|---|---|
| 立创开源平台 | oshwhub.com | 12 493 公开项目（附件 + 元数据） | GPL 3.0 / Public Domain / CC-BY-SA 为主 | 中 | 不需要 |
| 立创 EDA 工程源 | u.lceda.cn | 原理图 + PCB + 组件 JSON | 同 oshwhub 项目 | 中 | 需要（合法账号，见 CLAUDE.md） |
HF bshada/open-schematics |
huggingface.co | 10K+ KiCad 已预处理 schematics | CC-BY-4.0 | 极低（整包镜像） | 不需要 |
| GitHub | github.com | KiCad / EasyEDA repo | 各 repo 自定 | 低（gh API） | 不需要 |
| Hackaday.io | hackaday.io | 项目叙事 + 文件 | 作者自定 | 中 | 不需要 |
| CERN OHR | ohwr.org | 高质量工业级 | CERN-OHL | 低 | 不需要 |
| Wikifactory | wikifactory.com | 社区项目 | 作者自定 | 中 | 不需要 |
运行环境：专用云服务器（广州），登录凭据集中在 ~/.secrets/。详情见 docs/infra.md（部署后创建）。
详细爬取计划见 plan.md；当前已入库项目清单见 projects.md。
仓库结构
FacereDataset/
├── README.md 项目简介（本文件）
├── CLAUDE.md Claude Code 项目级指令
├── plan.md 分阶段爬取与处理计划
├── log.md 执行日志（时间倒序）
├── crawlers/ 各站点爬虫（一站一子包）
├── schemas/ 统一数据 schema（project.schema.json）
├── scripts/ 去重、格式转换、完整性校验工具
├── data/ 数据产出（raw/ processed/，大文件走 LFS 或外部存储）
└── docs/ 设计笔记、法律合规、数据字典
合法与伦理
- 产出结果用于研究，不公开，不再分发
- 只抓取公开可访问、标注为开源或明确允许再分发的内容。
- 每条记录保留
source_url、author、license、crawled_at作溯源。 - 后续按许可证逐条核对清洗（CC-BY 要求署名，CC-BY-SA 要求同许可分享，等）。
快速开始
# 克隆
git clone https://git.deepknow.site/Facere/FacereDataset.git
cd FacereDataset
# 安装（Python 3.11+，uv）
uv sync
# 运行某个爬虫
uv run python -m crawlers.oshwhub --limit 10
当前处于骨架初始化阶段，爬虫尚未实现。见
plan.mdPhase 1。
维护
- 主要维护者：Charles（
git.deepknow.site/Knowit） - 远端：
git.deepknow.site/Facere/FacereDataset - 问题追踪：Gitea Issues