模型挂载
ARTI 可以发现目标层,并把 Recall 分支挂载到已有 PyTorch 模型。
挂载到指定层
Section titled “挂载到指定层”import arti
model = arti.ARTI.attach( model, recall={ "layers": "model.layers.*", "rank": 16, "slots": 8, },)挂载配置支持明确路径、glob 模式、逐层维度、独立 Recall 线、Half 开关与训练设置。
检查资源开销
Section titled “检查资源开销”print(model.arti.summary())在训练或导出前,使用摘要与资源预览限制新增参数规模。
保存紧凑状态
Section titled “保存紧凑状态”model.arti.save("assistant.recall.arti.st")基础模型与 ARTI 状态可以保持分离,移除操作也是可逆的:
model.arti.remove()可选集成边界
Section titled “可选集成边界”- 核心:PyTorch 优先
- 可选:Transformers 与 Qwen
- 可选:PEFT
- 可选:Diffusers 与 Stable Diffusion
核心包不依赖这些框架。