跳转到内容

模型挂载

ARTI 可以发现目标层,并把 Recall 分支挂载到已有 PyTorch 模型。

import arti
model = arti.ARTI.attach(
model,
recall={
"layers": "model.layers.*",
"rank": 16,
"slots": 8,
},
)

挂载配置支持明确路径、glob 模式、逐层维度、独立 Recall 线、Half 开关与训练设置。

print(model.arti.summary())

在训练或导出前,使用摘要与资源预览限制新增参数规模。

model.arti.save("assistant.recall.arti.st")

基础模型与 ARTI 状态可以保持分离,移除操作也是可逆的:

model.arti.remove()
  • 核心:PyTorch 优先
  • 可选:Transformers 与 Qwen
  • 可选:PEFT
  • 可选:Diffusers 与 Stable Diffusion

核心包不依赖这些框架。