ARTI 给计算,自己的规则
把想法,写进模型。
给模型写下自己的计算。组合运算,选择可学习值,接回状态,留下可读、可运行的程序。
从 CPU 练习开始 · 加一处运算 · 留下一份声明
面向 Python 的神经运行时PyTorch / JAX3.3.0
15 条类型化指令。同一个有界递推,由 PyTorch 与原生 JAX 执行。
给计算,自己的规则
一个小想法, 响应就有了变化。
这次,你希望投影后的负值特征先温和一些,再进入下一次投影。保留输入和数值,在 Formula 中加入 SiLU,把这个行为写进声明。
LoRA 本身就可以是 Formula 程序。标量示意解释新增运算;它是否有利于某个任务,需要另外实验。
这一次,让投影后的特征先经过 SiLU,再进入下一次投影。
base + B(SiLU(Ax))
5 条指令65,536 个数值保持不变只看这一步运算:标量 −2 会变为约 −0.238,响应在进入 B 之前改变。
动手试一次 LoRA → SiLU分组展示固定神经层输入上的声明,gain = 1,零次训练更新。这里体现计算改写,不代表阅读效果提升。
你的第一份成果
一份声明, 让改动留下。
第一个练习从 LoRA 出发,加入 SiLU,保存并重载改写后的声明。最后留下可读的程序,以及改动前后的核对记录。
- 01拿到一份小脚本
- 02在自己的电脑上运行
- 03留下声明和记录
需要 Python 与 CPU 依赖,无需基座模型或训练。练习使用调用方提供的同一绑定重载声明。
你加入的运算
SiLU{"mode":"silu"}y[0,0,0]固定输入 · 加入 SiLU 前 / 后 · 记录值显示至六位小数
- 计算声明
- 4 → 5条指令
- 绑定的数值
- 65,536保持不变
[0, 0, 0][0.170, 0.301, -0.119]让状态,回到你手里
起点由你传入, 下一步回到你手里。
在这份公开递推程序里,你传入一个初始状态。五步之后,程序返回新的状态,原来的状态保持不变。接下来怎样继续,仍由你安排。
沿着状态,继续看这里记录了五步状态流转,并非训练更新或阅读效果结果。PyTorch 与有界原生 JAX 执行同一声明。
把保存的成果,带回自己的电脑
接下来, 换成你的材料。
带走保存的中英文阅读程序。在自己的电脑上先运行小示例,再试试你的短说明、条款或材料。这是一个上手入口,模型能力仍需要你核对。
无需训练或 GPU,首次基座下载约 1.2 GB。小模型可能读错材料,回答需要与原文核对。
北城图书馆工作日上午九点开馆,周六上午十点开馆,周日闭馆。图书可以借阅21天,每本图书允许续借一次。图书可以借阅多久?
使用上手包中的已训练程序。示例展示实际输出,回答自己的材料时请与原文核对。
04 让成果留下
实验会结束, 成果可以继续。
可以检查的计算声明,可以重新加载的资产,以及受支持范围内能够继续的训练状态。
今天,从哪里开始?
先做一点, 再继续你的想法。
公开实现,下一步由你继续。
python -m pip install "arti-fit==3.3.0"