ARTI

ARTI 指南

提交与续跑预测

保留原始请求身份、结构化结果与命名二进制文件,沿持久结果日志继续未完成工作。

本页内容

配置两个批处理边界

外层 batch_size 限定已提交分区。predict_kwargs 属于任务 callback,可以采用不同模型批量。请求使用唯一非空字符串 ID,callback 按输入顺序为每条输入返回一个 JSON 兼容结果。

python
import arti

run = arti.PredictionRunConfig(
    "outputs/prediction",
    batch_size=64,
    predict_kwargs={"batch_size": 16},
)
result = arti.run_prediction(
    "outputs/model", "requests.jsonl", run,
    task_factory="my_package.tasks:build_task",
)
result = arti.run_prediction(
    "outputs/model", None, run, resume=True,
    task_factory="my_package.tasks:build_task",
)

以已提交部分为依据

plan.json 固定原始输入、有序 ID、源模型、任务身份与预测策略。每部分通过目录原子重命名一起发布 predictions.jsonl 和回执。后续进度写入中断时,续跑仍然接纳完整回执。

保存对象用途
plan.json原始总体与固定策略
已提交部分与回执结果与执行证据的依据
最终 JSONL由完整部分合并的派生流

声明原生文件输出

图片、数组或其他任务格式,可以随结构化结果声明命名相对文件。持久文件契约绑定内容,保留任务原始编码。Codec、媒体解码与输出含义仍由应用负责。

继续或重建完整结果

未完成运行需要原模型资产和任务代码。全部部分提交后,最终 JSONL 可以无需模型调用或原请求文件而重建。若提供模型,它仍须匹配固定来源。移动完整结果日志不改变内容身份。

终端
python -m arti recipe inspect-prediction outputs/prediction
python -m arti recipe predict-run --run-dir outputs/prediction --resume