概述

Zilli v3.0 是一个自我进化的工程平台,专门用于 AI 自主设计、开发、测试、优化和部署 MOM(Model of Models)元级人工智能系统。核心理念融合了群体智能调度(MOM 技术) 与双模型协同工程(Zilli 原架构),最终为数据敏感型企业提供高性能、低成本、数据可控的 本地化 MOM 私有部署方案。

在 Zilli v3.0 中,MOM 不仅是系统的最终产物,其关键技术(任务 DAG 分解、元评估模型、多目标优化等) 也被反向应用于 Zilli 自身的开发流水线,实现"用 MOM 思想打造 MOM 系统"的闭环。

Zilli 由 Ethercoin 维护, 构建在 Ethercoin 去中心化算力网络之上(12,847+ 节点 / 356 PFLOPS), 通过 ZK+TEE+PoRW 三维验证确保训练和推理的可信性。

双层架构

Zilli v3.0 采用双层架构:顶层元调度层(MOM 内核)执行群体智能协调;下层开发流水线层(Zilli 引擎)执行工具的自动化生产。

顶层:MOM 元调度层(运行时)

一个模型之上的操作系统:将复杂任务分解为可并行的子任务 DAG,依据模型能力画像动态选择最优模型组合,通过元评估模型前瞻性预判性能,最终在多目标(质量、成本、延迟、隐私、吞吐)间取得 Pareto 最优。

下层:Zilli 开发流水线层(构建时)

双模型协同(SOTA Planner + 高性价比 Executor)完成 Plan → Generate → Verify → Reflect → Evolve 闭环。Planner 负责深度规划与反思(调用频率 <5%),Executor 承担 95% 的生成工作,通过蒸馏 + RL 持续进化。

五阶段执行蓝图

Plan — SOTA 主导

将高层需求分解为子任务 DAG,指定输入/输出 Schema、验收标准、允许的工具与库。生成任务编排文件,标记需要 Planner 介入的关键节点。

Generate — Executor 主导

Executor 并行执行叶子任务;Planner 修正模式在 Executor 置信度低于阈值时介入,进行单次 Critic-Edit。生成代码、配置、测试用例与文档。

Verify — 分层自动化

静态检查 → 沙箱测试 → 行为一致性校验 → Planner 审查(高风险任务)。失败自动重试(最多 3 次),每次注入错误信息。

Reflect — Planner 深度复盘

分析完整执行轨迹,生成根因分类报告(规划错误/生成质量/环境问题/需求偏差),提取成功模式存入轨迹记忆库。

Evolve — 闭环学习

即时策略更新 + 训练数据积累 + 周期性蒸馏与 RL 训练。三条并行路径确保系统持续进化。

MOM 元调度核心

MOM 内核是 Zilli v3.0 的智慧中枢,负责在运行时实现多模型群体智能的最优调度。

任务分解器

将复杂请求递归分解为 DAG 子任务,分析依赖关系与并行度,自动识别纯计算型与 I/O 密集型节点。

模型能力画像

维护每个模型的多维能力雷达图(推理、代码、数学、创意、指令遵循、安全性等),采用 ELO 评分和动态衰减更新。

元评估模型

前瞻性预判每个模型在特定子任务上的表现,通过贝叶斯优化 + Thompson Sampling 实现探索与利用的平衡。

多目标优化引擎

在质量、成本、延迟、隐私、吞吐五个维度上求解 Pareto 最优绑定决策。支持权重偏好配置与约束求解。

动态成本控制

月度预算 + 小时配额 + 紧急模式三级管控。SOTA 模型调用占比控制在 <5%,成本占比 <10%。

企业隐私治理

Zilli 的隐私模块为敏感的企业工作负载提供端到端数据治理,五级数据分类驱动整个 Agent 生命周期中的自动化策略执行。

五级数据分类

PUBLIC / INTERNAL / CONFIDENTIAL / RESTRICTED / REGULATED。自动检测 PII/PHI,包含个人标识符的数据自动提升至 CONFIDENTIAL 级别以上。

PrivacyGatekeeper

根据数据分类和租户策略做出本地/云端/拒绝决策。RESTRICTED 和 REGULATED 数据强制本地执行。

合规报告

基于审计追踪(JSONL 格式)自动生成 GDPR、HIPAA、SOC2 合规报告,无需额外存储基础设施。

训练与蒸馏

Executor 模型通过 SFT + RL(CISPO/GRPO)+ 蒸馏持续进化,实现"高性价比 AI 写 AI"。

训练数据流水线

自动收集成功轨迹作为正样本;失败任务经 Planner 反思生成修正轨迹;人工反馈提升样本权重。

分层经验回放池

黄金轨迹(reward > 0.8)直接入库;低奖励轨迹由 Planner 修正后存入失败反思池。混合采样训练。

Executor-only 评估

完全禁止 Planner 调用,验证 Executor 独立完成能力。通过标准:核心任务成功率 ≥85%,成本 < SOTA 的 5%。

技术栈

语言

Python 3.11+, Rust (zilli-rs 内核)

工作流引擎

Temporal / Prefect

RL 算法

CISPO, GRPO, OpenRLHF

向量 + 图数据库

Milvus / Qdrant + Neo4j / FalkorDB

沙箱

K8s + Firecracker microVM