概述

Zilli v3.0 是一个自我进化的工程平台,专门用于 AI 自主设计、开发、测试、优化和部署 MOM(Model of Models)元级人工智能系统。核心理念融合了群体智能调度(MOM 技术) 与双模型协同工程(Zilli 原架构),最终为数据敏感型企业提供高性能、低成本、数据可控的 本地化 MOM 私有部署方案。

在 Zilli v3.0 中,MOM 不仅是系统的最终产物,其关键技术(任务 DAG 分解、元评估模型、多目标优化等) 也被反向应用于 Zilli 自身的开发流水线,实现"用 MOM 思想打造 MOM 系统"的闭环。

Zilli 由 Ethercoin 维护, 构建在 Ethercoin 去中心化算力网络之上(12,847+ 节点 / 356 PFLOPS), 通过 ZK+TEE+PoRW 三维验证确保训练和推理的可信性。

双层架构

Zilli v3.0 采用双层架构:顶层元调度层(MOM 内核)执行群体智能协调;下层开发流水线层(Zilli 引擎)执行工具的自动化生产。

顶层:MOM 元调度层(运行时)

一个模型之上的操作系统:将复杂任务分解为可并行的子任务 DAG,依据模型能力画像动态选择最优模型组合,通过元评估模型前瞻性预判性能,最终在多目标(质量、成本、延迟、隐私、吞吐)间取得 Pareto 最优。

下层:Zilli 开发流水线层(构建时)

双模型协同(SOTA Planner + 高性价比 Executor)完成 Plan → Generate → Verify → Reflect → Evolve 闭环。Planner 负责深度规划与反思(调用频率 <5%),Executor 承担 95% 的生成工作,通过蒸馏 + RL 持续进化。

五阶段执行蓝图

Plan — SOTA 主导

将高层需求分解为子任务 DAG,指定输入/输出 Schema、验收标准、允许的工具与库。生成任务编排文件,标记需要 Planner 介入的关键节点。

Generate — Executor 主导

Executor 并行执行叶子任务;Planner 修正模式在 Executor 置信度低于阈值时介入,进行单次 Critic-Edit。生成代码、配置、测试用例与文档。

Verify — 分层自动化

静态检查 → 沙箱测试 → 行为一致性校验 → Planner 审查(高风险任务)。失败自动重试(最多 3 次),每次注入错误信息。

Reflect — Planner 深度复盘

分析完整执行轨迹,生成根因分类报告(规划错误/生成质量/环境问题/需求偏差),提取成功模式存入轨迹记忆库。

Evolve — 闭环学习

即时策略更新 + 训练数据积累 + 周期性蒸馏与 RL 训练。三条并行路径确保系统持续进化。

MOM 元调度核心

MOM 内核是 Zilli v3.0 的智慧中枢,负责在运行时实现多模型群体智能的最优调度。

任务分解器

将复杂请求递归分解为 DAG 子任务,支持拓扑排序、关键路径计算与并行组调度,可导出 Mermaid 流程图可视化。

GPS-MOM 预测路由

四步决策流水线:PPM 前置预测器(任务家族分类 + 难度评分 + LRU 缓存)→ 三档策略选择(ECONOMY / STANDARD / ENHANCED)→ 模型画像筛选 → 最优模型绑定。预测延迟 <10ms,缓存命中率 >60%。

模型能力画像

维护每个模型的 5 维能力向量,采用 ELO 评分 + 贝叶斯 EMA 在线更新 + softmax Thompson 采样选择,JSON 原子持久化。

贝叶斯元评估模型

高斯共轭先验更新估计真实误差分布,小样本下依然稳健。支持漂移检测、特征重要性分析与校准误差置信区间。

多目标优化引擎

NSGA-II 在质量、成本、延迟、隐私、吞吐五个维度上求解 Pareto 最优绑定决策。支持权重偏好配置与约束求解。

动态成本控制

月度预算 + 小时配额 + 紧急模式三级管控。SOTA 模型调用占比硬性约束在 <5%(max_sota_ratio 硬上限),成本占比 <10%。

企业隐私治理

Zilli 的隐私模块为敏感的企业工作负载提供端到端数据治理,五级数据分类驱动整个 Agent 生命周期中的自动化策略执行。

五级数据分类

PUBLIC / INTERNAL / CONFIDENTIAL / RESTRICTED / REGULATED。自动检测 PII/PHI,包含个人标识符的数据自动提升至 CONFIDENTIAL 级别以上。

PrivacyGatekeeper

根据数据分类和租户策略做出本地/云端/拒绝决策。RESTRICTED 和 REGULATED 数据强制本地执行。

合规报告

基于审计追踪(JSONL 格式)自动生成 GDPR、HIPAA、SOC2 合规报告,无需额外存储基础设施。

训练与蒸馏

Executor 模型通过 SFT + RL(CISPO/GRPO)+ 蒸馏持续进化,实现"高性价比 AI 写 AI"。

训练数据流水线

自动收集成功轨迹作为正样本;失败任务经 Planner 反思生成修正轨迹;人工反馈提升样本权重。

分层经验回放池

黄金轨迹(reward > 0.8)直接入库;低奖励轨迹由 Planner 修正后存入失败反思池。混合采样训练。

Executor-only 评估

完全禁止 Planner 调用,验证 Executor 独立完成能力。通过标准:核心任务成功率 ≥85%,成本 < SOTA 的 5%。

循环引擎与自我改进

通用 Retry → Verify → Correct 循环框架,配合 Self-Harness 元循环实现系统级的自我诊断与自我修复。

Loop 循环引擎

泛型 LoopRunner + MetaLoopRunner 双层元循环。5 种验证器(TestSuite / Predicate / ExternalModel / Skill / Composite)× 3 种触发器(定时 / 事件 / 动态间隔)。

Self-Harness 三阶段元循环

WeaknessMiner 失败聚类 → 有界 HarnessEdit 提案 → held-in / held-out 分体验证。通过率改善 ≥5% 且无回归时自动接受改进。

技能进化引擎

4 种进化策略(prompt 优化 / 错误处理 / 边界精化 / 工具增强)+ 代码指纹多样性门控(6 维加权 Jaccard + n-gram),防止种群崩溃。

未知项发现(Fable 方法)

盲点扫描识别 unknown unknowns → 面试问题生成 → 实现笔记追踪决策偏差 → 测验验证理解。把"发现未知"变成可复用的工程能力。

SWE-bench 修复代理

复现 → 探索 → 诊断 → 修复 → 验证的全自动 Bug 修复循环,支持 Docker 沙箱隔离与迭代收敛。

L6 群智能(RFC-006)

多 Agent 协作编排:任务分解(DAG 最长依赖链深度校验)→ 并行执行(确定性 sink 收敛)→ 路由(精确匹配优先 + 模型能力画像)→ 共识(含人工升级通道)。`zilli swarm` CLI 一键编排。

工程成熟度

当前版本 v1.1.0,生产级工程质量保障。

测试与质量

1380 项测试全部通过、0 警告;覆盖率 92%;ruff 静态检查 0 错误;pyright 类型检查 0 错误。GitHub Actions CI 覆盖 lint + typecheck + 多版本测试。

端到端闭环

Evolve → Train → Deploy → Monitor 完整管线(EvolveToTrainPipeline),支持训练断点续训与 Champion-Challenger 统计显著性擂台。

反馈闭环

FeedbackCollector 异步队列 + JSONL 批量持久化(100 条触发),LLM-as-Judge 质量评分(失败自动回退启发式),PPM 在线权重训练。

技术栈

语言

Python 3.12+(Rust 辅助内核 zilli_hotpath PyO3 绑定 v0.3.0:PPM 预测 7.7µs/call ≈ 纯 Python 的 20.2×,功能一致性 100%)

工作流引擎

Celery + Redis(DAG 持久化执行、任务重试、结果回调)

RL 算法

CISPO, GRPO(蒙特卡洛 + GAE 优势估计)

向量存储

ChromaDB(语义检索、元数据过滤、集合管理)

服务与管理

FastAPI(OpenAI 兼容接口、流式响应、API Key 认证)+ Streamlit 管理台(审计浏览、成本监控、PPM 统计)

沙箱

Docker SDK 动态容器(测试隔离执行)