01 / 系统与智能运行时
Shimmy WASM → Loom — 从安全执行边界到 LLM-first 运行时
先解决不可信代码的WASM隔离,再把模型流式计划编译为可并行执行的DAG。
问题演化
Shimmy首先回答:如何在Lambda兼容环境中安全、低延迟地执行不可信多语言代码? 这进一步暴露出另一个问题:LLM如何规划、调度并安全执行多个工具和代码步骤?Loom由此产生。
Shimmy WASM
- 以Go/Wazero实现WASM执行后端和语言无关JSON评测协议。
- 建设编译模块池、WASM实例池及请求后内存快照恢复,提供干净warm-start语义。
- 由WASI、受限文件系统和Lambda接口限定模型可调用的宿主能力。
Loom
- 将模型流式输出增量解析为DAG;步骤一旦闭合即可调度,不必等待完整计划。
- 独立工具与Agent分支并行执行,并把结果重新注入会话。
- 提供IO、write、pure、shell、agent、defun和call等组合式原语。
- 复用WASM沙箱、安全文件系统、LRU/singleflight与Prometheus指标。
设计原则
计划只是声明;执行器负责依赖、并发、能力边界、状态和可观测性。把二者分离后,模型输出可以被检查、调度和失败恢复。
能力覆盖
安全执行、Planning、Tool Use、并行调度、运行时设计和自动化评测。