这两周 AI 圈突然冒出了一个叫 Jev 的决策模型,热度很高。它是 TypeSafe AI 推出的 System One 模型,不生成文本,只做结构化决策(Choice / Score / Noul),响应大概 70–500 毫秒,闭源,按 Token 计费,定位是云端高频决策引擎。
结果三天后,开源选手 Laya 直接“掀桌子”。
Laya 是什么?
Laya 是 Convai Innovations 开源的 System One 决策模型(Apache 2.0),参数量约 421M,可本地运行。它同样不生成文字,一次前向就能输出带校准概率的结构化决策,单次决策延迟可做到几十毫秒级别,实测能支撑 60FPS 级别的实时决策场景。
实测对比(视频演示)
- 左边 Laya(本地),右边 Jev(云端)
- 游戏场景中 Jev 已经 Game Over,Laya 还在继续玩
- 本地调用响应明显更快,云端则有网络延迟
- 数据流向:Laya 本地闭环,Jev 数据上行
简单对比表:
| 项目 | Jev | Laya |
|---|---|---|
| 类型 | 云端决策代表 | 开源本地模型 |
| 延迟 | 约 300ms 量级 | 单次决策几十毫秒,可达 60FPS |
| 计费 | 闭源,按 Token | 免费,本地运行 |
| 模型大小 | 未知 | 约 421M |
| 数据流向 | 上行云端 | 本地 |
如何用 PanelAI 一键部署 Laya?
很多博主只展示效果,不讲部署。用 PanelAI 可以把这件事简化成几步:
- 打开 PanelAI,进入应用市场
- 搜索 Laya 或向下滚动找到它
- 点击「一键部署」,选择节点并确认安装
- 安装完成后在「已安装」里找到 Laya,点击「运营」打开
- 复制页面上的 API 地址(完整网址)
- 把地址粘贴到你的 Demo 或调用工具里,保存并应用,即可看到在线状态
注意:
- 默认需要把服务器网络环境打通。Laya 项目包含较大模型文件,免费镜像加速容易抖动导致安装失败,建议先确保网络通畅再安装。
- 本机或局域网部署会更快,公司服务器部署会有一点延迟,但仍能达到 70–80 的流畅度。
- 纯 Laya 决策时如果没有额外处理(比如撞墙逻辑),效果会显得不够“智能”,实际它主要负责上下左右等决策输出。
接入方式
任何支持该 API 请求地址的程序都可以接入,接入后就能让 Laya 帮你做实时决策。PanelAI 里还有很多模型、插件、技能支持一键下载安装,部署完后在资源授权里勾选对应模型即可让项目跑本地模型。
想自己试部署的,直接装个 PanelAI,按上面步骤操作即可。演示工具需要的话也可以找原视频作者要。
点个赞支持一下,我们下个视频再见。