Ollaya让Jev决策模型本地运行
Ollaya是一款面向开源Jev风格决策模型的本地运行工具,可在自有硬件上对文本或JSON进行低延迟、校准式决策。它兼容TypeSafe API及官方Python SDK,RTX 4090上五个问题端到端响应约需8至10毫秒。
事件进展(1 篇报道)
-
2026-09-26 02:33
Ollaya是一款面向开源Jev风格决策模型的本地运行工具,可在自有硬件上对文本或JSON进行低延迟、校准式决策。它兼容TypeSafe API及官方Python SDK,RTX 4090上五个问题端到端响应约需8至10毫秒。