一款名为 Flowcat 的开源 Rust 运行时,专门用于构建高性能的实时语音 AI 智能体。该项目旨在解决传统 Python 框架在处理高并发通话时因 GIL 锁和垃圾回收导致的延迟波动问题。通过利用 Rust 的异步任务、内存安全以及无锁设计,该系统能在单机上支持高达 2,000 路并发通话,且保持极低的延迟。虽然核心处理性能大幅提升,但作者也坦诚指出,整体通话体验仍受限于后端 LLM 或 TTS 模型的响应速度。总而言之,Flowcat 为开发者提供了一个高性能的底层架构,确保在高负载下运行时系统不会成为语音交互的瓶颈。