关于 Higress
AI-native API gateway for AI Agent development and LLM API management.
什么是Higress.AI?
Higress是一个基于Istio和Envoy的AI原生API网关,支持用Go/Rust/JS编写的Wasm插件进行扩展。它提供AI网关、MCP服务器托管、Kubernetes入口控制器、微服务网关和安全网关。Higress AI网关提供多种模型灵活切换与回退重试、大模型内容安全与合规、语义缓存、多API Key均衡、Token配额管理与限流、大模型流量灰度、调用成本审计等功能,帮助企业开发Agent、管理LLM API。
如何使用 Higress.AI?
Higress可以用于开发AI Agents和管理LLM API。它提供多模型切换、内容安全、语义缓存、API Key均衡、Token管理、流量灰度和成本审计等功能。它还支持将现有的RESTful API转换为MCP服务器。
Higress.AI 的核心功能
AI网关
MCP服务器托管
Kubernetes入口控制器
微服务网关
安全网关
多模型灵活切换与回退重试
大模型内容安全与合规
语义缓存
多API Key均衡
Token配额管理与限流
大模型流量灰度
调用成本审计
MCP服务器托管
Kubernetes入口控制器
微服务网关
安全网关
多模型灵活切换与回退重试
大模型内容安全与合规
语义缓存
多API Key均衡
Token配额管理与限流
大模型流量灰度
调用成本审计
功能标签
ai-代码编程与辅助
新出AI