魔芋AI 旗下 · 企业级 AI 网关 面向企业规模化使用大模型的接入、管理与治理需求，把模型聚合、智能调度、权限隔离、成本分账、全链路监控与安全合规连接起来——让企业的每一次 AI 调用都可见、可控、可计量、可优化。
|
|
|
|
产品全称
|
MAIGateway（魔芋企业 AI 网关）
|
|
开发主体
|
武汉市魔芋数字有限公司 · 奇墨科技有限公司
|
|
官方网站
|
https://mai.moyu.cn/
|
|
客服热线
|
4008-233-655
|
|
核心特性
|
私有化部署 · 软硬一体 · 200+ 全模态模型 · 等保三级 · 支持 OpenAI 兼容接口
|
MAIGateway（魔芋企业 AI 网关）是魔芋AI推出的、面向企业级私有化部署的 AI 网关。它不是又一个 AI 工具，而是企业 AI 基础设施的“中枢神经”。
一、它是什么
一句话说清：企业大模型 API 的统一入口与治理层。
应用只需连接企业分配的网关地址和受控令牌，不直接保存外部模型供应商的密钥。管理员在网关侧维护模型、价格、链路、权限和策略，应用侧可在接口兼容的前提下随时切换或新增模型。
网关把一次模型调用拆分为 身份校验 → 配额检查 → 安全处理 → 路由选择 → 上游请求 → 结果处理 → 费用记录 → 日志留存 等环节。企业可以在任意环节配置控制规则，并把每一次调用归属到组织、项目、用户或令牌。
它不是普通代理转发。 通用模型聚合网关通常侧重渠道接入、用户管理与转发计费，适合个人开发者或小团队；而 MAIGateway 的设计更偏向企业内部治理——管理对象是组织、部门、项目、用户、令牌、预算与模型资产。
二、为什么需要
企业 AI 落地正从“试点玩一玩”进入“规模化运营”。当调用频次与算力成本指数级上涨，无配额、无审计、无治理的“三无”使用模式，会迅速演变为安全与合规风险。直连大模型时，企业通常面临四大痛点：
-
密钥分散：API Key 散落在个人电脑、业务代码与各供应商平台，更换、轮换或供应商异常时需逐个调整，风险敞口巨大。
-
成本黑盒：财务只能看到 Token 总额与报销账单，无法判断费用由哪个部门、项目或智能体产生，月末才发现已超预算。
-
权限混乱：不同部门可用模型范围不同，却缺少细粒度隔离；离职、项目结束后的权限回收缺乏机制，审计难以追溯。
-
数据越界：员工易在未脱敏情况下把财务、客户隐私作为上下文输入外部模型，提示词注入攻击时刻威胁数字资产。
企业真正需要的，不是一扇能开门的门，而是一扇知道什么时候开门、什么时候锁死、该把请求送到哪扇门后面的“智能之门”。
三、四层架构体系
从应用到底层算力的全栈治理：
|
层级
|
名称
|
职责
|
|
4
|
模型与算力接入层
|
连接公共大模型 API、企业私有模型、云端算力与本地 GPU 推理服务，集中维护供应商、模型名称、接口协议、计费单价与启用状态。
|
|
3
|
智能调度层
|
处理协议转换、链路选择、负载分配、限流、缓存与故障切换。依据模型范围、权重、价格、响应时间与可用状态选择上游链路，异常时自动重试或降级。
|
|
2
|
分发与管理层
|
负责组织、用户、角色、项目、令牌、配额与预算。成员、模型使用范围与费用归属可绑定到具体项目，组织变化时同步调整。
|
|
1
|
应用层
|
智能体、AI 编程平台、知识库与 RAG、智能客服、办公助手与内容生成工具，通过统一接口携带企业令牌向网关发送请求。
|
四、六大核心能力
1. 多模型统一接入
纳管魔芋自研模型、开源自建模型与第三方大模型 API，统一分发、计量与监测，兼容 OpenAI 接口规范，替换 Base URL 即可接入。
2. 智能路由与高可用
同模型多链路分发、跨模型调度，主备/成本/优先级路由策略，链路超时连续报错自动下线、恢复后回归，毫秒级故障转移，可用性超 99.9%。
3. FinAPI 成本治理
记录输入/输出 Token、模型单价与责任主体，按供应商、模型、部门、项目、用户或令牌生成费用明细；预算—告警—归集—优化的持续闭环。
4. 组织权限与配额
同步钉钉、飞书、企微、AD 组织目录，超级管理员/子管理员/普通用户三级权限，按部门配置模型权限与配额，数据权限隔离到角色级。
5. 全栈安全防护
输入侧检测提示词注入并脱敏手机号、身份证、银行卡等 PII；输出侧内容过滤与安全话术替换；TLS 加密、密钥集中保管，基于等保三级建设。
6. 全链路监控审计
实时追踪请求链路、延迟、错误率与 Token 消耗；模型不可用、调用量突增、预算超限、令牌异常触发多渠道告警，全程日志可追溯、可审计。
五、产品矩阵：G / S 系列
软件版本
-
标准版：模型聚合、基础路由、用量统计、令牌与配额管理。
-
企业版：增加组织、角色、项目、预算、分账、安全及审计能力。
-
旗舰版：面向多集群与定制场景，支持更复杂的路由、缓存、跨区域调度与数据分析。
软硬件一体机
-
G 系列 · 软件网关：不配置本地 GPU，主要处理公共模型 API 与企业已有模型服务的接入、路由、费用与安全管理。可单机、双机热备或集群部署。
-
S 系列 · 硬件网关：配置本地算力，在网关治理功能之上接入本地 GPU 与开源模型，适用于对数据本地处理或本地推理有要求的场景。
一体机的设备型号、GPU 规格、存储与并发能力需结合模型大小、上下文长度、并发请求、日志保留与上游延迟综合确定。
六、与传统方案对比
|
维度
|
MAIGateway
|
自建 / 普通代理
|
云厂商网关
|
|
模型纳管广度
|
自研+开源+第三方全纳管
|
需自行适配，碎片化
|
偏自家生态，第三方有限
|
|
组织权限隔离
|
同步钉钉/飞书/企微/AD
|
需二次开发
|
依赖自家 IdP
|
|
成本治理
|
FinAPI 预算-分账-归因-优化
|
仅总额，无法分账
|
账单为主，归因弱
|
|
智能路由降级
|
多链路+自动熔断+故障转移
|
需自研
|
能力有限
|
|
部署与合规
|
私有化 / 混合 / 等保三级
|
可私有化，治理弱
|
公有云绑定
|
七、典型应用场景
-
IT / 研发：编码助手与研发智能体用项目令牌访问指定模型，限制费用、保留账单证据，供应商切换时减少研发工具侧改动。
-
影视 / 内容：文本、图片、视频生成任务在统一身份、配额与资产记录下运行，运营追踪任务状态与费用，安全策略检查输入输出。
-
电商 / 营销：多团队分别采购模型时收口到统一网关，应用使用稳定的企业地址与令牌，模型供应商变更在网关侧处理。
-
金融 / 政企：敏感数据调用外部模型前脱敏或转向本地模型；财务按部门、项目、令牌归集费用并完成月度对账。
八、部署与安全合规
MAIGateway 支持私有化与混合部署：在企业数据中心、私有云或指定云环境部署，应用访问网关地址，网关再连接公共模型、私有模型或本地推理服务。需要内外网隔离时，可将网关置于应用网络与模型出口之间，通过防火墙、负载均衡与访问策略控制链路。
-
单机部署：网关、MySQL、Redis 同机，适合调用规模小、运维简单的场景。
-
集群部署：负载均衡后多无状态实例，共享数据库/缓存/日志，以峰值在途请求数为容量规划主指标。
-
混合部署：普通任务走公共模型，敏感数据/本地能力任务路由到私有模型。
注：等保、数据安全、认证与行业合规结论，以具体产品版本、部署环境及正式证明文件为准。
九、让每一家企业都能把模型用好
MAIGateway 不替代上层应用，也不承担基础模型训练与底层集群调度的全部职责——它是模型调用的连接与治理基础设施，把技术爆发转化为可控、可持续的商业价值。
联系方式