一个帮AI办公用户省Token的模型路由中间层工具项目

行业分类

人工智能

创业方向

大模型API接入与AI办公降本增效

面向痛点

AI办公重度用户用WorkBuddy+DeepSeek等方案时API费用高；Codex网络不稳定；端到端“许愿式”操作会多费Token，缺少性价比明确的调度方案。

解决方案

做一个统一的模型路由网关：不自己训练模型，而是聚合DeepSeek/GLM/混元等公开模型API，根据任务类型、实时价格、速度与能力选择当前最划算的模型；同时把自然语言长任务拆成“先规划再执行”的子步骤，压缩上下文和重试次数；对外提供OpenAI兼容接口，可被WorkBuddy等AI办公客户端接入，并提供Token预算告警和月度成本报表。

潜在人群

API月费用明显吃力的AI办公重度个人用户、小团队，以及帮企业搭建AI工作流的技术服务商。

变现 / 商业模式

SaaS订阅+API调用毛利：免费版限制路由次数，Pro按调用量/月费收费；企业版提供私有化部署和自定义模型白名单；后期可加工作流模板库等增值变现。

所需资源条件

• 启动资金（必须） · 资金 — 约10-30万，主要用于开发与初期API测试消耗
• 主流大模型API账号/Key（必须） · 供应链 — 需合规接入DeepSeek、GLM、混元等国内模型
• 云服务器（必须） · 场地设备 — 用于路由网关、日志和计费系统

补充说明

不需自研大模型；不要走多账号薅积分等平台违规路径，靠公开API接入和路由优化来建立合规服务。需要持续维护各模型在价格、速度、效果上的评测数据。

所需岗位

• 后端工程师（技术） — 实现API网关、路由调度、计费与后台
• AI应用工程师（技术） — 做任务拆解、Prompt策略与工作流模板
• 运营/BD（运营） — 找种子用户、运营AI办公社群并推广

风险

模型API价格会持续下降，差价空间可能被压缩；OpenRouter、one-api/LiteLLM等现成方案已存在；用户价格敏感，未必愿意再为额外工具付费；若把方向做成多账号撸积分，会面临封号与合规风险。差异化必须落在AI办公工作流与“端到端费用可视化”上。

依据

楼主原话“workbuddy 加 ds 有点蹬不动了，费用太高了”；4楼“人规划好咋干，给ai讲清楚，会省一点token 端到端(俗称许愿式)会多费一点token”；5楼提到GLM 5.3 flash比DS v4 flash不弱且积分倍率更低。

下一步验证

先在一个AI办公或技术社群做15-30份访谈，记录用户月均Token费用、当前用什么模型及可接受的工具订阅价；用开源路由框架接GLM/DS等搭MVP，在真实办公任务上测出可省下的Token比例，再决定是否独立产品化。

标签

AI办公,大模型API,Token成本,模型路由,效率工具