Skip to main content
Gate
Gate

AI产品经理-AI Router方向

RemoteAPACArchived
Published
Role
Product
Experience
Mid
Salary not disclosed
Check eligibility

Open to Anywhere in APAC. Set where you work from to check your eligibility.

No BS summary

AI产品经理,负责AI模型中转站及Multi-LLM聚合平台的产品规划与演进,需2-3年AI产品、大模型平台或API中台经验,懂技术底层,能与Infra工程师无障碍沟通。

Core skills

AI RouterMulti-LLMAPI

What you'll do

  • 负责海量通用大模型(如 OpenAI, Anthropic, DeepSeek 等)的标准化接入、适配与封装,统一输出高兼容性的标准化 API 接口
  • 设计并持续迭代 AI 流量路由策略,主导智能路由、动态负载均衡(Load Balancing)、并发限流(Rate Limiting)、模型降级与故障熔断机制的设计
  • 构建企业级 AI 权限体系、多租户账号体系、调用配额管理以及精细化的 Token 计费账单(Metering & Billing)、日志审计与风控防刷系统
  • 协同研发、测试、运维团队高效推进版本迭代,梳理全链路业务流,跟进线上问题闭环,持续优化中转平台的吞吐量性能与综合成本结构
  • 跟踪全球 AI 产业动态与模型迭代趋势,将客户痛点转化为标准化的中台能力,对内赋能多元业务线,对外实现高价值的商业化输出

What they require

  • 2-3 年 AI 产品、大模型平台、API 中台或高性能 SaaS 平台的产品实战经验
  • 深刻理解大模型调用链路、API 转发逻辑、网络协议、并发控制、超时重试等底层逻辑,能与 Infra 工程师进行无障碍的技术对话
  • 熟悉全球主流大模型(LLMs)的能力特性,对大模型微调(Fine-tuning)、知识库(RAG)、上下文管理、对话记忆与 Prompt 工程有扎实的基础认知
  • 具备极强的逻辑抽象与架构设计能力,可独立输出高质量、高严谨度的 PRD、时序流程图与高保真原型
  • 具备强烈的 Owner 意识、卓越的数据敏感度与项目推进力,抗压能力强,乐于挑战技术未知
  • Preferred: 有成熟 AI 中转平台、API 分发平台、算力调度中心或企业级 AI 中台完整从 0 到 1 落地经验者优先
  • Preferred: 熟悉各类大模型适配层、对话接口及 Embedding 向量接口调用逻辑
  • Preferred: 具备丰富的 B 端高并发 SaaS 商业化计费、多级权限体系及反套利风控设计经验
  • Preferred: 熟练掌握现代全栈开发辅助工具(如 Cursor/Claude Code 等),具备代码级沟通与极客思维

Benefits

  • 核心赛道:处于 AI 大模型基础设施(Infra)的黄金赛道,业务呈爆发式增长,想象空间巨大
  • 硬核技术壁垒:直接操盘平台核心基建,全方位接触模型编排、高并发调度、商业化闭环等高含金量技术流
  • 快速进化:紧跟全球最前沿的 AI 技术演进与商业模式,全面跃升为行业稀缺的底层平台型 AI 产品专家

One of the world's top ten digital currency trading platforms, focusing on the safe trading and hassle-free cryptocurrency journey

FinanceEnterprise
Salary not disclosed