架构讲解:
模型管理层:提供灵活的模型服务以满足不同场景需求,支持托管与私有化部署两种模型服务集成方式,默认内置60多种常见模型适配器。
网关服务层:LLM Gateway屏蔽不同LLM模型之间的差异,为上层应用提供业界标准的OpenAI协议API接口,并提供权限、审计、监控、配额限流等管理能力。
资源管理层:提供了AI场景建设过程中用到的各种资源、工具的支持。包括Prompt管理、知识库管理、工具管理、MCP管理、Skill管理、AI Agent管理等。
智能体开发框架:实现了以 SRE Agent 低成本研发为核心的配套能力,包括智能体配置式开发(包含大模型选择、Prompt 配置、知识库配置、MCP配置、Skill配置等)、支持一键发布到蓝鲸开发者中心、支持多渠道接入等功能,还支持基于配置生成的框架深度定制开发扩展。
支持在产品页面直接配置智能体运行所需资源,包括大模型选择、Prompt 配置、知识库配置、MCP配置、Skill配置等,支持一键发布到蓝鲸开发者中心,并支持 Web应用、 AI小鲸(弹窗对话式)、API、企微等IM工具多渠道接入。
基于蓝鲸API网关扩展的MCP Server,可以统一蓝鲸体系下MCP Server的发布规范,集中管控,同时支持各开源/私有大模型对蓝鲸MCP Server的集成对接;与API网关集成,可以低成本接入运维工具接口,复用API Gateway权限、限流、熔断等能力;与蓝鲸权限体系融合,解决MCP协议本身无安全与认证的问题。
工具(Tools)功能在当前版本,主要是支持场景问答对接蓝鲸产品或第三方系统的API,从第三方接口获取数据知识后总结回复。核心流程是“新建工具”、“对话绑定工具”、“工具调用(FunctionCall)”、“大模型总结回复”等步骤。
支持根据知识类型创建多个不同层级的知识库,支持文件上传、手工录入、网页知识等多种形式录入知识,并使用 RAG 技术进行向量化处理,可在聊天过程中指定回复引用特定的知识库。
支持 60+ 模型接入框架,包括私有化部署和托管接入方式,同时通过LLM Gateway屏蔽不同LLM模型之间的差异,为上层应用提供业界标准的OpenAI协议的API,并提供权限、审计、监控、配额限流等管理能力。
联系我们查看资料,或申请DEMO演示,可以帮助您更加快速地了解该产品。
申请演示