塔斯娱乐资讯网

2026乌镇峰会报道:开源模型加速普及,AI服务商竞逐企业应用

开源模型进入企业之后,围绕部署、数据接入和应用运行的服务正在增多。11月3日,在乌镇峰会的“人工智能乌镇对话”中,千问和MiniMax的相关负责人谈及行业适配、私有化部署等需求。模型能够被企业自行使用,为应用开发打开了空间,也把后续工程工作交到了部署方手中。

阿里云百炼把知识库检索纳入开发平台,AWS通过Bedrock提供开源模型托管,AI基础设施公司TrueFoundry则将多模型接入、工具执行和运行管理做成产品。这些服务切入的环节各有不同,面对的是同一道业务门槛:企业拿到模型后,还需要把它接入自己的数据与软件,才能交给员工和客户使用。

模型托管降低部署门槛

获得模型权重,让企业有机会决定在哪里运行、如何修改以及采用什么硬件。真正把模型运行起来,则涉及设备资源、推理框架、接口服务和日常维护。研发人员完成一次调用,只验证了技术链路;服务要面向多人持续开放,还需要应对请求增长、运行异常和版本更新。

AWS对DeepSeek-R1的托管提供了一种分工方式。2025年3月,Bedrock上线该模型的全托管服务,应用团队可以通过平台接口调用推理能力。客户无需自己搭建对应的推理集群,部署工作的重心也从底层资源管理转向应用开发。

这笔费用对应着明确的工作。自建服务需要为峰值负载准备资源,同时安排人员维护;托管服务将部分工作交给云厂商,企业按所采用服务的计费方式承担成本。哪种方式更合适,与调用规模、任务稳定程度以及团队能力有关,模型可以下载并不会消除这些差异。

对开发企业软件的科技公司而言,这意味着可以更早验证产品。团队不必先完成完整的推理基础设施建设,就能测试客户是否需要某项功能。待业务形成稳定负载,再评估自建、托管或混合部署。开放模型增加了可选路径,云服务则降低了沿其中一条路径开始开发的门槛。

不过,模型接通后,企业经常遇到的下一个问题来自数据。通用模型掌握的知识,与某家公司的产品文档、售后政策和内部记录并不相同。要让AI回答具体业务问题,应用开发者还需要解决资料怎样进入系统、怎样被找到,以及新旧版本怎样区分。

百炼将企业知识接入模型

阿里云百炼提供的知识库能力,将这部分工作拆成了可以配置的开发环节。以基础文档问答为例,系统先解析文件,再将内容切分、建立索引。收到问题后,检索相关内容并交给模型,供其生成回答。这种检索增强生成方式通常被称为RAG。

知识库并非简单的文件上传入口。产品手册可能包含跨页表格、图片和不同层级的标题;一条售后规则的适用条件,也可能与正文分开出现。资料被切分后,如果条件和结论失去联系,后面的模型即使读懂了所收到的文字,也可能缺少完整的判断依据。

百炼为此提供了不同解析方式,包括电子文档解析、面向复杂版面的文档智能解析,以及利用视觉语言模型处理图文内容。文档搜索还可以结合向量与关键词检索。关键词有助于定位型号和专有名称,语义检索则用于处理用户提问与原文措辞不同的情况。

检索结果也需要调试。开发者可以查看返回的文本片段、相似度分数和对应文档,再调整检索与排序配置。对一个产品咨询助手来说,回答不准确,原因可能发生在文件解析或检索阶段;如果需要的信息没有进入模型输入,仅更换更大的模型,未必能解决问题。

这让应用公司的专业经验有了具体用途。熟悉客户业务的团队,需要识别哪些材料有效、哪些型号名称容易混淆,以及哪些问题必须结合实时系统查询。平台能够承担通用的解析和检索工作,但客户的产品关系、资料更新和业务判断,仍需要在应用中逐项落实。

因此,企业AI项目的验收也应进入真实任务。能够回答演示问题,是开发过程中的一步;资料更新后能否采用新规则,同名产品能否正确区分,信息缺失时能否停止编造,才决定知识问答能否长期使用。这些差异很难通过单独一个通用模型分数体现。

TrueFoundry围绕智能体运行提供服务

当应用开始调用工具、修改文件,工作又增加了一层。一次任务可能需要多轮模型推理,中间读取资料、执行程序,再根据结果继续操作。开发者除了接入模型,还要保存任务状态、管理执行环境,并让用户能够查看过程。

TrueFoundry推出的开源智能体运行框架TrueForge,将模型调用、工具执行、沙箱、审批和会话状态管理组合起来,提供聊天界面和应用接口。它允许开发者选择模型与工具,把一系列运行环节纳入同一个框架。应用团队可以在这些基础能力上继续开发业务功能。

其与千问的适配,体现了多种模型尺寸在产品中的用途。TrueFoundry将千问模型接入统一接口,开发者可以按任务更换所用模型。同时,公司提供的AI Gateway记录Token用量、请求延迟、错误率等信息,并支持用量配额和访问控制。模型选择与运行管理由此形成联系。

一次模型调用的单价,只能说明部分成本。智能体完成任务时,可能需要重复检索、重试工具,或者因为上下文不足而再次请求模型。如果只记录最终答案,就难以发现这些消耗发生在哪里。把调用和工具执行过程留下来,才有条件比较不同配置完成同类任务的实际代价。

更换模型也需要结合任务评估。简单操作可以尝试采用较小模型,但复杂任务若因此增加重试,整体成本可能上升。应用团队需要同时查看完成情况、耗时与调用量,选择能够稳定完成工作的组合。多模型平台的价值,在于让这些调整可以实施并被观察。

从托管推理到知识库,再到智能体运行框架,科技公司正在将模型之外的工程工作产品化。云厂商提供通用基础设施,软件公司围绕数据和业务流程开发应用,客户则根据实际工作效果决定是否继续投入。这也为没有能力从头训练大模型的科技公司提供了参与空间。

乌镇讨论的AI普及,在企业市场中正体现为更细的产品分工。模型开放降低了获取基础能力的门槛,应用能否真正进入日常工作,则取决于后续交付。对AI服务商而言,能够让客户持续完成任务,比单纯增加模型列表更有价值。