联想：AI PC时代将形成本地为主，边缘与云为辅的大模型方案

近日，在首届AI PC产业创新论坛上，联想集团联合IDC共同发布业界首份《AI PC产业(中国)白皮书》（以下简称“《白皮书》”）。《白皮书》表示，在AI PC时代，终端内嵌个人大模型是以本地为主，边缘与云为辅的大模型方案，同时，AI PC的个性化本地知识库及管理工具，可帮助大模型更准确地了解用户意图，并提供更个性化、高准确度的反馈。

随着用户对AI能力和大模型的调用变得像使用办公软件一样频繁，仅依赖云端提供相应的能力就变得昂贵、复杂且不够安全。因此，以模型的本地化推理为主，以边缘和云端推理为辅的混合大模型架构成为AI PC解决这一问题的关键。

据了解，用户的大部分任务将能够依托AI PC本地模型完成。但当用户的任务请求并不私密、且极其复杂的情况下，AI PC将在用户同意的情况下，调用云端大模型的能力，从而极大的扩展本地模型的能力范畴。在很多情况下，边缘设备的出现，进一步分担本地模型推理的负载，并且能够帮助AI PC完成个人大模型的微调，为本地模型的个性化提供一种可行的解决方案。

值得一提的是，混合大模型的优势在于，它能够根据终端设备的性能、资源限制以及用户的网络状况和任务复杂度，动态地调整端侧和云端的计算负载，实现最优的性能和效率。满足用户的使用需求、适应不同的应用场景，同时，兼顾快速响应、即时反馈和数据隐私安全。从而，带来成本、能耗、性能、隐私、安全和个性化等方面的综合优势。

除混合大模型之外，AI PC还拥有本地向量知识库以及相应的管理工具，能够储存从用户的行为与本地数据中获取的信息。知识库能够将特定的文件进行分块与向量化，并进行向量数据的存储。在AI PC执行任务时，知识库能够通过对向量数据的检索，来匹配并强化用户提供的提示词，以帮助模型更准确地了解用户的意图，从而提供更个性化、高准确度的反馈。通过这一方式，本地知识库能够使得AI PC了解和熟悉用户个性化的语言习惯和操作模式。

在企业应用背景下，本地知识库可以在较短的周期内强化企业内对特定任务的完成效率与精准度。例如生成与企业既往设计风格与调性一致的图片，创作符合企业特定专业语言的文稿，或是生成符合企业内部汇报习惯与需求的PPT文档。

混合大模型与个人知识库的完美组合，使得“个人大模型”成为AI PC的核心模块。联想集团副总裁、中国区首席市场官王传东说：“个人人工智能双胞胎在支持人工智能的设备上，将建有本地知识库。用户可以使用自然语言与设备进行沟通、交互。在了解用户的个人需求后，内嵌于设备上的个人大模型可调用存储在本地的个人数据，依托设备本身提供的CPU、GPU和NPU混合算力，为用户提供个性化服务，从而真正成为个人的AI专属助理。”