(资料图片)

2023 年 8 月 18 日上午，英特尔在大湾区举办了一场技术分享会，主题是英特尔在 AIGC（人工智能生成式计算）领域的最新进展。会上，英特尔的技术专家向与会者展示了他们在 AIGC 上的技术方向，并进行了多个应用的演示。

首先，英特尔介绍了他们在大语言模型方面的优化和支持。在我们传统的认知里，运行类似 ChatGPT 这种大语言模型必须要有大显存的显卡支持。但这场交流会却颠覆了我们的认知。英特尔为了让 12、13代酷睿平台也能够顺利运行各种大语言模型并提供流畅的使用体验，构建了 BigDL-LLM 库。通过这个库，可以对各种大语言模型进行优化和支持，包括一些开源的、可以在本地运行的大语言模型。这个库甚至可以在一台搭载 16GB 内存的英特尔轻薄本的机器上运行参数量高达 16B 的大语言模型。此外还支持 LLaMA / LLaMA2、ChatGLM / ChatGLM2 等多个大语言模型。

接下来，英特尔展示了他们在大语言模型应用方面的表现。通过集成了 ChatGLM2、LLaMA2 和 StarCoder 这三个大语言模型的 Demo，他们演示了这些模型在中文和英文应用上的表现。通过优化和量化操作，这些大语言模型在生成回答时能够以非常快的速度生成，并且不影响阅读体验。英特尔已经发布了这套 Demo，任何搭载 12、13代酷睿的电脑都可以直接安装并体验。

我们这里选择了一台通过英特尔Evo平台认证的轻薄本：华为 MateBook 16s 来进行测试。处理器为酷睿 i9-13900H + 32G 内存，看看在核显轻薄本上究竟能不能跑 AIGC。

标签：