3.3 如何在本地运行大模型

运行大模型有三种方式，一种是直接在大模型公司提供的对话窗口运行，如OpenAI提供的聊天界面；一种是使用API——这是大模型公司提供对话钥匙。但是，这两种方式都需要联网，有可能会出现对话数据泄漏。

在有的环境下没有网络，或者对数据隐私要求非常高，这时怎么办？这就需要在本地运行大模型。

你可以把本地运行大模型理解为，把大模型下载在电脑本地使用，就像使用不需要联网也可以使用的APP一样。随着大模型生态发展，本地运行大模型对硬件要求、技术要求越来越低。