不再需要AI成本：如何在本地运行Meta Llama 3.1

我很高兴向大家介绍 Meta 的 Llama 3.1，这是一款功能强大的免费 AI 语言模型。在本文中，我将向您展示如何在您的计算机上安装和运行 Llama 3.1。这意味着您可以离线使用它，从而节省 AI 成本。

Llama 3.1是什么？

Llama 3.1 是 Meta 最新的 AI 模型，任何人都可以免费使用。它有三种尺寸可供选择：

• 一个庞大的4050亿参数版本
• 中等参数版本（700亿参数）
• 参数量较小的 80 亿版本

Llama 3.1 的特别之处在于它的性能非常出色。它甚至比一些私有 AI 模型表现更佳。

您可以在这里阅读更多相关信息：https://llama.meta.com/

为什么 Llama 3.1 很棒

• 它是免费的。
• 任何人都可以修改和改进它。
• 它的效果和昂贵的私人型号一样好。
• 它能理解多种语言。
• 它可以处理长篇文本。它一次最多可以处理 128,000 个单词，非常适合长篇写作任务。

Llama 3.1 的挑战

• 它需要强大的计算机性能：最大版本需要非常强大的计算机才能运行。
• 可能存在偏见：像所有人工智能一样，它可能会重复训练数据中不公平的想法。
• 可能存在的安全问题：因为任何人都能看到它的工作原理，所以如果不小心使用，可能会存在一些安全风险。

哪里可以体验 Llama 3.1

以下是一些您可以免费试用 Llama 3.1 的方法：

• Meta.ai聊天机器人：Meta的平台提供Llama 3.1版本，包括405B模型，并具备图像生成功能。但目前仅限拥有Facebook或Instagram账号的美国用户使用。
• Perplexity：这款人工智能搜索工具提供对 Llama 3.1 405B 的访问权限，但需要付费订阅。
• 云平台：多家云服务提供商提供对 Llama 3.1 的访问权限，包括：
• 亚马逊基岩
• 微软 Azure AI
• Cloudflare Workers AI
• 雪花
• DataBricks
• 英伟达人工智能铸造厂
• IBM Cloud

在本教程中，我将向您展示如何在您自己的计算机上免费使用 Llama 3.1。

如何在电脑上运行 Llama 3.1

运行4050亿版本的大型程序需要一台性能非常强大的计算机。但我会向你展示如何运行80亿版本的程序。你需要以下条件：

• 16 GB 内存
• 8核CPU
• 20 GB 可用空间

步骤 1. 下载并安装 Ollama 工具

请访问https://ollama.com/并下载适用于您操作系统的工具。

对于 Linux 系统，我将使用以下命令：

curl -fsSL https://ollama.com/install.sh | sh

该命令将安装 Ollama，这是一个用于在您的计算机上本地运行和管理大型语言模型 (LLM) 的工具。

步骤 2. 下载 Llama 3.1 模型

在同一网站上，点击右上角的“模型”链接。

然后，在列表中找到 Llama 3.1。

点击链接，然后从下拉菜单中选择所需的型号。

复制该命令并粘贴到终端中。

终端命令：

ollama run llama3.1

请耐心等待下载完成（可能需要 30 分钟或更长时间）。如果一切正常，您就可以在终端中使用 LLM 了。祝您使用愉快！:)

无需网络连接即可使用 Llama 3.1

在电脑上安装 Llama 3.1 的一个很棒的功能是，即使没有网络连接也能使用。如果您需要保护数据隐私，这非常实用。

需要记住的事情

但也有一些缺点需要了解：

• 80亿模型只能预测到2021年。
• 它无法查看您电脑或网站上的文件。
• 它可能比在线人工智能服务慢。

如何提供羊驼 3.1 信息

该模型无法读取您的文件或网站，但您可以：

• 复制并粘贴文本到其中
• 使用 Dropbox 等工具共享文件
• 请在问题中概括你想让它知道的内容。

总结

在自己的电脑上运行 Llama 3.1 是一种无需联网或持续付费即可使用强大 AI 的绝佳方式。虽然它有一些局限性，但能在自己的电脑上拥有如此智能的 AI 工具仍然令人惊叹。

视频教程

不再需要AI成本：如何在本地运行Meta Llama 3.1

如果你喜欢这篇教程，请点赞并分享。你可以在YouTube上关注我，加入我的Telegram群组，或在Patreon上支持我。

干杯!