Meta 在亚马逊 AWS 上推出其 Llama 3 开源法学硕士

2024年04月19日,12时16分06秒 科技新知 阅读 4 views 次

Meta 在亚马逊 AWS 上推出其 Llama 3 开源法学硕士

继一月份成功推出“Code Llama 70B”之后,Meta 现已在亚马逊 AWS 基础设施上发布了其开源 LLM 强大产品 Llama 3 的最新版本。

在发给 TechStartups 的电子邮件中,亚马逊透露,“Meta Llama 3 现在可通过 Amazon SageMaker JumpStart 访问。”最新版本延续了其前身 Llama 2 的脚步,自去年以来,Llama 2 已可在 Amazon SageMaker JumpStart 和 Amazon Bedrock 上访问。

Llama 3 拥有两种参数大小(8B 和 70B,上下文长度为 8k),有望满足各种用例的需求,并在推理、代码生成和指令跟踪方面有所增强。Llama 3 的架构采用仅解码器转换器设计,并结合全新的标记器,从而将模型性能提升到 128k 大小。

亚马逊写道:“Llama 3 有两种参数大小——8B 和 70B,上下文长度为 8k,可以支持广泛的用例,并在推理、代码生成和指令跟踪方面有所改进。”

如果您正在使用 SageMaker Studio,您会在那里找到 SageMaker JumpStart,它提供了许多方便的东西,例如预先训练的模型、笔记本和现成的解决方案。只需转到“预构建和自动化解决方案”部分,一切就绪!

Meta 在亚马逊 AWS 上推出其 Llama 3 开源法学硕士

AWS SageMaker JumpStart(来源:亚马逊AWS)

当您进入 SageMaker JumpStart 页面时,很容易找到不同的模型。只需浏览中心,这些中心基本上是以提供模型的人命名的部分。例如,如果您正在寻找 Llama 3 模型,请前往 Meta 中心。如果您没有立即发现它们,不用担心 – 只需尝试通过关闭并重新启动来更新您的 SageMaker Studio 版本。这应该可以解决问题!

AWS JumpStart(来源:亚马逊AWS)

此外,Meta 还改进了训练后程序,以大幅降低错误拒绝率、增强一致性并增加模型响应的多样性。现在,用户可以利用 Amazon SageMaker 功能(如 SageMaker Pipelines、SageMaker Debugger 或容器日志)来充分利用 Llama 3 的强大功能和 MLOps 控制的综合优势。此外,该模型将在其 VPC 控制下部署在 AWS 的安全范围内,从而加强数据安全措施。

目前,AWS 是唯一一家为客户提供最受欢迎和最先进的基础模型的云提供商。Amazon Bedrock 始终处于领先地位,让这些流行的模型随时可用:

  • Amazon Bedrock 是首屈一指的独家托管服务,提供所有 Anthropic Claude 3 模型(Opus、Sonnet 和 Haiku)。
  • AWS 已将包括 Mistral Large 在内的所有 Mistral AI 模型引入 Amazon Bedrock。
  • Amazon Bedrock 率先通过托管 API 推出 Meta Llama 2。

Amazon Bedrock 是一项完全托管的服务,是 AI21 Labs、Amazon、Anthropic、Cohere、Meta、Mistral AI 和 Stability AI 等行业巨头的众多高性能基础模型的首选目的地,所有这些模型都可以通过单个 API 访问。此外,它还提供了一套全面的功能,涵盖代理、护栏、知识库和模型评估,使组织能够制作生成式 AI 应用程序,重点是安全性、隐私性和负责任的 AI。全球有数以万计的组织依赖 Amazon Bedrock,它巩固了其在生成式 AI 应用程序领域的关键参与者地位。

本文来自互联网,不代表前途科技立场,如若转载,请注明出处:https://accesspath.com/tech/5925757/

(来源:前途科技)

标签:


用户登录