DeepSeek

DeepSeek-R1 模型现已在 AWS 上提供

Channy Yun (윤석찬) 于 2025 年 1 月 30 日发布于 , , , , , , , ,

分享


关键点摘要

  • DeepSeek-R1 模型现已在 AWS 上的 Amazon Bedrock 和 Amazon SageMaker 上可用。
  • 这些模型具有高性能和创新的推理能力,采用了强化学习等先进训练技术。
  • 合理的价格性能比使得 DeepSeek-R1 模型成为一个经济有效的选择。
  • 客户可以通过 AWS 的多个服务灵活地部署这些模型。

更新于 2025 年 3 月 10 日 — DeepSeek-R1 现已作为 提供于 Amazon Bedrock。

更新于 2025 年 2 月 5 日 — DeepSeek-R1 Distill Llama 和 Qwen 模型现已在 Amazon Bedrock市场和 Amazon SageMaker JumpStart 中可用。

在过去的 AWS re:Invent 大会上,亚马逊首席执行官安迪·贾西 ,这是亚马逊在开发近 1000 个 应用过程中的总结。贾西提出了三个关键观察,这些观察塑造了亚马逊对企业 AI 实施的传统做法。

首先,随着生成性 AI 应用规模的扩大,计算成本显得尤其重要。人们迫切希望性能价格比更好。第二,构建一个真正优秀的生成性 AI 应用是非常困难的。第三,在为构建者提供自由选择工具的过程中,模型的多样性是不可或缺的。这样的道理我们一再学习,因此毫不意外,一个工具无法统治所有世界。

正如安迪所强调的,亚马逊提供的广泛和深度的模型使客户能够选择最符合其需求的能力。通过密切关注客户需求和技术进步,AWS定期扩展其精选模型,加入有前景的新模型和行业内的热门模型。这种持续的扩展高性能和差异化模型的提供,帮助客户保持在 AI 创新的最前沿。

这一切引领我们注意到中国 AI 初创公司 。DeepSeek 于 2024 年 12 月推出了 ,并在 2025 年 1月 20 日发布了 、DeepSeek-R1-Zero(拥有 6710 亿个参数)和范围为 15-700 亿参数的 DeepSeek-R1-Distill 模型。他们于 2025 年 1 月 27 日加入了基于视觉的 模型。这些模型公开可用,并 。根据 DeepSeek的说法,他们的模型因其推理能力而独树一帜,这得益于如强化学习等创新训练技术。

现在,您可以在 和 中部署 DeepSeek-R1模型。对于寻求通过 API 快速整合预训练基础模型的团队,Amazon Bedrock是最佳选择。对于希望实现高级定制、训练和部署,并访问底层基础设施的组织,Amazon SageMaker AI 是理想选择。此外,您还可以通过 和

成本效益高地部署 DeepSeek-R1-Distill 模型,利用 Amazon Elastic Compute Cloud (AmazonEC2) 或 Amazon SageMaker AI。

有了 AWS,您可以使用 DeepSeek-R1 模型来构建、实验并在基础设施投资最小的情况下负责任地扩展生成性 AI 思想。您还可以通过建立在 AWS服务基础之上,自信地推动生成性 AI 创新,这些服务专为安全而设计。我们强烈建议通过 集成 DeepSeek-R1 模型,以为您的生成性 AI 应用增加一层保护,适用于 Amazon Bedrock 和 Amazon SageMaker AI客户。

您可以通过以下几种方式选择在 AWS 上部署 DeepSeek-R1 模型: 1. ** 的 DeepSeek-R1 模型** 2. ** 的 DeepSeek-R1 模型** 3. ** 的 DeepSeek-R1-Distill 模型** 4. ** 的 DeepSeek-R1-Distill 模型**

接下来,让我带您了解如何在 AWS 上开始使用 DeepSeek-R1 模型。无论您是构建第一个 AI应用,还是扩展现有解决方案,这些方法都为您提供了灵活的起点,基于您团队的专业知识和需求。

1. 在 Amazon Bedrock Marketplace 中获取 DeepSeek-R1 模型

提供超过 100 种流行、新兴和专业的基础模型,结合当前 Amazon Bedrock中行业领先的模型选择。您可以轻松地在单一目录中发现模型,订阅模型,然后通过管理的端点来部署模型。

要访问 Amazon Bedrock Marketplace 中的 DeepSeek-R1 模型,请前往 ,在 基础模型 部分下选择 模型目录 。您可以通过搜索或按模型提供者筛选来快速找到 DeepSeek。

在检查完模型详细信息页面(包括模型的能力和实施指南)后,您可以通过提供端点名称、选择实例数量和实例类型来直接部署模型。

您还可以配置高级选项,让您自定义 DeepSeek-R1 模型的安全性和基础设施设置,包括 VPC网络、服务角色权限和加密设置。对于生产部署,您应审查这些设置,以符合您组织的安全和合规要求。

借助 Amazon Bedrock Guardrails,您可以独立评估用户输入和模型输出。您可以通过过滤生成 AI 应用中的不良和有害内容来控制 DeepSeek-R1 的用户交互。Amazon Bedrock Marketplace 中的 DeepSeek-R1 模型仅能与 Bedrock 的 一起使用,以评估用户输入和模型响应,适用于 Amazon Bedrock之外的自定义和第三方基础模型。要了解更多信息,请阅读 。

Amazon Bedrock Guardrails 还可以与其他 Bedrock 工具集成,包括 和 ,以建立符合负责任 AI政策的更安全、更安全的生成性 AI 应用。要了解更多,请访问 页面。

更新于 2 月 1 日 – 您可以使用 Bedrock 游乐场来了解模型如何响应各种输入,并让您优化提示以获得最佳结果。

在使用 DeepSeek-R1 模型与 Bedrock 的游乐场或 InvokeModel API 时,请使用 DeepSeek的聊天模板以获得最佳结果。例如,<|begin_of_sentence|><|User|>content forinference<|Assistant|>

请参考这份 了解如何在 Amazon Bedrock Marketplace 中部署 DeepSeek-R1 模型。要了解更多信息,请访问 。

2. 在 Amazon SageMaker JumpStart 中获取 DeepSeek-R1 模型
是一个机器学习 (ML) 中心,拥有基础模型、内置算法和可以一键部署的预构建 ML 解决方案。要在 SageMaker JumpStart 中部署 DeepSeek-R1,您可以在 、、 中发现 DeepSeek-R1模型,或通过 程序化地访问。

在 中,打开 SageMaker Studio 并选择 JumpStart ,然后在 所有公共模型 页面中搜索 “DeepSeek-R1”。

您可以选择模型,并选择部署以创建具有默认设置的端点。当端点处于 服务中 时,您可以通过向其端点发送请求进行推断。

您可以通过 的特性如 、 或容器日志来推导模型性能和 ML 操作控制。模型在 AWS 安全环境中部署,并受到您的虚拟私有云 (VPC) 控制,有助于支持数据安全。

与 Bedrock Marketplace 一样,您可以在 SageMaker JumpStart 中使用 ApplyGuardrail API 以去耦 DeepSeek-R1 模型的生成性 AI 应用的安全保护。您现在可以在不调用基础模型的情况下使用 Guardrails,这为更广泛的集成标准化和经过彻底测试的企业保护措施打开了大门,无论使用何种模型均可应用于您的应用流程。

请参考这份 了解如何在 Amazon SageMaker JumpStart 中部署 DeepSeek-R1 模型。要了解更多信息,请访问 或 。

3. 通过 Amazon Bedrock Custom Model Import 使用 DeepSeek-R1-Distill 模型
[Amazon Bedrock Custom Model Import](https://aws.amazon.com/bedrock/custom- model-import/?trk=769a1

Leave a Reply

Required fields are marked *