DeepSeek-R1 现已在 Amazon Bedrock 中作为完全托管的无服务器模型推出

Amazon_Bedrock__1">DeepSeek-R1 现已在 Amazon Bedrock 中作为完全托管的无服务器模型推出

截至 1 月 30 日，DeepSeek-R1 模型已通过 Amazon Bedrock Marketplace 和 Amazon Bedrock 自定义模型导入在 Amazon Bedrock 中提供。从那时起，成千上万的客户在 Amazon Bedrock 中部署了这些模型。用户非常重视用于安全部署 AI 的强大护栏和综合工具。今天，我们通过扩展选项范围（包括新的无服务器解决方案），使在 Amazon Bedrock 中使用 DeepSeek 变得更加容易，如果感兴趣可以体验：亚马逊云科技体验。

完全托管的 DeepSeek-R1 模型现已在 Amazon Bedrock 中全面推出。Amazon Web Services 是第一家将 DeepSeek-R1 作为完全托管的通用模型交付的云服务提供商（CSP）。您可以使用亚马逊云科技上的 DeepSeek 加速创新并提供切实的商业价值，而无需管理基础设施的复杂性。您可以使用 Amazon Bedrock 完全托管式服务中的单个 API 通过 DeepSeek-R1 的功能为您的生成式 AI 应用程序提供支持，并受益于其广泛的功能和工具。

据 DeepSeek 称，他们的模型在 MIT 许可下公开提供，并在推理、编码和自然语言理解方面提供了强大的能力。这些功能为智能决策支持、软件开发、数学问题解决、科学分析、数据洞察和全面的知识管理系统提供支持。与所有 AI 解决方案一样，在生产环境中实施时，请仔细考虑数据隐私要求，检查输出中的偏差，并监控结果。在实施 DeepSeek-R1 等公开可用的模型时，请考虑以下事项：

数据安全 – 您可以访问 Amazon Bedrock 的企业级安全、监控和成本控制功能，这些功能对于负责任地大规模部署 AI 至关重要，同时保持对数据的完全控制。用户的输入和模型输出不会与任何模型提供商共享。默认情况下，您可以使用这些关键安全功能，包括静态和传输中的数据加密、精细访问控制、安全连接选项，并在与 Amazon Bedrock 中的 DeepSeek-R1 模型通信时下载各种合规性认证。
负责任的 AI – 您可以使用 Amazon Bedrock Guardrails 实施根据您的应用程序要求和负责任的 AI 策略定制的保护措施。这包括内容过滤、敏感信息过滤和可自定义安全控制的关键功能，以使用上下文接地和自动推理检查来防止幻觉。这意味着，您可以通过过滤生成式 AI 应用程序中的不良和有害内容，使用定义的策略集来控制用户与 Bedrock 中的 DeepSeek-R1 模型之间的交互。
模型评估 – 您可以使用 Amazon Bedrock 模型评估工具，通过自动或人工评估，通过几个步骤评估和比较模型，以确定适合您的使用案例的最佳模型，包括 DeepSeek-R1。您可以选择使用预定义指标（如准确度、稳健性和毒性）进行自动评估。或者，您可以为主观或自定义指标（如相关性、风格以及与品牌声音的一致性）选择人工评估工作流程。模型评估提供内置的精选数据集，您也可以引入自己的数据集。

我们强烈建议将 Amazon Bedrock 护栏集成，并将 Amazon Bedrock 模型评估功能与您的 DeepSeek-R1 模型结合使用，为您的生成式 AI 应用程序提供强大的保护。要了解更多信息，请访问使用 Amazon Bedrock 护栏保护您的 DeepSeek 模型部署和评估 Amazon Bedrock 资源的性能（亚马逊云科技体验）。在 Amazon Bedrock 中开始使用DeepSeek-R1 模型如果您不熟悉 DeepSeek-R1 模型，请转到Amazon Bedrock 控制台，在左侧导航窗格中的Bedrock configurations （基岩版配置）下选择 Model access （模型访问）。要访问完全托管的 DeepSeek-R1 模型，请在 DeepSeek 中请求访问 DeepSeek-R1。然后，您将被授予对 Amazon Bedrock 中模型的访问权限。

DeepSeek-R1 现已在 Amazon Bedrock 中作为完全托管的无服务器模型推出，另外亚马逊云科技提供众多免费云产品可以访问：亚马逊云科技体验

在这里插入图片描述

接下来，要在 Amazon Bedrock 中测试 DeepSeek-R1 模型，请在左侧菜单窗格中的 Playgrounds （园地）下选择 Chat/Text （聊天/文本）。然后选择左上角的 Select model，并选择 DeepSeek 作为类别，选择 DeepSeek-R1 作为模型。然后选择 Apply （应用）。

在这里插入图片描述

使用选定的 DeepSeek-R1 模型，我运行以下提示示例：

A family has $5,000 to save for their vacation next year. They can place the money in a savings account earning 2% interest annually or in a certificate of deposit earning 4% interest annually but with no access to the funds until the vacation. If they need $1,000 for emergency expenses during the year, how should they divide their money between the two options to maximize their vacation fund?

这个提示需要一个复杂的思维链，并产生非常精确的推理结果。

在这里插入图片描述

要了解有关提示使用建议的更多信息，请参阅 DeepSeek-R1 模型提示指南。

通过选择 View API request（查看 API 请求），您还可以使用 Amazon Command Line Interface （Amazon CLI）和 Amazon SDK 中的代码示例访问模型。您可以用作模型 ID。us.deepseek.r1-v1:0

以下是 Amazon CLI 命令的示例：

Amazon bedrock-runtime invoke-model \--model-id us.deepseek.r1-v1:0 \--body "{\"prompt\": \"<｜begin_of_sentence｜><｜User｜>Type_Your_Prompt_Here<｜Assistant｜><think>\n\", \"max_tokens\": 512, \"temperature\": 0.5, \"top_p\": 0.9}" \--cli-binary-format raw-in-base64-out \--region us-west-2 \invoke-model-output.txt

该模型同时支持和 API。以下 Python 代码示例显示了如何使用 Amazon Bedrock Converse API 向 DeepSeek-R1 模型发送文本消息以生成文本。要了解更多信息，请访问亚马逊云科技文档中的 DeepSeek 模型推理参数和响应。

InvokeModel Converse

import boto3
from botocore.exceptions import ClientError# Create a Bedrock Runtime client in the Amazon Region you want to use.
client = boto3.client("bedrock-runtime", region_name="us-west-2")# Set the model ID, e.g., DeepSeek-R1 Model.
model_id = "us.deepseek.r1-v1:0"# Start a conversation with the user message.
user_message = "Type_Your_Prompt_Here"
conversation = [{"role": "user","content": [{"text": user_message}],}
]try:# Send the message to the model, using a basic inference configuration.response = client.converse(modelId=model_id,messages=conversation,inferenceConfig={"maxTokens": 512, "temperature": 0.5, "topP": 0.9},)# Extract and print the response text.response_text = response["output"]["message"]["content"][0]["text"]print(response_text)except (ClientError, Exception) as e:print(f"ERROR: Can't invoke '{model_id}'. Reason: {e}")exit(1)

要在 DeepSeek-R1 模型上启用 Amazon Bedrock 护栏，请在左侧导航窗格中的 Safeguards （保护措施）下选择 Guardrails （护栏），然后根据需要配置任意数量的筛选条件来创建护栏。例如，如果您筛选 “politics” 单词，则护栏将在提示中识别此单词并向您显示被阻止的消息。

在这里插入图片描述