在亚马逊云科技上用AI提示词优化功能写出漂亮提示词(上)

embedded/2025/1/27 3:40:02/
aidu_pl">

提示工程(Prompt Engineering)对各位小伙伴们来说是再熟悉不过了,提示词工程技术是通过编写指令词,指导开发者们调用AI基础模型(FMs)获得期望的响应。但是经常写提示词的朋友们会知道,为了获取理想的输出,我们可能需要花费数月时间不断进行实验和调整才能得到最优的提示词,同时不同基础模型的提示词最佳实践也不尽相同,这意味着我们要设计兼容不同模型类别的提示词。此外提示词通常是与特定模型和特定任务场景所匹配的,当更换不同的基础模型时,适用于其他模型的提示词性能无法得到保证。提示工程调优的巨大工作量常常拖慢了我们开发基于不同模型的生成式AI应用。

今天小李哥想给大家分享的是如何利用亚马逊云科技AI大模型管理平台 - Amazon Bedrock提示优化(Prompt Optimization) 功能,为我们的生成式AI应用优化提示词,我们只需要通过简单的API 调用或在Amazon Bedrock控制台上点击一个按钮即可完成提示词的优化,轻松写出美丽提示词。

在本系列的上篇中,小李哥通过一个真实场景手把手带大家通过提示词优化功能,无痛生成完美提示词,提升生成式AI应用的表现。在下篇中我们会讨论我们通过提示词优化功能优化过的提示词,在提示词数据集上性能基准测试结果和模型回复效果提升。

提示词优化功能所支持的模型

目前Amazon Bedrock的提示优化功能支持以下基础模型的提示词优化:Anthropic Claude 3 系列(Haiku、Sonnet、Opus、Claude-3.5-Sonnet)、Meta Llama 3 70B 和 Llama 3.1 70B、Mistral Large 以及 Amazon Titan Text Premier。

 

具体实操步骤

提示优化可以显著提升生成式AI应用的性能,接下来我们将通过优化过的提示词,分析企业客服与用户通话或聊天的记录,并对基于用户的通话内容,通过AI预测对用户问题的处理步骤。

1. 在亚马逊云科技控制台中,进入Amazon Bedrock控制台的导航窗格中,选择“Prompt management”(提示词管理)界面。

2. 选择“Create prompt”创建提示词。

3. 输入提示词的名称和备注描述,然后选择“Create”创建。

4.接下来我们进入到了Prompt编辑界面,我们在User message字段中,输入希望进行优化的提示词原文。以下图片中的例子中,我们希望优化一个关于企业客服中分析通话或聊天记录,并基于用户回复指导客服下一步的操作,可选的操作如下:

等待客户继续输入(Wait for customer input)

转向人工客服(Assign agent)

升级处理转到客服经理(Escalate)

在提示词编辑界面的“User Message”部分中,我们输入以下英文提示词

5.在右侧的Configurations配置栏中,在“Generative AI resource”标题下方,我们选择“模型(Models)”类别,并选择我们想使用的模型。在本场景下,我们使用了Anthropic Claude 3.5 Sonnet。

6.接下来我们点击 “Optimize”开始优化。此时界面中会弹出一个窗口,提示我们的提示词正在进行优化。

7. 当优化完成后,我们将看到原始提示和优化后提示的并排的对比界面,便于大家对比优化结果。

8. 接下来我们将需要被分析的用户通话记录”transcript“添加到”test variable“的变量值中,作为应用提示词进行分析的内容,然后点击 “Run”开始运行。

9. 运行结束后,我们就可以看到模型生成的输出内容,该内容为基于客服对话内容为客服建议的下一步客服操作,格式与我们期望的要求相符。

从该展示中我们可以看出,优化后的提示词相对于我们初始提供的提示词更加清晰,并且提供了明确的指示,以便AI基础模型正确处理提供的客服通话记录内容。这有助于提供正确的客服操作建议结果,并以我们所需的格式输出。

当提示优化完成后,我们也可以通过创建版本(Create Version)的方式来将该提示词部署到我们的AI应用中,该操作会将当前配置创建一个整体的快照,方便打包部署到新开发的AI应用中进行调用。Amazon Bedrock目前允许存储多个提示词的版本,以便在不同的用户使用场景下之间切换。

以上就是亚马逊云科技上通过Amazon Bedrock提示词优化功能优化提示词,提升模型回复性能效果、无痛生成完美提示词的方案的全部内容。欢迎大家关注小李哥和本系列的下篇,不要错过未来更多国际前沿的AWS云开发/云架构方案。 


http://www.ppmy.cn/embedded/157268.html

相关文章

jenkins平台使用Login Theme、Customizable Header插件定制修改登陆页图片文字及首页标题

文章目录 前言一、需求二、Login Theme插件1.插件信息2.登陆框上增加文字3.登录页图片的修改 二、Customizable Header插件1.插件信息2.首页标题 总结 前言 使用Login Theme、Customizable Header插件定制修改登陆页logo及首页标题 一、需求 我的使用需求比较简单&#xff0c…

鸿蒙模块概念和应用启动相关类(HAP、HAR、HSP、AbilityStage、UIAbility、WindowStage、window)

目录 鸿蒙模块概念 HAP entry feature har shared 使用场景 HAP、HAR、HSP介绍 HAP、HAR、HSP开发 应用的启动 AbilityStage UIAbility WindowStage Window 拉起应用到显示到前台流程 鸿蒙模块概念 HAP hap包是手机安装的最小单元,1个app包含一个或…

攻防世界bad_python

文件名pyre.cpython-36.pyc,说明是在python3.6环境下编译的,要把pyc反编译成py 但是显示失败了,结合题的名字文件的应该是文件头部被破坏 把第一行改为33 0D 0D 0A 0C 63 4A 63 61 02 00 00 E3 00 00 00 之后就能反编译了,得到源…

数据结构初阶之队列的介绍与队列的实现

一、概念与结构 概念:只允许在一端进行插入数据操作,在另一端进行删除数据操作的特殊线性表,队列具有先进先出 FIFO (First In First Out) 的特点。 入队列:进行插入操作的一端称为队尾 出队列:进行删除操作的一端称为…

第19章 走进 xUnit:测试驱动开发的关键工具(续)

写在前面 这本书是我们老板推荐过的,我在《价值心法》的推荐书单里也看到了它。用了一段时间 Cursor 软件后,我突然思考,对于测试开发工程师来说,什么才更有价值呢?如何让 AI 工具更好地辅助自己写代码,或许…

对神经网络基础的理解

目录 一、《python神经网络编程》 二、一些粗浅的认识 1) 神经网络也是一种拟合 2)神经网络不是真的大脑 3)网络构建需要反复迭代 三、数字图像识别的实现思路 1)建立一个神经网络类 2)权重更新的具体实现 3&am…

【力扣Hot 100】矩阵2

旋转图像:观察旋转前后矩阵,发现点 i, j的变化规律,即每4个点会一同交换位置。遍历起始点。 搜索二维矩阵:按行二分法 3. 旋转图像 给定一个 n n 的二维矩阵 matrix 表示一个图像。请你将图像顺时针旋转 90 度。 你必须在 原…

【脚本】如何禁用谷歌浏览器自动更新

这里写自定义目录标题 问题描述解决方法代码 问题描述 最近更新系统以后,发现chrome老是自己更新,导致我的代码也得跟着他更新,就跟一个拜托不掉的狗皮膏药一样。 解决方法 于是我写了一个脚本,以下代码都是bash代码&#xff0…