在亚马逊云科技上利用Agent和生成式AI写小说(上篇)

ops/2024/11/15 6:07:21/

今天小李哥将介绍亚马逊推出的国际前沿人工智能AI大模型平台Amazon Bedrock上的Agent的功能。我们将利用Agent结合代码应用工作流服务Step Functions创建链式提示词(Prompt Chaining),通过提示词调用Amazon Bedrock上AI大模型写一篇小说。其中架构前端使用了Streamlit框架开发,为用于提供了写小说的交互界面。整个项目的架构图如下:

在本系列上篇内容中,我将分享项目的源代码,并帮助大家部署项目搭建整个项目。最后通过UI体验小说生成功能,生成大家专属的小说。

方案所需基础知识

什么是Amazon Bedrock平台上的Agent?

Amazon Bedrock Agent 是亚马逊云科技推出的一项生成式AI功能,它利用生成式AI(Generative AI)帮助开发者构建能够跨多个系统和数据源执行任务的智能应用程序。通过 Amazon Bedrock,开发者可以轻松地接入预训练的大模型,并通过 Agents 赋能应用程序,实现更复杂的任务自动化。

Bedrock Agents 的一个核心特点是其高度灵活性和可扩展性,能够根据开发者的需求快速配置和集成。开发者可以通过简单的指令和操作组定义 Agents 的行为,同时支持直接与 Amazon Virtual Private Cloud(VPC)内外的服务进行交互,而无需复杂的网络和安全配置。这为开发者提供了极大的便捷性和控制权。

使用Agent开发生成式AI应用的好处?

借助 Amazon Bedrock 上的 Agents功能,开发者可以使用生成式AI(Generative AI)跨多个系统和数据源执行任务、开发应用程序。使用Agents功能开发应用程序有以下几个好处:

快速创建Agent代理

Amazon Bedrock可以帮助开发者快速创建Agent,并根据需要选择性地添加指令和操作组,为开发者的开发流程提供了更大的灵活性和敏捷性。

Agent代理构建器

所有的Agent配置都可以通过Amazon Bedrock控制台上的代理构建器部分进行操作和管理,简化开发流程。

简化配置

操作组可以使用简化的架构设计和搭建,只需列出需要调用的函数和参数,而无需提供完整的 API 架构。

控制权的返回

开发者可以在Agent执行逻辑中选择跳过使用 AWS Lambda 函数,并将应用逻辑决策权返回给调用代理的应用程序。通过这种方式,应用程序可以直接与 AWS 之外的系统集成,或者调用托管在任何 Amazon VPC中的内部API端点,而无需开发复杂的AWS Lambda代码应用以及维护庞大网络基础设施。

本实践包括的内容

1. 分享Agent生成小说项目源代码

2. 在亚马逊云科技上部署Agent生成小说应用

3. 体验小说生成服务生成小说

本实践包括的内容

项目部署

1. 首先我们打开亚马逊云科技控制台,进入云端IDE服务Cloud9

2. 我们接下来点击Open进入IDE开发环境

3. 接下来我们通过Github命令,将代码clone到本地IDE环境

git clone https://github.com/aws-samples/build-genai-agent-workflows-with-step-functions

4. 运行以下命令更新NPM

sudo npm install -g npm

5, 通过以下命令安装AWS CDK基础设施代码开发

sudo npm install -g aws-cdk

6. 运行以下命令安装必要依赖

cd build-genai-agent-workflows-with-step-functions/
pip install -r requirements.txt

7. 运行以下命令开始部署项目

cdk deploy --all

8. 部署完成后会输出搭建好的前端UI URL,在输出的promptChaining-StreamlitWebapp对应的键值中。

利用AI生成小说体验

9. 另外一种获取URL的方式是通过CloudFormation,基础设施即代码服务输出的内容获取。我们再返回亚马逊云科技控制台,进入CloudFormation服务中

10. 点击我们刚创建好的CloudFormation堆栈,打开Output页面,点击promptChaining-StreamlitWebapp对应的键值URL

11.打开后我们即可看到生成小说的应用UI界面

 12. 在开始生成内容之前,我们需要确保以下Bedrock上的模型权限是开启的。

13. 我们再聊天输入框中输入我们生成小说的主题:“The wild west” 西部荒野主题,并点击Start开始生成

14. 点击后稍作等待,我们就可以看到下方输出框生成了基于我们主题的小说内容。右侧红框中则为Agent在生成小说过程中的应用逻辑链

15. 如果我们想了解应用逻辑链的具体细节,我们需要从控制台进入Step Function服务查看我们的Step Function逻辑脚本代码。在本系列的下篇中我们将带大家查看该脚本配置代码,自定义Agent小说生成配置,提升AI开发技术。

以上就是利用亚马逊云科技AI大模型平台Amazon Bedrock Agent代理开发小说生成应用程序上篇内容。欢迎大家关注小李哥的亚马逊云科技AI服务深入调研系列,关注小李哥未来不要错过更多国际前沿的AWS云开发/云架构方案。 


http://www.ppmy.cn/ops/108107.html

相关文章

动态规划---打家劫舍

题目: 你是一个专业的小偷,计划偷窃沿街的房屋。每间房内都藏有一定的现金,影响你偷窃的唯一制约因素就是相邻的房屋装有相互连通的防盗系统,如果两间相邻的房屋在同一晚上被小偷闯入,系统会自动报警。 给定一个代表…

防封!数字人直播防封!铭顺科技AI数智人抖音直播防封落地方案!!

数字人直播防不防封? 数字人直播有没有流量? 数字人直播能不能落地? 这是目前所有想入局AI数字人赛道、想用数字人直播、想做数字人项目的老板们最担心、最关心的问题!但是,同行友商对此都噤若寒蝉,不敢跟…

自定义类型:结构体(续)

目录 一. 结构体的内存对齐 1.1 为什么存在内存对齐? 1.2 修改默认对齐数 二. 结构体传参 三. 结构体实现位段 一. 结构体的内存对齐 在前面的文章里我们已经讲过一部分的内存对齐的知识,并举出了两个例子,我们再举出两个例子继续说明&…

HBase 源码阅读(四)HBase 关于LSM Tree的实现- MemStore

4. MemStore 接口 Memstore 的函数不能并行的被调用。调用者需要持有读写锁,这个的实现在HStore中 我们放弃对MemStore中的诸多函数进行查看 直接看MemStore的实现类 AbstractMemStoreCompactingMemStoreDefaultMemStore 4. 1 三个实现类的使用场景 1. Abstra…

【Tools】AutoML简介

摇来摇去摇碎点点的金黄 伸手牵来一片梦的霞光 南方的小巷推开多情的门窗 年轻和我们歌唱 摇来摇去摇着温柔的阳光 轻轻托起一件梦的衣裳 古老的都市每天都改变模样 🎵 方芳《摇太阳》 AutoML(自动机器学习)是一种使用机…

微信小程序 === 长列表性能优化

目录 怎么做到的? 环境准备 使用开发者工具调试 开始迁移 在真机上预览效果 配置 We 分析 AB 实验 快捷切换入口 如何识别当前页面是否使用 Skyline 滚动容器及其应用场景 长列表 ScrollView 的三种模式 列表模式 自定义模式 嵌套模式 可拖拽容器 对…

国内首个金融领域“AI 换脸”检测标准正式发布

大数据产业创新服务媒体 ——聚焦数据 改变商业 9月6日,《虚假数字人脸检测金融应用技术规范》标准(下称《标准》)在 2024 Inclusion外滩大会上正式发布。标准规定了金融领域虚假数字人脸检测服务的功能要求、技术要求、性能要求等&#xff…

vue3 前端实现pdf打印预览 printjs

在utils建print.ts文件 interface PrintFunction {extendOptions: Function;getStyle: Function;setDomHeight: Function;toPrint: Function; }const Print function (dom, options?: object): PrintFunction {options options || {};// ts-expect-errorif (!(this instanc…