这几天学习了樊奇老师讲授的《Lagent 自定义你的 Agent 智能体》一课,受益颇深,非常感谢书生浦语团队老师们提供的如此丰盛的大餐,真得很香!下面是实操的截图:
为 Lagent 创建环境
conda create -n agent_camp3 python=3.10 -y
激活环境
conda activate agent_camp3
安装 torch
conda install pytorch2.1.2 torchvision0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia -y
安装其他依赖包
pip install termcolor2.4.0
pip install lmdeploy0.5.2
成功install虚拟环境
安装其他依赖包成功
Lagent Web Demo
LMDeploy api_server
上面个 server 都完全启动后,在 本地 的 PowerShell 中输入如下指令来进行端口映射:
ssh -CNg -L 8501:127.0.0.1:8501 -L 23333:127.0.0.1:23333 root@ssh.intern-ai.org.cn -p <你的 SSH 端口号>
然后,在本地浏览器中打开 localhost:8501,并修改模型名称一栏为 internlm2_5-7b-chat,修改模型 ip一栏为127.0.0.1:23333。
最后按“enter”键以确认。
静等下面LagentWebDemo图像出现
lagentwebdemo
这是输入"帮我搜索一下 MindSearch 论文”的web截图
这是次课主要过程,请佬们指正。