下载材料和课件等
课程相关资料下载链接: https://pan.baidu.com/s/15Y-gmsfeYCgKF-M3TJZVgg?pwd=fafe 提取码: fafe
1.课件
链接:https://pan.baidu.com/s/15JTy9CqnesXSlPiwwrUmjA?pwd=1111
提取码:1111
2.phi3量化大模型
链接:https://pan.baidu.com/s/10HqxpkJmSyg-BbBbin8xHg?pwd=1111
提取码:1111
部署环境方法 同样是参见:
由于我 本机python是 3.7.4,我安装的miniconda是 Miniconda3-py37_4.9.2-Windows-x86_64.exe。
2024 NVIDIA开发者社区夏令营环境配置指南(Win & Mac)的补充说明-CSDN博客
先进入到课件 目录,再 启动 jupyter-lab,否则会看不到day1这些文件。
首先,在如下网址申请NVIDIA的api key
https://build.nvidia.com/explore/discover
在左侧 Discover,右侧为 Trending Now 中任意点一个模型 ,然后右下方的 Get api key按钮,可以获取一个key,务必把key里内容 copy和保存起来。
PS:如果这个模型(比如 mixtral-8x22b-instruct-v0.1)在下方有 docker的选项卡,则表示其可以按照其中提示通过docker部署。
之后,在登录状态可以在右上方头像处,查看到这个key的余额Credits left。
其中day1主要运行rag1和rag2两个文件
rag1 在运行到 Step6a处可能会报错,如果与langchain-community有关,则添加如下一行代码
!pip install -U langchain-community
在结尾处能够看到《阿凡达》的导演是 詹姆斯卡梅隆,就表示正确 了。
课程录屏,
链接: https://pan.baidu.com/s/110oEsaNSAqbRNpUC0u5VrA?pwd=c9gc 提取码: c9gc