我用了一下,界面这样子:
Github:https://github.com/All-Hands-AI/OpenHands
OpenHands_HuggingFace_Inference_API_4">OpenHands 如何使用HuggingFace Inference API
huggingface/meta-llama/Llama-3.3-70B-Instruct 而不是 meta-llama/Llama-3.3-70B-Instruct
不要设置base URL,不起作用。
更多关于OpenHands 使用HuggingFace Inference API:https://docs.litellm.ai/docs/providers/huggingface
如果你的代理不是TUN模式,你可能还要尝试在docker启动命令中设置
-e https_proxy=http://host.docker.internal:7897
7897,你的代理端口
另外,仓库README提供的docker run启动命令添加了–rm参数,Ctrl + c 容器退出后,容器会被删除。