Hugging News #0602: Transformers Agents 介绍、大语言模型排行榜发布!

news/2025/1/15 12:20:01/

每一周,我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新,包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等,我们将其称之为「Hugging News」,本期 Hugging News 有哪些有趣的消息,快来看看吧!

重磅更新

Transformers Agents 发布,通过自然语言控制超过十多万个 HF 模型!

dc57bedbe50f2b68c68f6ebeaf4c2332.jpeg

近期,我们发布了一个非常“大胆”的新特性: Transformers Agents,并加入到了 🤗 Transformers 4.29 之后的版本中。它在 Transformers 的基础上提供了一个自然语言 API,来 “让 Transformers 可以做任何事情”。这其中有两个概念:一个是 Agent (代理),另一个是 Tools (工具),我们定义了一系列默认的工具,让代理去理解自然语言并使用这些工具,文档:
https://hf.co/docs/transformers/transformers_agents

代理这里指的是大语言模型 (LLM),你可以选择使用 OpenAI 的模型 (需要提供密钥),或者开源的 StarCoder 和 OpenAssistant 的模型,我们会提示让代理去访问一组特定的工具。

工具指的是一个个单一的功能,我们定义了一系列工具,然后使用这些工具的描述来提示代理,并展示它将如何利用工具来执行查询中请求的内容。

2be5e42f1c2ffec87cc3877a87989b5b.png

我们在 transformers 中集成的工具包括:文档问答、文本问答、图片配文、图片问答、图像分割、语音转文本、文本转语音、零样本文本分类、文本摘要、翻译等。不过你也可以扩展这些一些与 transformers 无关的工具,比如从网络读取文本等,查看如何开发自定义工具:
https://hf.co/docs/transformers/custom_tools

辅助生成 (Assisted Generation) 发布: 将低延迟文本生成付诸实践,本地大语言模型助手不是梦!

dd73988166f99678b0e07bc69a94c168.png

大语言模型目前广受欢迎,但其响应速度的缓慢限制了其用户体验。对于需要快速反应的任务,人们通常使用规模较小的模型,但这会牺牲结果质量。文本生成的延迟主要来自于模型的前向传递步骤,即模型权重加载到设备计算核心的过程,我们的一篇博文介绍了一种新的解码方法,通过这种辅助生成方法,硬件中的延迟可以降低多达 10 倍。此外,还可以通过模型优化和输入批处理来改善模型前向传递的性能问题。

欢迎阅读中文博客内容 (微信版):https://huggingface.co/blog/zh/assisted-generation

以及这个 Space 应用:https://hf.co/spaces/joaogante/assisted_generation_demo

开源更新

开放的开源大语言模型排行榜

4a721821fe76520b429cdca4857a9461.png

每周都有大量的大型语言模型 (LLM) 和各种聊天机器人发布,令人眼花缭乱~ 我们制作了一个开放的大语言模型排行版,主要目标是跟踪、排名和评估最新的大语言模型和聊天机器人,让所有人方便的观察到开源社区的进展和评估这些模型。这个排行榜有一个关键优势,社区中的任何成员都可以提交模型,并在 Hugging Face 的 GPU 集群上自动评估。

你可以在这里看到这个排行榜:https://hf.co/spaces/HuggingFaceH4/open_llm_leaderboard

Woodstock of AI 活动回顾视频

回顾我们在 3 月底在旧金山举办的 AI 社区会议:


http://www.ppmy.cn/news/184289.html

相关文章

安卓手机烧内存卡(就是内存卡损坏)的补救办法

现在很多人都用安卓手机,但是放在安卓手机里的内存卡很容易损坏,特别是连接到电脑上没有安全弹出就拨掉手机或是数据线时,内存卡几乎肯定就要被烧掉(损坏掉),这时既便在手机中放入内存卡,但也没…

E1630加工散热孔:中兴路由器wifi6千兆E1630电信商企版Wi-Fi6路由器3000M全千兆

手贱在咸鱼上收了一台说是仅拆封试机的装宽带送的ZTE和中国电信共同冠名的E1630的路由器,测试了下,发现比较热(传说中的温热?),用什么办法降温呢? 由于我是把路由器挂在墙上,因此&a…

智慧厕所空气净化设备异味除臭杀菌更彻底

公厕虽小,但关系到民生大问题;臭气熏天、脏乱差的公共厕所,影响的不仅仅是人们如厕的满意舒适度,也不仅仅是造成公共卫生隐患,还会直接损害一座城市的形象品质。人来人往的公共厕所细菌多,需要经常进行杀菌…

基于GEC6818的个人超市购物系统

设计目标 1、把商品信息存放到文件中 2、程序启动时加载文件信息到数据结构中 3、根据用户选择的功能显示商店或购物车信息 4、根据用户点击的商品添加、删除商店或购物车内容 功能描述 1、侧边功能栏可以浏览商品以及购物车 2、浏览商品时选中商品自动加入购物车&#x…

小马哥----高仿移动定制版LTE4G yk858 H3H型号 6571芯片手机详细拆机主板图与开机界面图

yk858版本多 有个别的版本没办法使用常规方法root手机 此次展示的是移动定制版电池仓标贴 机型 主板标示贴为H3H 芯片为6571 此机型常规方法root不了 此机真实1080 1920分辨率 运存1G 4G内置内存 拆机多图展示

梅捷512G固态拆机+得一微YS9082HP量产教程+YS9082HP开卡工具

不得不说,现在的固态硬盘真越来越便宜了。想当初,买一块120G的sata固态硬盘都花了200多块钱,所以最近看到有爆料梅捷512G固态硬盘,结合各种优惠后能175元免邮费拿下,一不小心就买了(其实我并不是很需要它&a…

2019上海联通尾号789手机靓号多少钱一张?

号码--价格--最低消费(每张含话费100元) 186 2150 3789---200---5 186 2150 8789---200---5 186 2150 9789---200---5 186 2151 0789---200---5 186 2153 5789---200---5 186 2153 8789---200---5 186 2157 0789---200---5 186 2157 1789---200---5 186 …

一包通刷安卓9 晶晨S905L3/3B

免责申明: 本教程仅用于盒友之间的技术交流,本教程仅供学习交流,不用于任何商业用途!!! 升级有风险,操作需谨慎,由此引起的一切问题本人概不负责,风险自担! S…