OpenCSG传神社区月度功能更新

news/2024/12/22 1:09:13/

9月社区ReleaseNote

在9月的社区更新中,我们继续秉持开放与创新的精神,推出了一系列新功能和技术升级。这些更新不仅扩展了社区的技术支持范围,还为用户提供了更多资源,助力其在人工智能、大数据处理和推理加速等领域的创新。通过与知名企业的合作、引入具身智能的专区以及不断提升存储系统的性能,传神社区致力于为开发者、研究人员和企业提供一个全面、开放、易于使用的平台。

本次更新包括以下几大亮点:

01 具身智能专区🧠

02 Dataflow平台上线🌐

0支持NVIDIA推理引擎NIM🤖

04 支持昇腾推理引擎MINDIE⚙️

05  提示工程专区📋

06  数据集预览功能增强👀

07  后端存储系统升级📦

来源:传神社区

01 

具身智能专区

基于8月推出的“开源项目”模块,本次新增了“知名企业”专区,进一步拓展了具身智能领域的内容,为用户提供了更广泛的行业视角和信息资源。该专区汇集了全球在具身智能领域中具有重要影响力的企业,涵盖了机器人、人工智能技术研发及应用等多个方向。

在这个专区中,用户可以方便地浏览并深入了解与具身智能技术紧密相关的领先企业,如Neura Robotics、Sanctuary AI和Figure AI等。这些企业的资料包括它们的成立时间、主要技术方向、产品和服务,以及最新的技术动态。通过访问这些企业的介绍页面,用户能够了解行业内的最新进展、技术革新以及不同企业在具身智能领域的研究和开发重点。

此外,专区不仅是行业信息的展示窗口,也是一个交流与合作的平台。通过这一模块,用户能够掌握最新的前沿技术趋势,并有机会与这些领先企业建立合作或获取技术支持,进一步推动具身智能在各行业中的应用与创新。

您可以在传神社区首页 导航栏 -> 专区 -> 具身智能 -> 找到“知名企业”专区

图片

图片

02 

Dataflow平台上线

DataFlow平台是基于Agentic架构理念设计的,专门应对复杂的数据处理任务。这个平台通过高度动态且可定制化的架构,为用户提供了一站式的数据处理体验,极大地简化了各类复杂的数据操作过程。无论是大规模数据清洗、分析,还是多种格式的文件处理,DataFlow都能够灵活适应不同场景的需求。它不仅为用户提供了高效的数据流管理和任务自动化工具,还具备良好的扩展性,能够轻松应对不断增长的业务需求。

平台支持多种数据处理模块,涵盖从数据清洗、转换到复杂的机器学习模型部署的全流程。用户可以通过直观的界面创建并管理自己的数据任务,实时查看任务状态和处理进度。同时,DataFlow还集成了丰富的数据源接口,支持对不同类型的文件格式进行快速处理,如PDF、CSV、HTML等,帮助用户轻松应对多样化的数据处理需求。

DataFlow平台的最大优势在于其高度定制化的解决方案。用户可以根据具体的业务需求,灵活调整数据处理流程、配置参数,并通过平台提供的API接口与现有系统无缝集成。这一切都极大提升了数据处理的效率与灵活性,使用户能够专注于更具战略性的数据分析和决策。

您可以在传神社区首页 导航栏 -> 产品 -> 找到 DataFlow 智能数据平台

图片

图片

详情请点击卡片内容查看

我们欢迎用户随时与我们联系,以获取更多关于DataFlow平台的详细信息和定制化咨询服务。我们的团队将为用户提供个性化的解决方案,帮助其充分利用平台的强大功能,满足各种数据处理的需求。

03 

支持NVIDIA推理引擎NIM

NVIDIA 推出的 NIM(NVIDIA Inference Microservices) 是一款基于 NVIDIA 推理软件的微服务预构建容器,包含了 Triton 推理服务器™TensorRT™-LLM,为开发者提供强大的推理加速能力。借助高性能显卡如 A100H800,NIM 能显著缩短 AI 模型的部署时间,从传统的几周减少到几分钟,为企业带来极大的效率提升。

通过 OpenCSG,用户可以轻松实现 NIM 容器的部署,快速优化模型推理,加速大模型应用的落地。

这一解决方案不仅为用户提供了高效、安全的推理应用环境,还通过与阿里云计算巢的结合,提供了企业级私有化部署选项,满足企业在数字化转型中的不同场景需求。

图片

详情请点击卡片内容查看

API 测试

图片

UI测试

图片

性能测试(2GPU in A10)

图片

04 

支持昇腾推理引擎MINDIE

OpenCSG 平台现已全面支持 昇腾推理引擎 MindIE,为开发者提供了强大的推理加速工具。通过集成 MindIE,OpenCSG 用户可以充分利用昇腾硬件的高效算力,快速部署并优化基于昇腾平台的 AI 应用。MindIE 的引入不仅提升了 AI 推理任务的处理效率,还让用户能够通过分层开放的 AI 能力设计多样化的推理方案,满足各类复杂应用场景的需求。

在 OpenCSG 中,用户可以轻松选择 MindIE 作为运行时框架,并根据具体业务需求动态调整资源配置,例如选择不同的 NPU、vCPU 及内存,确保推理任务在最优配置下高效运行。MindIE 的多层次编程接口还允许开发者根据不同的推理任务灵活调用底层 API,极大提升了开发的灵活性和效率。

MindIE 支持多个昇腾处理器,如 NPU 910B,能够提供卓越的推理加速效果。结合 OpenCSG 平台的高可扩展性,用户可以在该平台上轻松部署 AI 模型,实现从开发、测试到生产环境的一站式服务,进一步优化推理性能并缩短项目的上线周期。

通过 MindIE 的支持,OpenCSG 不仅进一步扩展了其 AI 推理能力,还为广大的昇腾平台用户提供了更加灵活、高效的开发环境,助力他们在各类 AI 任务中获得更出色的表现。

您可以在个人中心-> 资源控制台-> 新建实例 -> 运行时框架 -> 选择 MindIE 

图片

05  

提示工程专区

社区上线了全新的提示工程专区,旨在为用户提供丰富的提示词相关工具和资源,助力大家更高效地开发和优化提示工程。这个专区涵盖了多个模块,方便用户在不同应用场景下灵活使用。

“提示词库”模块,用户不仅可以浏览社区中已经共享的优质提示词,还可以根据自己的需求搜索特定领域的提示词,或者通过模型查看关联的提示词。这些提示词由社区用户共同贡献,涵盖了各类AI应用场景,如自然语言处理、生成式模型、图像识别等。用户还可以对自己常用或创造的提示词进行标注和分享,进一步丰富提示词库的内容,同时帮助其他用户加速模型开发。

“优化助手”模块是提示工程专区的另一大亮点,专为提示词优化而设计。通过这个模块,用户可以将自己的提示词输入,OpenCSG提供优化服务,对提示词进行微调。

您可以在传神社区首页 导航栏 -> 专区 -> 提示工程 -> 找到提示词库和优化助手

图片

图片

图片

06 

数据集预览功能增强

针对parquet格式的数据集,平台支持子数据集及用途数据集的智能识别与切换功能。用户可在数据预览界面中查看并管理不同的子数据集,如训练集、验证集和测试集。通过选择用途(例如train, validation, test),用户能够快速切换数据的使用场景,以满足不同的实验需求。此外,系统能够自动识别并展示parquet文件中的行数,方便用户了解数据集的规模。该功能有效简化了数据集管理流程,增强了多场景下的灵活性与便捷性。

图片

07 

后端存储系统升级

OpenCSG 的后端存储系统通过 Gitaly 进行了全面升级,显著提升了模型同步的性能。借助这一升级,用户能够体验到更高的可用性,系统在处理大规模模型时表现更加稳定。同时,响应速度大幅提升,用户可以更快速地完成模型的上传、下载和更新操作。升级后的系统还加强了稳定性,即使在高并发情况下,存储系统也能保持平稳运行,为用户提供更加流畅的操作体验。

欢迎加入传神社区

•贡献代码,与我们一同共建更好的OpenCSG

•Github主页

欢迎🌟:https:// github.com/OpenCSGs

•Huggingface主页

欢迎下载:https://huggingface.co/opencsg

•加入我们的用户交流群,分享经验

图片

扫描上方二维码添加传神小助手


“      关于OpenCSG

开放传神(OpenCSG)成立于2023年,是一家致力于大模型生态社区建设,汇集人工智能行业上下游企业链共同为大模型在垂直行业的应用提供解决方案和工具平台的公司。

关注OpenCSG

图片

加入传神社区

图片


http://www.ppmy.cn/news/1537142.html

相关文章

计算机网络:物理层 —— 物理层下的传输媒体

文章目录 传输媒体导向性媒体同轴电缆双绞线光纤光纤分类中心波长光纤规格光纤的优缺点 非导向性媒体ISM 频段无线电波微波激光红外线可见光 传输媒体 传输媒体是计算机网络设备之间的物理通路,也称为传输介质或传输媒介,并不包含在计算机网络体系结构中…

前端公共资源CDN存储库大全

具体请前往:前端公共资源CDN存储库大全-持续更新

word转pdf 好用的工具包com.aspose.words

com.aspose.words 是一个强大的文档处理库的包名,该库通常被称为 Aspose.Words。以下是对 Aspose.Words 的详细介绍: 一、主要功能 生成和编辑Word文档:Aspose.Words 允许开发人员动态地生成和编辑Word文档。它提供了一个强大的API&#xff…

图神经网络之异构图转同构图

heterogeneous graph转homogeneous 异构图创建教程dgl.to_homogeneous语法格式例子 异构图创建教程 对于异构图创建,可以看异构图创建教程 dgl.to_homogeneous语法格式 dgl.to_homogeneous(G, ndataNone, edataNone, store_typeTrue, return_countFalse)G&#x…

从编程视角看生命、爱、自由、生活的排列顺序

从编程视角看生命、爱、自由、生活的排列顺序 离开大学校园,踏入大厂成为一名算法工程师后,我常以编程思维看待生活中的事物。在思考生命、爱、自由和生活的排列顺序时,发现从编程角度分析这些概念会有独特见解。 一、生命——程序的核心代…

【SQL】掌握SQL查询技巧:数据聚合与分析

目录 1. 什么是聚合函数?2. 常见聚合函数详解2.1 COUNT 函数2.2 SUM 函数2.3 AVG 函数2.4 MIN 和 MAX 函数 3. 聚合函数的可视化示例3. 使用 GROUP BY 进行分组4. 使用 HAVING 子句过滤聚合结果5. 使用 GROUP BY 和 ORDER BY 进行分组和排序5. 实际应用案例5.1 实现…

高效数据处理:MapReduce与Hive的实战应用

文章目录 hive分析汇总互联网日志分析1.项目需求2.数据说明3.算法思路 用户电影推荐1.项目需求2.数据说明3.算法思路4.解题步骤 简单数据统计WordCount数据说明 疫情数据分析1.项目需求2.数据说明step1:创建ods层数据表step2:创建dwd层数据表step3:创建d…

【WebGis开发 - Cesium】三维可视化项目教程---视点管理

目录 引言一、基础功能探索1. 镜头视角获取2. 镜头视角移动 二、进一步封装代码1. 封装hooks函数2. 看下效果3. 如何使用该hooks函数 三、总结 引言 本教程主要是围绕Cesium这一开源三维框架开展的可视化项目教程。总结一下相关从业经验,如果有什么疑问或更好的见解…