云轴科技ZStack AIOS平台智塔亮相FDS金融领袖峰会

news/2025/3/14 10:55:51/

人工智能(AI)正以前所未有的速度渗透到金融系统,推动着金融服务的创新和变革。这种深度融合不仅可以提高金融服务的效率和准确性,未来还可催生全新的金融产品和服务模式。尤其是生成式人工智能(GenAI)的出现,通过生成文本、图像、代码等多种形式的内容,为金融机构提供了全新的工具和视角。

AI如何加速金融服务的创新和变革?关键在于能否利用AI实现业务的质效提升,并通过真正优化用户体验,加速金融AI渗透率。在8月上海城创金融科技国际产业园举行的2024FDS金融领袖峰会上,云轴科技ZStack CTO王为以“ZStack AIOS平台智塔加速金融行业重构 AI 基础设施”为主题,与峰会上百位银行、证券、保险、基金等金融客户代表分享了AIOS平台智塔在金融行业的应用。


ZStack AIOS平台智塔可以在金融机构的市场和销售、渠道与运营、产品开发、投顾服务、客户关系管理、风险合规等领域发挥重要的作用。举例来看,在金融资讯领域充斥着大量信息,AI不仅可以基于RAG查询上下文生成结论,还可以进行文章生成,并对文字审核、规范审核、逻辑检查、事实核查和敏感内容检查,提高内容质量和可信度。又比如金融分析师面对每天成百上千篇新研报,通过ZStack AIOS平台智塔进行摘要和观点提取,可实现快速响应。

此外,ZStack企业自身正在通过AI提升客户服务效率。ZStack通过在AIOS平台智塔对AI进行技术知识训练,结合RAG知识库搭建SupportAI智能机器人,接入到企业内部群,实现了面向客户支持和新员工学习的智能服务。相比以往的“凭经验”纯人工服务,AI的赋能让ZStack技术服务响应速度提升约30倍。


 

王为认为,AI应用发展呈现三个趋势,而企业客户尤其是金融客户可以通过AIOS平台来应对三大趋势带来的机遇和挑战:

开源大模型涌现,大部分企业从头训练大模型既无必要也不划算。在这样的背景下,金融客户可以通过AIOS平台模型层快速体验新模型,通过模型评测服务测试新模型是否提升;而在快速导入、体验最新的大模型时,还可以通过自有数据微调和RAG构建自己的应用;最后可以通过对多种推理引擎的支持,达到对模型兼容性和模型性能的均衡。

一个 AI 应用将涉及多个大、小模型的配合,单一模型难以一次完成任务。对于金融客户来说,通过AIOS平台的 MaaS 模型层整合、管理模型生命周期及多种模型资源,还可精细化控制解决模型幻觉,更充分的使用平台算力。

高端算力昂贵和供应问题将长期存在。对于金融客户来说,他们需要利用AIOS平台算力层能力,进行平台调度、显卡切割提升 GPU 利用率;通过分布式推理、分层推理,让小卡“合并”成大卡装载模型;以此合理使用智算卡的同时,多方面寻找硬件资源降低硬件成本,并跟踪各主流国产智算卡的 AI 推理能力进展,分散供应渠道。


 

云轴科技ZStack AIOS平台智塔,期望通过同时解耦算力竖井和模型竖井,帮助金融客户从容应对三大趋势,优化AI应用性能和成本,加速金融AI市场应用进程。

算力层:ZStack AIOS平台智塔的算力精分调度平台,支持NVIDIA、AMD、Intel、海光、华为昇腾、寒武纪、燧原、天数智芯、太初元碁、壁仞、摩尔线程、沐曦等中国市场上的主流品牌和几十种AI芯片型号,实现异构算力协同不同AI 模型之间的优化路由,降低AI算力成本。

模型层:ZStack AIOS平台智塔的动态模型自适应平台,可以支持生成式AI(GenAI)、自然语言处理 (NLP)、计算机视觉、机器学习(ML)、深度学习(DL)以及多模态AI,并支持Llama、Gemma、通义千问Qwen、智谱ChatGLM、百川Baichuan、零一万物Yi、智源BGE、StableDiffusion、XTTS等数百种开源文字类、图形类、声音类大模型,实现模型压缩与性能优化,模型选型与生命周期管理,训推高效部署与自适应调度,达到跨软硬件的全面性能优化。

运营层:ZStack AIOS平台智塔的全域感知自服务平台,可以进行多租户隔离和动态资源配额管理,实现跨智算中心、跨集群的全域感知统一调度,提供按量计费的动态训推服务,具备可视化统一门户,弹性跨域容错,实现精细化的自服务运营体系。


 

“面对企业AI应用三大趋势,企业需要在模型层,紧跟开源模型趋势,从模型筛选做起,传统AI与生成式AI并行;在运营层,降低每个人使用AI的门槛,应用蕴含在一线场景之中;在算力层,长期关注算力供应问题,国产GPU能力储备。” 王为表示,“ZStack AIOS平台智塔可以同时从算力层、模型层、运营层协助金融企业以AI为核心进行重塑,加速金融服务的创新和变革。”


此外,新一代金融AI软件基础设施ZStack AIOS平台智塔在此次峰会上还获得金融优秀解决方案领袖奖。


http://www.ppmy.cn/news/1516958.html

相关文章

系统分析师5-数据库特训专题

文章目录 1 数据库设计概述2 规范化与反规范化2.1 规范化2.2 反规范化2.3 案例分析例题1 3 数据库索引与视图的应用3.1 数据库索引3.2 数据库视图3.3 案例分析例题2 4 分布式数据库系统5 数据库分区分表分库5.1 案例分析例题3 6 分布式事务增补6.1 案例分析例题4 7 NoSQL8 附录…

redis实战——go-redis的使用与redis基础数据类型的使用场景(二)

一.go-redis操作hash 常用命令: redisClient.HSet("map", "name", "jack") // 批量设置 redisClient.HMSet("map", map[string]interface{}{"a": "b", "c": "d", "e"…

如何使用ssm实现基于SSM的旅游管理系统

TOC ssm285基于SSM的旅游管理系统jsp 第1章 绪论 1.1 课题背景 互联网发展至今,无论是其理论还是技术都已经成熟,而且它广泛参与在社会中的方方面面。它让信息都可以通过网络传播,搭配信息管理工具可以很好地为人们提供服务。所以各行业&…

三级_网络技术_50_综合题(报文)

一、 下图是校园网某台主机在命令行模式执行某个命令时用wireshark捕获的数据包 请根据图中信息回答下列问题。 (1)该主机上执行的命令是__________ (2)该主机上使用的DNS服务器的IP地址是__________ (3)该主机的IP地址是__________ 该主机的MAC地址是__________ (4)主机…

网络安全的历史

如今,网络安全几乎成为各大公司和利益相关者关注的焦点。但在早期,网络安全的概念非常模糊。 直到多年以后,由于网络攻击和危险实体威胁的频繁发生,网络安全的发展才受到重视。这些措施的发展成为了网络安全的演变。 网络安全起…

Nginx 负载均衡详解

一、Nginx 简介 Nginx 是一个高性能的开源 Web 服务器和反向代理服务器,以其轻量级、高并发、低内存消耗等特点著称。Nginx 不仅适用于静态资源的快速分发,还广泛应用于负载均衡、反向代理等场景。通过Nginx,可以轻松地构建一个高效、可靠且…

8月27复盘日记

8月27复盘日记 前言今日感恩今日知识今日反思今日名言 前言 今天早上是七点半起床嘻嘻,昨晚和舍友聊天,分享小时候的趣事,以及一些观点,聊得有些激动,就比较难以入睡   今天天气又是超级让人幸福!&#x…

【ansible】ansible roles

ansible roles 简介 Ansible Roles是一种组织和管理Ansible Playbooks的方法。它们允许将相关的配置和任务分组到一个可重用的单元中,使得代码更加模块化和可维护。 一个Ansible Role包含了一组预定义的变量、任务和文件结构。它可以被其他Playbooks调用和使用&am…