Discuz! Board

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 1|回复: 0

今日要闻国产通信产业链发力AI基础设施,探路交互范式新机遇

[复制链接]

14万

主题

0

回帖

44万

积分

超级版主

Rank: 8Rank: 8

积分
442478
发表于 4 天前 | 显示全部楼层 |阅读模式
在AI大模型持续发展趋势下,通信产业链厂商也面临新的发展机会与挑战。一方面,AI为通信技术本身的迭代演进打开更大商业化空间;另一方面,通信在大模型中也起到提供“运力”等关键作用。
近日举行的2024移动全球合作伙伴大会上,移动董事长杨杰指出,移动建成了全球规模比较大、覆盖比较广的5G络,现了通感一体、超前智能的5G-A络商用。目前5G基站超230万个,5G-A商用城市超330个。5G应用已经成为产业转型升级的加速器。
同时他表示,以数智化为主要特征的新一轮科技革命和产业变革深入发展,数据、算力、人工智能成为新质生产力的重要驱动因素,引领经济社会从“互联+”“5G+”迈向“AI+”,进入AI+新时代。
本次大会期间,21世纪经济报道就发现,诸多通信产业链合作伙伴在传统移动络相关业务或应用之外,也在发力算力基础设施业务能力;在寻求商业化闭环的AI推理等层面,业界也有了新的思考。
完善基础设施AI大模型基础设施主要包括以GPU为核心的算力资源、以存储为核心的存力资源、以通信方式为重点的运力资源多个方面。为此,通信产业链相关基础设施厂商均在探索多层面发力。
杨杰在演讲中分析,进入AI+新时代需要从四方面发力。首先是推动“AI+”设施升级,围绕“连接+算力+能力”,以算大脑强化算力络各类资源的一体化协同调度,提升通算、智算、边缘算力的互联效力,加速智算成,这包括打造超万卡智算集群、沉淀数万亿tokens行业数据集、训练万亿参数AI大模型。
其次是推动“AI+”场景应用,包括围绕产业焕新打造智能经济,构建涵盖智能算力、MaaS(模型即服务)平台、行业大模型、产品应用的AI+DICT服务体系;围绕民生改善打造智能生活,强化AI智能体、比特数智人、家庭服务机器人等应用突破;围绕治理现代化打造智能社会,升级“AI+”城市超脑平台。同时推动“AI+”科技创新和“AI+”生态共建。
本次大会期间,移动发布九天善智多模态基座大模型,并推出30款自研行业大模型。据悉,基座大模型在长文本智能化解析、全双工语音交互、视频与图像处理、结构化数据深度洞察等方面现能力提升。
这个基于万卡国产算力集群和国产算法框架训练的全栈国产化全模态基座模型,适配了11个厂家17款国产AI芯片。全自研的30多个行业大模型,覆盖金融、交通、能源、制造等10多个行业。
合作伙伴也在与运营商联合推动业务落地。中兴通讯总裁徐子阳在演讲中指出,当前正处于一个加速且不确定的时代,面临市场碎片化、竞争跨界和可持续发展等诸多挑战。在30年前,CT和IT有所区别、各自发展,但现在二者正走向融合。这涉及六大核心根技术来促进ICT的融合:调制解调能力(如5G、PON)、络能力、计算能力(如CPU、GPU)、操作系统、数据库、AI能力。
为此,中兴通讯正与移动从全域智联的多个领域展开布局,助力建设新型基础设施;并秉承以强算、训推并举、开放解耦的主张,提供全栈开放智算方案;同时也在深化研发范式变革。
其中,全栈开放主要指面向AI发展趋势下对智算领域的部署。徐子阳分析,当前AI产业发展面临大难题:成本高、能耗大、商业模式没有形成完整闭环。
对此,可以从方面缓解这些难题。首先是以强算,“单颗GPU处理能力很重要,但以强算、构建更大规模集群是重要方案。”他指出,中兴通讯与移动推进GPU的开放互联,联合研发新互联超节点AI服务器,突破传统GPU服务器的通信瓶颈。未来,还可将高带宽域(HBD)从机内扩展至机间互联,为构建更大规模的超节点奠定基础。
同时,训推并举才能加速商业闭环,中兴通讯与移动共同探索训推一体机,期望解决大模型商用的“比较后一公里”难题。“智睿魔方AiCube”智算一体机已经赋能8个行业、20多个应用场景。此外要做到开放解耦,倡导推进软硬解耦、训推解耦、模型解耦。
发力AI基座在搭建AI基座方面,英伟达十多年的软硬件沉淀令其成为今天的芯片霸主,但后来者也在试图通过合纵连横等方式寻求机会。
21世纪经济报道在现场了解到,在万卡智算集群算力基础设施方面,移动云围绕算力、存力、运力等方面正在探索构建闭环。
现场工作人员对介绍,在算力方面,移动云推出开放式架构COCA超节点,兼容异构芯片。“这是一种模块化设计。如果要组成更大规模的智算集群,可以通过增加更多节点完善。”
在运力方面则是搭建高性能立体络,例如推进对以太技术的化。“目前以太技术在效率、资源匹配等方面还达不到AI大模型的运算组要求,在大规模AI集群更具势的IB(Infiniband)技术目前由英伟达所主导,但英伟达的产品必须购买一整套解决方案,整体成本极高,这让搭建大规模AI数据中心的成本大幅提高,所以很多厂商也在推动以太开放联盟,期望对抗IB生态。”前述人士续称,该联盟中既有国际芯片巨头如博通,也有应用端厂商如国内互联巨头等,都在推动FARE(全自适应路由以太)协议标准。
此外,21世纪经济报道在彩讯股份处了解到,针对AI大模型基础设施,其推出RichAICloud智算基础设施底座,涵盖层架构:底层是RichNet下一代AI原生云计算架构,中间层是可现万卡集群管理的RichMOSS超大规模算力集群管理平台,高层是针对大语言模型文生图视频的RichBoost高性能大模型训推平台。
据现场业务人员介绍,其中在底层的运力方面,目前数据中心内的高性能络传输机制,已经从TCPIP逐步切换到RDMA(远程直接内存访问)。而RoCE(RDMAoverConvergedEthernet)是一种能在以太上进行RDMA的集群络通信协议,可以大幅降低以太通信的延迟,提高带宽利用率。RichNet的RoCE络交换机,基于RoCE以太络带宽利用率可达到IB(Infiniband)络的90%-96%。
目前彩讯RichAICloudAI原生云计算解决方案已在多个千亿参数级别的大模型训练、推理、AI工具加速等方面落地。
交互范式新机遇大模型基座持续演进过程中,商业化层面也在探寻新方向。
香港科技大学校董会主席、美国工程院外籍院士沈向洋进行了系统分析:在通用人工智能时代,应该需要怎样的大模型这应从五个维度进行考量。
首先算力是门槛。根据第方机构统计,随着大模型持续演进,对算力的需求已经超过了参数线性增长的趋势,算力需求量已经是大模型参数量的平方数,这也催生英伟达成为本轮大模型浪潮的比较大赢家,推动半导体发展规律从摩尔定律走向氏定律。
其次,数据是关键。在OpenAI刚推出GPT3时,参数量级为2Ttokens;演进到GPT4时是20Ttokens;目前GPT5还没发布,但经预估要200Ttokens,这时将加上多模态数据、合成数据等多种类型。有趣的是,过去30年来随着互联的发展,大量数据进入互联中,似乎就是在为今天GPT的爆发瞬间做准备。
此外算法还在不断进步。沈向洋指出,目前有两条路线值得探索。其中一条是GPT系列,推动从基于NLP(NaturalLanguageProcessing自然语言处理)的语言模型到基于CV(ComputerVision计算机视觉)的多模态、再到世界模型的发展道路,表现形态就是从ChatGPT到GPT-4o再到具身智能的发展。其特点是培养思考的能力、能直接给出答案,理念是压缩即智能。
另一条是激动人心的Srl系列,也即OpenAI比较新发布的GPT-o1模型,现从思考到慢思考的范式转移,模型可以现先打草稿,反复试错找到正确路径后,总结过程和答案,理念是完成目标即智能。
同时,大模型正横扫千行百业。沈向洋指出,并不是每家都需要自研基础大模型,而是可以在通用大模型基础上,基于千卡规模训练自己的行业大模型,甚至企业训练大模型只需要用百卡,现企业数据价值的再发现。对于个人来说,手机和电脑等终端会越来越智能,未来每个人都会拥有自己的个性化模型,这也是主流厂商都在推动AIPC的原因。
由此,人工智能也在引发人们重新思考人机关系。回望商业历史,在互联时代成就了搜索模式和Google,移动互联时代成就了推荐算法和TikTok,人工智能时代目前是对话模式GPT和OpenAI暂时领先。
沈向阳认为,这意味着在每个时代都是通过人机交互革新,为人类提供更好的工具、帮助提高生产力。交互水平决定了商业发展,也让人工智能在新交互下的新机遇更令人充满期待。

同一时期ai知识库原理的竞争对手们还没有进行大规模的改进,所以做项目要抢在所有人之前。BetterYeah,国内顶尖的一站式AI智能体(Agent)构建平台,集成全网最新多模态大模型和独家知识库RAG算法,支持工作流、数据库及插件集成,全面增强 AI Agent能力,企业可以通过prompt编排的方式零代码开发智能体。https://www.betteryeah.com/product/knowledgebase

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|台山市啃蝌蚕丝有限公司

GMT+8, 2024-11-7 17:59 , Processed in 0.050120 second(s), 18 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表