标题 >>

如果没有AI算力,大模型这场战役我们可能胜不了
如果没有AI算力,大模型这场战役我们可能胜不了

没想到,在ChatGPT爆火后的一年里,竟然出现了一个隐藏“Boss”——

量子位获悉,百度、360等互联网大厂均已开始基于昇腾部署AI模型;而知乎新浪美图这样全速推进AI业务的公司,背后同样出现了华为云昇腾AI云服务的身影。

明面上,大模型带动了N卡炙手可热;但另一面,国产算力提供者中的头部企业华为也浮出水面。

有意思的是,上述提到的玩家,目前展现的共性也非常明显:无一例外都是有场景的互联网玩家

简单解释,就是这些公司在大模型变革之前,基本都在各自的行业中有稳定的业务生态,也有核心的商用场景。

毫无疑问,他们需要更快更高效让大模型引擎转动,可以更快产生最直接的价值,云算力是最合适的选择。

国内算力市场,悄然生变

解题就得从大背景展开,国内算力市场的供给需求,正在产生方向性变化。

首先是资源的供给,也就是提供算力的市场,出现了变化。

从去年开始,国内市场就出现了“N卡难求”的情况。为此英伟达轮番推出特供版GPU,在算力和功率上一再缩水,但还是受到限制。最近才有风声的HGX H20和两款新的GPU,也被曝可能推迟到明年2月或3月才能发布。

一系列算力供给缩水动作,使得国内市场上已有的英伟达系列显卡进一步稀缺,算力一个月内涨价50%甚至100%已是常态。

据《经济参考报》介绍,由于算力资源持续紧张,国内算力服务公司如汇纳科技,已经在11月中旬拟将所受托运营的内嵌英伟达A100的高性能算力服务器算力服务收费同步上调100%。

与此同时,国内互联网厂商因大模型急速增长的算力需求,又加剧了这种紧张的局面。

先是国内大模型数量激增,10月份统计数据显示,国内已发布了238个大模型。

每一个大模型背后都意味着海量算力的投入,综述《A Survey of Large Language Models》显示,650亿参数大模型LLaMA,在2048块80G A100上训练了21天;而700亿大模型LLaMA 2,同样用了2000块80G A100训练。

然而,AI算力需求还会持续上涨。

据OpenAI测算,自2012年以来,人工智能模型训练算力需求每3~4个月就翻一番,每年训练AI模型所需算力增长幅度高达10倍。

图源OpenAI

显然,随着AI成为全球产业的增速引擎,算力作为背后的驱动力自然关注不小,甚至出现了“谁能争抢到算力,谁就更有先发权”这样的说法。

一方面,如果算力跟不上,无法搭上AI这班快车,直接面临的结果就是在竞争中落于下风,甚至可能被行业抛弃。

360公司创始人周鸿祎曾经谈到,公司如果没有搭上ChatGPT这班车,很有可能会被淘汰。

与之相反,如果及时跟进潮流,公司就能凭借已有场景,快速在行业竞争中获得优势。像是一度裁员12%的美版头条BuzzFeed,在宣布和OpenAI合作使用ChatGPT帮助创作内容后,股价一度暴涨119%。

另一方面,算力的充足与否,又直接决定了拥有AI技术和产品的公司,能否提供长期稳定的服务,从而在这场竞争中拥有先发权。

即使是在这场潮流中占据主导话语权的OpenAI,也面临算力紧张而无法满足用户需求、被迫将用户“拱手相让”的问题。

例如前不久,ChatGPT出现了几次流量过大、服务器承载不下导致应用响应崩溃的情况,导致国外用户争相涌向谷歌Bard和Anthropic的Claude 2;付费订阅产品GPT-4,同样因为服务器流量爆炸而出现“暂停订阅”的情况。

但当下算力受限的情况,导致传统互联网企业要想快速跟上AI大模型相关的业务,无法再单单依靠“买卡”这一条路。

毕竟光是等待算力龙头如英伟达发卡的时间,很可能就已经错过了这一波风口。

相比之下,有场景的互联网玩家,一旦有合适的算力,就能更快接入AI大模型相关的业务,从而在这场竞争中获得先发话语权。

在这样的需求下,像华为云这样的国产算力玩家,再度成为国内互联网厂商们关注的对象。

作为有算力、能提供云服务、最早适应大模型打法的云厂商之一,华为云究竟为何能在一众算力供给者中脱颖而出,为有场景的玩家们所看好?

为什么是华为云?

在行业调研中,行业玩家们对大模型时代的云服务,有4大普遍性诉求:

  • 算力可持续
  • 高效长稳
  • 简单易用
  • 开放兼容

而之所以选择华为云,从其“对症下药”的技术细节就能管窥一二。

其架构由下至上,包括AI算力、异构计算架构、AI框架、AI平台、大模型、工具链几个层级,由此构成一个算力充沛、高效稳定、低门槛广生态的云底座。

1、算力可持续

可持续的算力能从最根本上缓解行业玩家们的算力焦虑,同时也是大模型快速炼成、应用落地的基本保障。

在这方面,华为云打造了贵安、乌兰察布、芜湖3大AI云算力中心,提供3大主节点及30+分节点,支持AI算力即开即用

昇腾AI集群也在今年全面升级,集群扩展至16000卡,成为业界首个万卡集群。它可支持万亿参数大模型分布式训练

此外在保障算力资源合理分配方面,华为云支持资源弹性伸缩,可根据业务需求实际情况,自动增加或缩减服务器实例或带宽资源,可在保障业务能力的同时节约成本。

2、稳定高效

先来看稳定性。

由于大模型训练过程比, 传统分布式训练更复杂,导致训练所需计算集群规模空前增加、涉及器件数量往往在百万/千万级别。如果单器件发生故障,就可能导致集群训练中断,且故障原因定位定界复杂。

这就使得当前大模型训练更容易出现故障,训练时间被拉长。

以Meta的OPT-17B训练为例,理论上在1000个80G A100上训练3000亿个单词,需要33天。实际训练却使用了90天,期间出现了112次故障。其中主要问题是硬件故障,导致手动重启35次,自动重启约70次。

OPT-175B意外中断情况

在这方面,华为云昇腾AI云服务支持裸金属集群进行大模型训练,无虚拟化损失,并行训练效率提升100%。从处理器、算子、框架、平台全链路垂直协同优化,主力场景性能是业界平台的1.5倍以上。

以盘古大模型(2000亿参数)在2048卡上的训练为例,实现了30天训练不中断,长稳率达到90%,断点恢复时长控制在10分钟以内。

此外华为云还实现了千卡预训练故障自动诊断恢复,增强智能运维工具能力,实现分钟级信息获取、2小时定界、24小时提供解决方案。

华为常务董事、华为云CEO张平安

再来看高效性,这是场景玩家们的迫切需求。

但是千亿参数大模型在训练中需要大量的梯度、参数等进行同步,集群很难实现线性加速比。即,增加了一倍的计算集群规模,但是计算量无法同比增加。比如:

  • 1024卡集群:计算和通讯比例为7:3
  • 2048卡集群:计算和通讯比例为4:6

华为云昇腾AI云服务通过模型+集群的混合并行策略,让模型切分更加平衡,从而实现集群接近线性加速比。

  • 1024卡集群:计算和通讯比例为85:15
  • 2048卡集群:计算和通讯比例为80:20
  • 4096卡集群:计算和通讯比例为70:30

以及在训练成本方面,华为云昇腾AI云服务使用CAME优化器,相较于业内常用方案可节约50%内存用量。

要知道,大模型的海量参数会导致训练时内存消耗空前增加,进一步导致训练成本升高。CAME优化器专为大模型训练而来,获得了2023年ACL杰出论文奖。

3、简单易用降低开发门槛

如今ChatGPT引爆的大模型趋势已经全面铺开,来自千行百业的玩家们都迫切想要快速将大模型接入自己的业务中。

但是大模型开发又是一个复杂的系统工程,从头开始自己摸索会影响落地速度。

所以云服务厂家们纷纷推出了简单易用的开发工具。比如华为云提供了全链路工具链,云化免配置、开箱即用,可实现5倍速开发大模型

它包括大模型开发工具套件,可自动化、半自动化数据工程,效率提升3倍,5分钟快速构建应用开发。

调试调优部分包含1400+算子沉淀,30+可视化调优部署工具;提供丰富的API能力,可调用盘古大模型100+能力集。

还能将典型模型迁移效率提升到2周内搞定,实现主流场景自主迁移。

4、构建开放兼容生态

最后,并非所有场景玩家都需要从头构建大模型。选择在已有基础大模型上进行微调或者直接使用,是更加降本增效的方案。

那么对于开发者、行业玩家而言,有更多选择就很重要了。

基于这一点业内需求,华为云上线了百模千态社区,企业和开发者能直接使用业界主流的开源大模型,如Llama、GLM等。同时聚合数据集、模型、实践等10万+AI资产。

为了满足开发者的不同偏好,昇腾AI云服务已兼容TensorFlow、PyTorch、RAY、Caffe等AI框架。

进入昇腾AI云服务百模千态专区,仅需3步即可开发自己的大模型

基于如上云服务能力,华为云已经给业内诸多玩家提供了大模型使能服务。

比如美图仅用30天就将70个模型迁移到了昇腾,同时华为云和美图团队一起进行了30多个算子的优化以及流程的并行加速,AI性能较原有方案提升了30%。

昆仑万维和华为云签署战略合作,双方将在华为云昇腾算力领域展开全面深入合作,致力于打造企业专属模型,支持企业级AI应用,持续赋能千行万业应用创新与场景落地。

华为云CTO张宇昕

在当前算力稀缺、资源不足的情况下,这些场景玩家选择与华为云这样的云厂商联手,来快速增强自身“AI硬实力”。

而这种大背景之下,也涌动着当前的产业趋势:

技术创新的曲线开始趋于平缓,商业创新的曲线开始发力。

其中,增速最快的,自然是有场景、有业务的玩家。

场景玩家如何把握AI落地机遇

ChatGPT发布一年以来,AIGC已行至下半场。

上半场,国内外掀起一股基础大模型技术争锋浪潮,“百模大战”态势之下,涌现出一批AI初创公司。

这些公司或掌握底层AI架构基础、或有搭建上层AI工具的经验,依靠技术发布了不少有创意且吸睛的产品,融资更是拿到手软。

然而,随着相关技术逐渐从开疆拓域走向稳定成熟,AIGC产业也出现了新的变化。

下半场,AI技术公司开始追求产业落地,不少初创公司更是在寻求扩大生态圈的方式。

相比之下,有场景的互联网公司,通过观察AIGC技术优势,依托生态优势、加上算力基础,就能快速扩大影响力,进而在公司中取得话语权。

在这种情况下,技术和场景玩家的身位也在悄然发生变化——

技术玩家,需要“拿锤找钉”,面临进一步扩张技术生态和产品场景的难题。

虽说这些玩家已经具备了成熟的基础大模型或工具链技术,但技术仍旧需要找到场景,才能进一步稳定出圈。

相比之下,场景玩家成为了“拿钉找锤”的一方。

依托已有场景需求和稳定用户生态,这些玩家只需将AIGC技术融入业务,就能进一步实现降本增效。

然而,即便是AIGC技术趋于成熟的当下,想要快速跟进也并非易事,除了底层的算力搭建以外,大模型所需的训练和加速等技术也并非就能“一蹴而就”。

在这样的下半场态势中,像华为云这样底层算力、AI相关技术和平台、生态三者齐备的国内云厂商,在场景玩家的发展中进一步起到了催化剂的作用。

底层算力上,华为云依托自研的昇腾处理器打造的超大规模AI集群,已经由4000卡升级到16000卡集群,能支持万亿级模型训练,不仅速度更快,训练周期也更稳定;

AI相关技术和平台上,除了AI算力之外,华为云还为开发者提供了完善的工具和资源,解决了AI大模型部署从训练、加速到不同框架适配这些难题,进而基于已有的研发经验,给厂商提供运营所需的技术服务;

AI生态上,华为云已经与150多家伙伴、200多家客户,共同构筑了20多个行业大模型以及400多个AI应用场景,加速行业智能化升级。

所以,在当前国际大环境下,有场景的玩家,只需要借助像华为云这样的云厂商提供的技术服务,就能快速将下半场大模型机遇变成红利,而华为云也能给国内的互联网企业提供更多选择。

现有的趋势,也能说明这一点。

美图首个懂美学的AI视觉大模型发布当天,股价单日上涨21.28%,随后更是受到国内图像编辑工具行业的广泛关注;

拓维信息发布的交通CV大模型,如今已在高速公路稽核等行业场景得到应用,这1年一来股价上涨了129.44%……

显然,这些玩家基于自身已有的业务,再依托云厂商提供的大模型和算力,就能快速将场景势能发挥到最大优势。

但无论选择什么类型的云厂商、做出怎样的判断,国内互联网企业都依旧需要回到当前的大环境下,结合客观形势做出判断。

在国外算力购买愈发困难的当下,面临新一轮AI竞争趋势,如何让算力像水电一样即取即用,是所有国内企业都应当要思考的问题。

事实上,如今中国的算力水平实际上已经位居世界第二,占全球市场比重达25%,从2017年到2022年的复合增长率达到48.8%。

当更多的企业愿意投资算力、交易算力,就能推动算力产业进一步降本增效,加快算力向现实生产力转化。

明敏 萧箫 发自 凹非寺

量子位 | 公众号 QbitAI

出处:量子位

2023-12-10
-

(如不慎侵权,请即联系我站。)
荐读
 · 美国校车车窗装置VR 载学生“体验”火星之
 · 盲测调查显示女码农比男码农更优秀
 · 关于量子计算,你应该知道的七个事实
 · 霍金的轮椅加装了AI,顶级大脑加配人工智
 · 未来人类能否将意识上传至新身体?我们应
 · 解密美国五角大楼人工智能中心
 · 中国有能力建造两栖指挥舰吗?一型舰艇可
 · 最好用的旅行夹克,没有之一!
 · Facebook扎克伯格:人工智能未来10年内将
 · 用正确的姿势打开「人机围棋大战」
热搜
 · 看懂《异形:契约》真心不容易
 · 世界上最大的海上执法船:中国“海警290
 · 盘点近年来科幻片中外星人实力排行榜
 · 揭秘电视分辨率:1080p、2K、UHD、4K、8
 · 史上最具影响力的50件科技产品
 · Ai 到底是个什么鬼?
 · 攻克百年难题,扭转“角度” 石墨烯可变超
 · SpaceX实现人类史上首次海上回收火箭,马
 · 图说熊猫“吃相”
 · 美国海军的重要作战支柱:移动目标用户卫
浏览
 · 希尔伯特旅馆里,住着AI的某种真相
 · 类人机器人能当人类替身潜到海底,再深的
 · 旅行到宇宙边缘——太阳系篇
 · 遐想外星人不直接公开身份的原因
 · 人工智能“淘金热”是公司追求利润的产物
 · 公安机关提示:防范微信假红包和购票钓鱼
 · 这项让微软变成巨硬的黑科技...注定会改变
 · 我们人类到底能飞多远?是纵横宇宙还是困
 · iPhone 5SE 真机上手体验 100秒看遍24小时
 · 根据特修斯之船的猜想,人类的身体可能是
如版面不完整 请使用浏览器的【极速模式】

Ai时代(Ai.th1w.com)
E-mail:wx24cn@163.com
苏ICP备14015491号-1 苏公网安备32053150316245