当前位置:首页 > 乒乓球资讯 > 正文内容

国信证券:新一轮人工智能创新周期 ChatGPT对算力需求如何?

杏彩体育2年前 (2023-02-22)乒乓球资讯128

智通财经APP获悉,国信证券发布研究报告称,当前处在以ChatGPT为主线的新一轮人工智能创新周期,ChatGPT为人工智能产业注入新活力,有望带动AIGC类应用快速爆发,人工智能技术作为驱动数据经济的技术底层,有望迎来新的发展机遇。数据、算力与算法是人工智能时代的三大基石,三者相互促进带动AI+应用快速落地,ChatGPT为首的自然语言处理类技术及应用,有望迎来全面爆发,建议重点关注人工智能相关赛道。

事件:2022年11月30日人工智能实验室OpenAI发布全新聊天机器人模型ChatGPT,其是一款人工智能技术驱动的自然语言处理工具。自从ChatGPT推出以来,受到市场广泛关注,当前每日用户超过1000万人。

国信证券主要观点如下:

Chatgpt成本主要可以拆分成训练和推理两个阶段。

人工智能主要分为计算机视觉和自然语言处理两大基础方向,当前自然语言处理类任务基于大型语言模型(LLM,LargeLanguageModel)演进出了最主流的两个主要方向,BERT(基于Transformer的双向编码器表示技术)和GPT(基于Transformer生成预训练技术),Google属于BERT技术方向,微软投资的OpenAI属于GPT技术方向。从计算过程上,人工智能计算主要可以分为模型训练与推理两个阶段,针对大语言模型LLM更是如此,随着参数与数据规模的不断增大,将带动拉动算力需求的快速增长。

“token”是当前语言类模型的数据单位。

当前的自回归语言模型是根据token来作为单位进行数据处理和计算,分词(tokenization)就是将句子、段落、文章这类型的长文本分解为以token为单位的数据结构,把文本分词后每个词表示成向量进行模型计算。例如在英文语境下,“happy”可能被分解为“hap”、“-py”两个token,中文语境下,“我很开心”可以分成“我”,“很”,“开心”三个token。

以英伟达DGXA1OO服务器作为计算资源:

(1)单台服务器售价20万美元;(2)采用云服务单天成本约为460美元。根据英伟达官网数据,英伟达超算GPU系列从旧到新包括P100、V100、A100、H100等,其中,DGXA100系列服务器为2020年发布,是当前主流使用的超算服务器,单机有8个A100系列GPU,AI算力性能为5PetaFLOP/s,单机最大功率6.5kw,售价19.9万美元;如果租用云服务,根据亚马逊数据显示,在亚马逊AWS预定一年的A100系列GPU,有8个A100的AWSP4实例的平均成本约19.22美元,一天的平均成本约为461.28美元。

ChatGPT上一个30字的问题需要消耗计算资源0.12PetaFLOP/S。

最常见的Transformer类语言模型在推理过程中每个token的计算成本(以FLOPs为指标)约为2N,其中N为模型参数数量(20年发布的GPT-3拥有1750亿参数,22年谷歌发布的PaLM拥有5400亿参数,由于并未公布当前GPT3.5的参数数量,当前假定参数数量为3000亿),假设模型的FLOPS利用率约为20%,粗略估计ChatGPT一个30字(假设约40个token,注:在英文语境下,一般1000个token=750个单词)问题需要的算力资源为2*40*3000亿/20%=0.12PetaFLOP/S。

推理成本:为满足当前用户访问产生的推理成本,自建IDC初始投入约在4亿美元,租用云服务每日成本约28万美元。

根据Similarweb的数据,23年1月份当前ChatGPT日活约1300万人,每人平均1000字左右的问题,因此合计产生约130亿字(173.3亿个token),假设24小时平均分配任务,需要的A100GPU数量为173.3亿*2*3000亿/(20%*24小时*3600秒)=601.75PetaFLOP/S,由于访问流量存在峰值,假定访问峰值是一天均值的5倍,因此共需要602台DGXA100服务器能够满足当前的访问量。

1)自建IDC:服务器成本约占数据中心成本30%左右,为满足当前日常访问需求,前期一次性成本投入约为602*19.9/30%=3.99亿美元;

2)云服务:假设每天租用亚马逊AWS云服务,每天成本为461.28*602=27.77万美元。

训练成本:训练阶段每个Token的训练成本约为6N(推理成本为2N),由于每年训练成本都在快速下降,此处引用OneFlow的测算结果,在公有云中训练OPENAI的GPT-3模型需花费训练成本约140万美元,Google的PaLM模型需花费训练成本约1120万美元。

预计在ChatGPT结合Bing搜索功能后,其对算力资源的消耗将成数倍增长。

当前ChatGPT模型可以理解为在一个在庞大训练数据集上训练的LLM,它会将训练期间的知识存储到模型参数中。在推理过程中(使用模型生成输出),LLM无法访问外部知识,仅依靠模型参数进行计算;如果将ChatGPT与搜索功能结合,如Bing等搜索引擎,其计算过程将通过搜索引擎返回多个查询结果,并通过GPT计算生成多个响应,在返回最高分的响应给用户,其对算力资源的消耗将成数倍增长,增长倍数取决于搜索和响应的个数。

风险提示:模型假设不合理对测算结果造成偏差,ChatGPT商业化落地不及预期。

本文源自:智通财经网

扫描二维码推送至手机访问。

版权声明:本文由财神资讯-领先的体育资讯互动媒体转载发布,如需删除请联系。

本文链接:http://www.tengj.cn/?id=62433

“国信证券:新一轮人工智能创新周期 ChatGPT对算力需求如何?” 的相关文章

乒乓球比赛基础规则

乒乓球比赛基础规则

大家好,很高兴您能关注【乒乓球技巧教学】公众号。 今天要给大家分享的是打乒乓球的一些入门规则,此篇献给想学习乒乓球的小伙伴~ 乒乓球(table tennis),被称为中国的“国球”,是一种世界流行的球类体育项目,包括进攻、...

滨州市阳信县举办迎国庆乒乓球比赛

滨州市阳信县举办迎国庆乒乓球比赛...

2017乒乓球世界排名TOP榜 马龙丁宁制霸八月榜首

2017乒乓球世界排名TOP榜 马龙丁宁制霸八月榜首

【导读】近日国际乒联在八月更新世界男单女单运动员排名,世界男单榜前三名有中国马龙、樊振东、许昕包揽,马龙以3427制霸男单榜首。世界女单排名有丁宁、陈梦、朱雨玲、刘诗雯包揽前四席位,丁宁以3456制霸女单榜首。 2017乒乓球世界排名TOP榜 马龙丁宁制霸八月榜首...

乒乓球女单5月世界排名,中国继续包揽前5,朱雨玲与队友差距拉大

乒乓球女单5月世界排名,中国继续包揽前5,朱雨玲与队友差距拉大

随着4月份的世乒赛大幕落下,国际乒联也随后发布了五月份最新女单世界排名。中国队再次包揽世界排名前5位,显示出强大的统治力。世乒赛刘诗雯、陈梦、丁宁、王曼昱胜利包揽前四名,她们也是最新女单世界排名的前四位。...

原创
            张本智和夺得2022乒乓球亚洲杯男单冠军,世界排名将反超马龙

原创 张本智和夺得2022乒乓球亚洲杯男单冠军,世界排名将反超马龙

原标题:张本智和夺得2022乒乓球亚洲杯男单冠军,世界排名将反超马龙 张本智和获得2022年亚乒杯男单冠军,世界排名将反超马龙。唯一的冠军。凭借亚洲杯夺冠获得的500分,张本智和的世界排名也将反超马龙,跃居第二。 在中国新生代选手林高远和王楚钦相继失利后,张本在智和决赛中...

原创
            乒乓球界最耀眼的明星!王楚钦世界排名猛涨到前三,林高远跌幅超过

原创 乒乓球界最耀眼的明星!王楚钦世界排名猛涨到前三,林高远跌幅超过

原标题:乒乓球界最耀眼的明星!王楚钦世界排名猛涨到前三,林高远跌幅超过 大家好,我是平潭。 北京时间11月1日,国际乒联更新了最新的世界排名。因为上周刚刚结束的WTT新乡世界杯总决赛,本次赛事积分高达1500,所以本期的世界排名也发生了很大的变化! 01樊振东、马...