2023年12月19日AIGCAIGC專題報(bào)告：站在當(dāng)前時(shí)點(diǎn)，怎么看AIGC板塊投資邏輯評級：推薦(維持)陳夢竹(證券分析師)S0350521090003chenmz@最近一年走勢50%40%30%20% 10% 0%-10%-20%納斯達(dá)克指數(shù)滬深300最近一年走勢50%40%30%20% 10% 0%-10%-20%納斯達(dá)克指數(shù)滬深300相關(guān)報(bào)告《海外行業(yè)動(dòng)態(tài)研究：谷歌發(fā)布原生多模態(tài)大模型Gemini及新一代TPU系統(tǒng)CloudTPUv5p（推薦）*海外*陳夢竹》——2023-12-08《AIGC專題報(bào)告：從文生圖到文生視頻——技術(shù)框架與商業(yè)化（推薦）*海外*尹芮，陳夢竹》——2023-11-02《海外行業(yè)動(dòng)態(tài)研究：《生成式人工智能服務(wù)管理暫行辦法》出臺(tái)，促進(jìn)我國AIGC產(chǎn)業(yè)健康可持續(xù)發(fā)展（推薦）*海外*陳夢竹》——2023-07-16《海外行業(yè)動(dòng)態(tài)研究：618電商復(fù)盤：低價(jià)與中小企業(yè)成爭奪重點(diǎn)（推薦）*海外*陳夢竹》——2023-07-07《海外行業(yè)動(dòng)態(tài)研究：微盟發(fā)布大模型應(yīng)用產(chǎn)品“WAI”，SaaS+AI助力商戶智慧經(jīng)營（推薦）*海外*陳夢竹》——2023-05-25相對滬深300表現(xiàn)表現(xiàn)納斯達(dá)克指數(shù)滬深3001M2.9%6.7%3M10.7%1.2%12M40.5%-14.2%請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明2核心提要u我們?yōu)槭裁凑J(rèn)為AIGC是產(chǎn)業(yè)級趨勢？——人工智能步入新發(fā)展階段，逐步邁向AGI；AIGC創(chuàng)造人機(jī)交互新變革，將迎來更多新機(jī)遇；通用大模型是AI產(chǎn)業(yè)的水平化分工的關(guān)鍵，有望實(shí)現(xiàn)規(guī)模效應(yīng)與飛輪效應(yīng)，商業(yè)模式逐步清晰；生成式AI可能打破現(xiàn)有流量競爭格局。u復(fù)盤海外vs國內(nèi)典型AIGC概念股行情演繹邏輯，有哪些啟示？——海外行情率先啟動(dòng)，海外演繹邏輯：算力（率先啟動(dòng)、漲幅最大）—大模型—應(yīng)用，國內(nèi)演繹邏輯：數(shù)據(jù)—算力、大模型—應(yīng)用。u投資邏輯總結(jié)：三階段論?！倦A段1】起點(diǎn)：百模大戰(zhàn)，巨頭和垂直廠商紛紛投入大模型的研發(fā)和訓(xùn)練，早期訓(xùn)練對高性能算力需求度大，廠商大量囤積芯片，算力投資確定性相對較高，大模型與應(yīng)用仍處于早期；【階段2】承壓：路徑分化，少數(shù)通用基座大模型+較多垂直行業(yè)/公司大模型廠商，基于開源模型開發(fā)與底層自研并行，NLP大模型訓(xùn)練算力需求有限，應(yīng)用側(cè)尚未迎來大幅增長，推理算力消耗有限，大模型也處于商業(yè)化早期，產(chǎn)業(yè)鏈整體承壓；【階段3】突破：技術(shù)迭代、結(jié)合新硬件帶來新變化，多模態(tài)逐步成熟，3D生成、策略生成等技術(shù)逐步突破，未來結(jié)合MR、機(jī)器人等新硬件，應(yīng)用加速普及，進(jìn)一步打開商業(yè)化空間，帶動(dòng)整體產(chǎn)業(yè)鏈形成正循環(huán)。u如何看待NLP大模型訓(xùn)練與推理算力成本？——①訓(xùn)練算力需求：通用大模型算力消耗大但數(shù)量相對較少，行業(yè)/公司級大模型數(shù)量多但算力消耗相對較小，整體空間有限。根據(jù)訓(xùn)練所需算力符合經(jīng)驗(yàn)公式=6*參數(shù)量*數(shù)據(jù)量，假設(shè)通用大模型平均模型參數(shù)量1200億、平均模型訓(xùn)練數(shù)據(jù)量Tokens7000億、A100GPU利用率45%、模型預(yù)計(jì)訓(xùn)練時(shí)間維持在34天時(shí)，單個(gè)大模型訓(xùn)練需要1222張A100，若大模型數(shù)量達(dá)到30個(gè)，則需要36660張A100。當(dāng)平均模型參數(shù)量提升至2265億、平均模型訓(xùn)練數(shù)據(jù)量Tokens16603億、A100GPU利用率達(dá)到較高水平57%、模型預(yù)計(jì)訓(xùn)練時(shí)間維持在34天時(shí)，單個(gè)大模型訓(xùn)練需要4319張A100，若此時(shí)大模型數(shù)量達(dá)到20個(gè)，則需要86386張A100。對于行業(yè)/公司級大模型來說，若平均模型參數(shù)量在100-146億、平均模型訓(xùn)練數(shù)據(jù)量Tokens在1000-1464億、A100GPU利用率在43%-45%、模型預(yù)計(jì)訓(xùn)練時(shí)間維持在30天時(shí)，當(dāng)行業(yè)/公司級大模型數(shù)量達(dá)到80-231個(gè)時(shí)，則需要1381-8164張A100。②推理側(cè)算力需求：伴隨用戶體量增加，整體需求量較大。假設(shè)單個(gè)模型參數(shù)量在1200-2265億，根據(jù)顯存容量經(jīng)驗(yàn)公式，可換算所需顯存容量在231-436GB，單次推理需要3-6張A100。假設(shè)DAU在0.5-2.5億，對應(yīng)并發(fā)推理需求最大設(shè)計(jì)容量在10000-50000次，假設(shè)單次推理時(shí)合并的推理需求數(shù)量12-8次，并發(fā)推理所需要的次數(shù)在834-6250次，對應(yīng)推理所需要的的A00顯卡數(shù)量在2502-37500張。③從GPT-4來看推理成本與收入：GPT-4的參數(shù)量為1.8萬億，但GPT-4采用的結(jié)構(gòu)是MoE，每個(gè)專家的參數(shù)大約為1110億個(gè)，每次前向傳遞中會(huì)調(diào)用其中兩個(gè)專家模型，此外約有550億個(gè)共享參數(shù)被用于注意力機(jī)制，因此每次前向推理（生成一個(gè)token僅用了約2770億個(gè)參數(shù)（1110×2+550對應(yīng)到0.554TFLOPs，根據(jù)推理所需算力符合經(jīng)驗(yàn)公式=2*參數(shù)量*數(shù)據(jù)量，假設(shè)FLOPS利用率為21.3%、8個(gè)A100的GPU服務(wù)器使用成本為12美元/小時(shí)，則對應(yīng)推理算力成本約為0.0035美元/1000tokens，根據(jù)目前定價(jià)，在提取摘要（長生短）、內(nèi)容創(chuàng)作（短生長）兩種典型場景下推理毛利率在70%~90%之間，伴隨用戶數(shù)提升及使用頻率提升，對應(yīng)收入及算力消耗均有提升。請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明3核心提要u應(yīng)用作為產(chǎn)業(yè)鏈形成正向循環(huán)的重要因素，未來需要重點(diǎn)關(guān)注什么？——①需要重點(diǎn)關(guān)注微軟應(yīng)用側(cè)的進(jìn)展：微軟作為生成式AI技術(shù)領(lǐng)先、應(yīng)用落地深入且可能率先實(shí)現(xiàn)規(guī)?；杖氲念^部廠商，其應(yīng)用進(jìn)展及商業(yè)化表現(xiàn)是重要標(biāo)桿。在Build2023開發(fā)者大會(huì)上微軟宣布旗下所有產(chǎn)品全線整合ChatGPT，推出Microsoft365Copilot，Dynamics365Copilot，BingChat，WindowsCopilot等，近期OpenAI也在ChatGPT中推出新的語音和圖像等多模態(tài)功能，將面向Plus訂閱用戶和企業(yè)用戶開放，后續(xù)需要緊密跟蹤微軟應(yīng)用側(cè)的進(jìn)展及商業(yè)化情況。②需要關(guān)注其他垂直應(yīng)用是否有明顯進(jìn)展：方向一：現(xiàn)有高頻場景接入AI能力——增收驅(qū)動(dòng)主要來自原有產(chǎn)品的ARPU及付費(fèi)率提升，核心需要關(guān)注現(xiàn)有產(chǎn)品及賽道的壁壘強(qiáng)弱（場景能力、用戶體量）、AI與現(xiàn)有產(chǎn)品應(yīng)用結(jié)合是否帶來總生產(chǎn)力或效率提升（單人效率提升*潛在提升用戶數(shù)）。典型代表：微軟Copilot、NotionAI、AdobeFirefly、DuolingoMax等；方向二：垂類場景C端原生AI應(yīng)用——增收驅(qū)動(dòng)主要來自新的場景下用戶習(xí)慣的培養(yǎng)和商業(yè)化拓展，核心關(guān)注產(chǎn)品在垂直賽道是否具備較大的創(chuàng)新性、用戶留存率和粘性是否長期維持、公司或產(chǎn)品在垂直場景下是否具備數(shù)據(jù)/用戶/模型等顯著優(yōu)勢。典型代表：Tome、Replit、Midjourney、Runway、Character.AI、AIDungeon等，場景來看主要包括辦公、工具向、圖像視頻、游戲&智能陪聊音頻；方向三：垂類場景B端解決方案或企業(yè)服務(wù)平臺(tái)——增收驅(qū)動(dòng)主要來自B端企業(yè)用戶拓展和企業(yè)端付費(fèi)能力的提升，核心需要關(guān)注公司是否通過AI解決了企業(yè)用戶的痛點(diǎn)問題并實(shí)現(xiàn)降本增效、在某個(gè)場景的競爭。典型代表：Glean、UnityMuse、Salesforce、C3.AI等。u行業(yè)評級：AI技術(shù)不斷演進(jìn)，大模型持續(xù)迭代，其商業(yè)模式也多元化發(fā)展，ToB和ToC兩端雖然落地節(jié)奏存在差異，但均表現(xiàn)出多點(diǎn)開花的特性，長期來看有望通過量價(jià)提升為下游應(yīng)用打開增量收入空間，我們看好AIGC板塊的投資機(jī)會(huì)，維持行業(yè)“推薦”評級。u風(fēng)險(xiǎn)提示：人工智能發(fā)展不及預(yù)期，AIGC發(fā)展不及預(yù)期；技術(shù)發(fā)展不及預(yù)期；商業(yè)化拓展不及預(yù)期；行業(yè)競爭加劇風(fēng)險(xiǎn)；中美科技競爭不確定性風(fēng)險(xiǎn)；測算數(shù)據(jù)僅供參考，請以實(shí)際為準(zhǔn)。請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明4每一輪人機(jī)交互的變革都會(huì)帶來產(chǎn)業(yè)級投資機(jī)會(huì).......................................................................................................................................................................6AIGC何時(shí)突破工業(yè)紅線：關(guān)鍵在于規(guī)模效應(yīng)與飛輪效應(yīng)的發(fā)揮商業(yè)模式：大模型商業(yè)化初啟，小模型在部分領(lǐng)域海外典型AIGC概念股行情復(fù)盤：算力—大模型—應(yīng)用..............................................................................................................................................................11投資邏輯總結(jié)：三階段論......................................................................................................................................................................................................15以GPT-4為例拆分收入與成本應(yīng)用重點(diǎn)關(guān)注點(diǎn)一：微軟應(yīng)用側(cè)進(jìn)展.......................................................................................................................................................................................21微軟率先推出Microsoft365Copilot，搶跑AI+辦公賽道Copilot能為Office帶來多少增量收入應(yīng)用重點(diǎn)關(guān)注點(diǎn)二：其他垂直領(lǐng)域應(yīng)用進(jìn)展.............................................................................................................................................................................25AIGC+應(yīng)用——生成式AI可能成為新的生產(chǎn)力AIGC+應(yīng)用——B端vsC端，落地節(jié)奏存在差異請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明5變革節(jié)點(diǎn)變革節(jié)點(diǎn)人機(jī)交互模式產(chǎn)業(yè)機(jī)會(huì)代的Macintosh計(jì)算以來最具變革性的產(chǎn)提供六軸動(dòng)作感應(yīng)等實(shí)現(xiàn)跑酷)；2022年，原型機(jī)；2022年11月OpenAI發(fā)布人工智能技術(shù)驅(qū)動(dòng)的自然語言項(xiàng)目的負(fù)責(zé)人辭職并建立了網(wǎng)景通訊公司，推作為Windows95的默認(rèn)out、Outside-in、頻、視頻、3D、策本等云計(jì)算/邊緣計(jì)算、請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明6資料來源：36氪，Companyhistory，digitaltrends，IDGnewsservice，likecs，payititi，TechCPR，theverge，請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明6VRcompare，界面新聞，甲子光年，開源資訊解現(xiàn)實(shí)世界，興盛于計(jì)算機(jī)硬件發(fā)展與大數(shù)據(jù)出現(xiàn)，。始于1970s，分析之后，進(jìn)行智能決策；近年來才開始真正興盛。解現(xiàn)實(shí)世界，興盛于計(jì)算機(jī)硬件發(fā)展與大數(shù)據(jù)出現(xiàn)，。始于1970s，分析之后，進(jìn)行智能決策；近年來才開始真正興盛。音樂生成等。機(jī)器學(xué)習(xí)規(guī)則導(dǎo)向機(jī)器學(xué)習(xí)理論發(fā)展硬件奠基，算法發(fā)展核心硬件發(fā)展，算法突破圖像識(shí)別等。超人工智能階段弱人工智能階段超人工智能階段弱人工智能階段資料來源：智東西資料來源：智東西，國海證券研究所請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明7AIGC何時(shí)突破工業(yè)紅線：關(guān)鍵在于規(guī)模效應(yīng)與飛輪效應(yīng)的發(fā)揮大模型：大模型：AI產(chǎn)業(yè)的水平化分工的關(guān)鍵累較多的第三方代表。為特定行業(yè)提供解決方案。MaaS（龍頭企業(yè)+合作伙伴/用戶）行業(yè)AI滲透率提升度·文心行業(yè)大模型應(yīng)用于工業(yè)/能源領(lǐng)域；浦發(fā)-百度·文心行業(yè)大模型應(yīng)用于金融領(lǐng)域。+Fine-tune”Predict”發(fā)展前景應(yīng)用模式小模型：小模型：專注于部分垂直賽道供解決方案的AI技術(shù)供應(yīng)商。基于KNOWHOW求高的行業(yè)。例如谷歌AI開發(fā)的ELECTRA可進(jìn)行預(yù)訓(xùn)式景資料來源：量子位，機(jī)器之心資料來源：量子位，機(jī)器之心，國海證券研究所請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明8商業(yè)模式：大模型商業(yè)化初啟，小模型在部分領(lǐng)域已實(shí)現(xiàn)商業(yè)價(jià)值閉環(huán)小模型大模型小模型商業(yè)模式MaaS（ModelasaService）垂直行業(yè)解決方案1)按調(diào)用次數(shù)或調(diào)收費(fèi)；2）按年/月訂閱套餐收費(fèi)；3）定制服務(wù)，特定領(lǐng)域再開發(fā)，將大模型和數(shù)據(jù)庫打包，按項(xiàng)目收費(fèi)。1）純軟件及平臺(tái)；1）一站式解決方案面向用戶企業(yè)、機(jī)構(gòu)、個(gè)人企業(yè)、機(jī)構(gòu)細(xì)分行業(yè)企業(yè)毛利推理算力成本，毛利率可達(dá)80%+。含再開發(fā)項(xiàng)目實(shí)施費(fèi)用。標(biāo)準(zhǔn)化產(chǎn)品，毛利率可達(dá)含外購硬件，毛利率30%-70%。提供商OpenAI、微軟、谷歌、Meta、百度、阿里、華為、騰訊、商湯、科大訊飛、字節(jié)、京東等?？拼笥嶏w、商湯、曠視、云從、依圖、虹軟、格靈深瞳、云天勵(lì)飛、拓爾思、?？低暤?。商業(yè)模式付費(fèi)邏輯谷歌、微軟必應(yīng)搜索引擎，YouTube視頻創(chuàng)作等，阿里電商營銷產(chǎn)品，騰訊企業(yè)微信、更多可直接面向C端的產(chǎn)品，1）企業(yè)開發(fā)者調(diào)用后自用或個(gè)人用戶自行調(diào)用，基于自身需求調(diào)用付費(fèi)；2）為SaaS廠商提供產(chǎn)品付中美差距差距不大且均有較大需求，甚至國內(nèi)廠商的產(chǎn)品更加豐富多生態(tài)差距較大，美國SaaS廠商面向全球，中國SaaS行業(yè)龍頭或者科技巨頭提供相關(guān)AI驅(qū)動(dòng)的解決方案；中國不局限于資料來源：國海證券研究所請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明9流量競爭格局或迎來新變化大模型可能打破流量競爭格局：流量可能重新集中，大模型有望成為新的流量入口流量競爭格局或迎來新變化ChatGPT近期推出插件功能uChatGPT引入插件功能，可實(shí)時(shí)聯(lián)網(wǎng)，AI模型實(shí)用性進(jìn)一步加強(qiáng)：北京時(shí)間2023年3月24日，OpenAI官方宣布推出ChatGPTPlugins功能，賦予ChatGPT使用工具、聯(lián)網(wǎng)、運(yùn)行計(jì)算的能力，且還開放了OpenAI官方兩個(gè)插件：網(wǎng)絡(luò)瀏覽器和代碼解釋器。uOpenAI首批已發(fā)布11款ChatGPT第三方插件，幾乎涵蓋各大應(yīng)用場景，加速擁有自己的“APPStore”：首批開放支持的插件包括旅游出行插件Expedia、法律知識(shí)插件FiscalNote、生鮮電商插件Instacart、航班酒店租車預(yù)訂插件KAYAK、在線購物比價(jià)插件KlarnaShopping、AI語音插件Speak、數(shù)學(xué)知識(shí)引擎WolframAlpha、在線餐廳預(yù)訂服務(wù)平臺(tái)OpenTable，以及自動(dòng)化平臺(tái)Zapier等，幾乎涵蓋衣食住行、工作與學(xué)習(xí)，ChatGPT生態(tài)逐漸豐富。uChatGPT可通過插件反向豐富自身知識(shí)庫，突破ChatGPT模型訓(xùn)練數(shù)據(jù)庫日期截止至2021年9月的信息限制。uChatGPT開始開放插件功能：截至2023年5月，OpenAI宣布ChatGPTPlus用戶不再一步彰顯了大模型入口的中心化能力，未來有可能改變移動(dòng)互聯(lián)網(wǎng)穩(wěn)定的并且改變分傭模式。AIGC+時(shí)代：插件2插件3插件4……資料來源：資料來源：ChatGPT官網(wǎng)，量子位，華爾街見聞，國海證券研究所請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明10谷歌發(fā)布PaLM2Meta發(fā)布Llama2；微軟宣布Microsoft365Copilot定價(jià)為$30/用戶/月，超出市場預(yù)期海外典型AIGC概念股行情復(fù)盤：算力—大模型—應(yīng)用谷歌發(fā)布PaLM2Meta發(fā)布Llama2；微軟宣布Microsoft365Copilot定價(jià)為$30/用戶/月，超出市場預(yù)期海外部分AIGC硬件相關(guān)公司股價(jià)累計(jì)漲幅（202207~202311）5月24日Nvidia發(fā)海外部分AIGC硬件相關(guān)公司股價(jià)累計(jì)漲幅（202207~202311）5月24日Nvidia發(fā)布2023Q1財(cái)報(bào)，業(yè)績大超預(yù)期OpenAI發(fā)布GPT-4，微軟隨后宣布將GPT-4接入Office全家桶，推出Microsoft365CopilotOpenAI發(fā)布ChatGPT正式開放與Bing融合，推出新一代生成式AI搜索引擎NewBing2022-07-052022-08-052022-09-052022-10-052022-11-052022-12-052023-01-052023-02-052023-03-052023-04-0520232022-07-05海外部分AIGC大模型相關(guān)公司股價(jià)累計(jì)漲幅（202207~202311）80%Meta發(fā)布其首個(gè)開80%Meta發(fā)布其首個(gè)開源可商用大語言模型Llama2布新的大語言模型LLaMA2022-08-052022-09-052022-10-052022-11-052022-12-052023-01-052023-02-052023-03-052023-04-052023-請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明11谷歌發(fā)布PaLM2Meta發(fā)布Llama2；微軟宣布Microsoft365Copilot定價(jià)為$30/用戶/月，超出市場預(yù)期海外典型AIGC概念股行情復(fù)盤：算力—大模型—應(yīng)用（續(xù)）谷歌發(fā)布PaLM2Meta發(fā)布Llama2；微軟宣布Microsoft365Copilot定價(jià)為$30/用戶/月，超出市場預(yù)期海外AIGC應(yīng)用相關(guān)公司股價(jià)累計(jì)漲幅（202207~202311）OpenAI發(fā)布GPT-4海外AIGC應(yīng)用相關(guān)公司股價(jià)累計(jì)漲幅（202207~202311）OpenAI發(fā)布GPT-4，微軟隨后宣布將GPT-4接入Office全家桶，推出Microsoft365CopilotOpenAI發(fā)布ChatGPT正式開放與Bing融合，推出新一代生成式AI搜索引擎NewBingAdobe、Salesforce、Duolingo等頭部廠商均在3月底宣布接入ChatGPT，推出AI功能及產(chǎn)品賦能5月5月23日，軟件巨頭Adobe宣布將AI圖像生成器Firefly整合到Photoshop中2022-07-052022-08-052022-09-052022-10-052022-11-052022-12-052023-01-052023-02-052023-03-052023-04請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明12微軟宣布Microsoft365Copilot定價(jià)為$30/用戶/月，超出市場預(yù)期與Bing融合，推出新一代生成式AI搜索引擎NewBing谷歌發(fā)布PaLM2350%250%、200%績大超預(yù)期OpenAI發(fā)布GPT-4，微軟隨后宣布將GPT-4接入Office全家桶，推出Microsoft365Copilot5月24日Nvidia發(fā)布23Q1財(cái)報(bào)，業(yè)微軟將ChatGPT2023-01-042023-02-042023-03-042023-04-042023-05-042023-06-042023-07-04—三六零昆侖萬維科大訊飛百度集團(tuán)300%—中際旭創(chuàng)浪潮信息海光信息中科曙光工業(yè)富聯(lián)寒武紀(jì)-U國內(nèi)部分AIGC大模型相關(guān)公司股價(jià)累計(jì)漲幅（202301~202311）國內(nèi)典型AIGC概念股行情復(fù)盤：數(shù)據(jù)—算力、大模型—應(yīng)用微軟宣布Microsoft365Copilot定價(jià)為$30/用戶/月，超出市場預(yù)期與Bing融合，推出新一代生成式AI搜索引擎NewBing谷歌發(fā)布PaLM2350%250%、200%績大超預(yù)期OpenAI發(fā)布GPT-4，微軟隨后宣布將GPT-4接入Office全家桶，推出Microsoft365Copilot5月24日Nvidia發(fā)布23Q1財(cái)報(bào)，業(yè)微軟將ChatGPT2023-01-042023-02-042023-03-042023-04-042023-05-042023-06-042023-07-04—三六零昆侖萬維科大訊飛百度集團(tuán)300%—中際旭創(chuàng)浪潮信息海光信息中科曙光工業(yè)富聯(lián)寒武紀(jì)-U國內(nèi)部分AIGC大模型相關(guān)公司股價(jià)累計(jì)漲幅（202301~202311）2023-01-042023-02-042023-03-042023-04-042023-05-042023-06-042023-07-042023-01-042023-02-042023-03-04請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明13國內(nèi)部分AIGC數(shù)據(jù)相關(guān)公司股價(jià)累計(jì)漲幅（202301~202311）OpenAI發(fā)布GPT-4，微軟隨后宣布將GPT-4接入Office全家桶，推出Microsoft365Copilot谷歌發(fā)布PaLM2Meta發(fā)布Llama2；微軟宣布Microsoft365Copilot定價(jià)為$30/用戶/月，超出市場預(yù)期微軟將ChatGPT與Bing融合，推出新一代生成式AI搜索引擎NewBing國內(nèi)部分AIGC應(yīng)用相關(guān)公司股價(jià)累計(jì)漲幅（202301~202311）國內(nèi)典型AIGC概念股行情復(fù)盤：數(shù)據(jù)—算力、大模型—應(yīng)用（續(xù)）國內(nèi)部分AIGC數(shù)據(jù)相關(guān)公司股價(jià)累計(jì)漲幅（202301~202311）OpenAI發(fā)布GPT-4，微軟隨后宣布將GPT-4接入Office全家桶，推出Microsoft365Copilot谷歌發(fā)布PaLM2Meta發(fā)布Llama2；微軟宣布Microsoft365Copilot定價(jià)為$30/用戶/月，超出市場預(yù)期微軟將ChatGPT與Bing融合，推出新一代生成式AI搜索引擎NewBing國內(nèi)部分AIGC應(yīng)用相關(guān)公司股價(jià)累計(jì)漲幅（202301~202311）0%-2023-04-042023-05-042023-06-042023-02-042023-03-042023-04-042023-05-042023-06-042023-07-042023-08-042023-02-042023-03-042023-04-042023-05-042023-06-042023-07-042023-08-04請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明14階段1：起點(diǎn)階段3：突破階段1：起點(diǎn)階段3：突破有限，更多參數(shù)量偏小的垂直/公司大模型訓(xùn)練算力消耗有限★算力大模型廠商應(yīng)用階段階段2：承壓★★★資料來源：藍(lán)鯨財(cái)經(jīng)，澎湃新聞資料來源：藍(lán)鯨財(cái)經(jīng)，澎湃新聞，國海證券研究所請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明15算力需求推算表——大模型訓(xùn)練部分A10080G顯卡核心要素表BFLOAT16TensorCore312TFLOPSFP16TensorCore峰值性能312TFLOPSGPU顯存80GBHBM2GPU顯存帶寬1935GB/s最大熱設(shè)計(jì)功耗（A10080G顯卡核心要素表BFLOAT16TensorCore312TFLOPSFP16TensorCore峰值性能312TFLOPSGPU顯存80GBHBM2GPU顯存帶寬1935GB/s最大熱設(shè)計(jì)功耗（TDP）300瓦價(jià)格約14000美金情景1情景1情景2情景3情景4情景5平均模型參數(shù)量（億）1200平均模型參數(shù)量（億）12001560187220592265情景1-5大模型參數(shù)量逐漸增加平均模型訓(xùn)練數(shù)據(jù)量Tokens（億）700010500131251509416603情景1-5大模型訓(xùn)練數(shù)據(jù)量逐漸增加平均模型訓(xùn)練所需算力（平均模型訓(xùn)練所需算力（Tflop）5.0E+119.8E+111.5E+121.9E+122.3E+12所需算力符合經(jīng)驗(yàn)公式=6*參數(shù)量*數(shù)續(xù)競爭格局穩(wěn)定后逐漸下降通用大模型數(shù)量3036302520情景1-5大模型數(shù)量逐漸增加先保持增長，后續(xù)競爭格局穩(wěn)定后逐漸下降通用大模型總訓(xùn)練算力需求（通用大模型總訓(xùn)練算力需求（Tflop）2E+134E+134E+135E+135E+13A100算力（Tflops，TF16精度）312312312312312GPU利用率45%48%51%54%57%GPU利用率隨著顯卡數(shù)量的增加而逐漸增加模型預(yù)計(jì)訓(xùn)練時(shí)間（天）3434343434模型訓(xùn)練時(shí)間要求穩(wěn)定在34天將兩部分相加得到整體算力所需要的A100顯卡數(shù)2將兩部分相加得到整體算力所需要的A100顯卡數(shù)2整體算力需求計(jì)算：通過模型參數(shù)量與訓(xùn)練數(shù)3控制變量計(jì)算顯卡需求：在給定單張A100顯卡的算力（假設(shè)數(shù)據(jù)類型為TF16精度），集群訓(xùn)練時(shí)GPU利用率以及模型訓(xùn)練時(shí)間的條件下，根據(jù)GPT3論文給出的經(jīng)驗(yàn)公式大致估算通用大模型及單個(gè)通用大模型所需要A100芯片數(shù)量1,2222,2343,1543,7684,319 平均模型參數(shù)量（億）100110121133146情景1-5行業(yè)級數(shù)據(jù)平均參數(shù)量穩(wěn)定增加平均模型訓(xùn)練數(shù)據(jù)量Tokens（億）10001100121013311464情景1-5行業(yè)級數(shù)據(jù)訓(xùn)練數(shù)量穩(wěn)定增加 平均模型訓(xùn)練所需算力（Tflop）6E+097E+099E+091E+101E+10所需算力符合經(jīng)驗(yàn)公式=6*參數(shù)量*數(shù)行業(yè)/公司大模型數(shù)量80104136177231情景1-5行業(yè)級大模型數(shù)量穩(wěn)定增加行業(yè)/公司大模型總訓(xùn)練算力需求5E+118E+111E+122E+123E+12A100算力（Tflops，TF16精度）312312312312312GPU利用率43%44%44%45%45%GPU利用率隨著顯卡數(shù)量的增加而逐漸增加模型預(yù)計(jì)訓(xùn)練時(shí)間（天）3030303030模型訓(xùn)練時(shí)間要求穩(wěn)定在30天（2）1,3812,147（2）1,3812,1473,358A100總芯片需求=（1）+（2）38,04182,57097,97499,42794,550資料來源：有洲科技，英偉達(dá)官網(wǎng)，《資料來源：有洲科技，英偉達(dá)官網(wǎng)，《EfficientLarge-ScaleLanguageModelTrainingonGPUClustersUsingMegatron-LM》（DeepakNarayanan等），京東，藍(lán)鯨財(cái)經(jīng)，新京報(bào)，國海證券研究所請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明16A10080G顯卡核心要素表A10080G顯卡核心要素表BFLOAT16TensorCore312TFLOPSFP16TensorCore峰值性能312TFLOPSGPU顯存80GBHBM2GPU顯存帶寬1935GB/s最大熱設(shè)計(jì)功耗（TDP）300瓦價(jià)格約14000美金推算思路介紹：顯存容量經(jīng)驗(yàn)公式：1300億參數(shù)量對應(yīng)250G顯存容量需求—GLM-130B參數(shù)量為1300億，假設(shè)每個(gè)參數(shù)為FP32格式，即4個(gè)字節(jié)，則原始理論需求內(nèi)存容量為5200億/1024/1024/1024=480G，因?yàn)閷?shí)際存儲(chǔ)參數(shù)會(huì)所以模型大小會(huì)縮減為240GB，又考慮到部分layernorm數(shù)據(jù)會(huì)保留FP32，實(shí)際需求會(huì)略微增加到250GB要的顯存數(shù)量，再通過選用顯卡的顯存容量推理得2根據(jù)日活數(shù)量推算并發(fā)推理需求最大設(shè)計(jì)容量：以Google的日活與單秒內(nèi)所需要處理的并發(fā)需求作為基礎(chǔ)，3計(jì)算并發(fā)推理所需要推理次數(shù)：假設(shè)同一時(shí)間內(nèi)可承受的最4計(jì)算推理所需顯卡數(shù)量：單次推理所需顯卡數(shù)量與并發(fā)推理單次推理所需顯卡數(shù)量*并發(fā)推理所需要推理次數(shù)情景3情景4情景5模型參數(shù)量（億）1,2001,5601,8722,0592,265情景1-5模型參數(shù)量逐漸增加所需顯存容量（GB）300360396436根據(jù)經(jīng)驗(yàn)公式（參考右下角推算思路）等比例A100顯存容量（GB）80808080803455DAU（億）0.52.0日活用戶估算，根據(jù)ChatGPT月活1億推算，2.5場景1下所有大模型用戶日活約為0.5億，場景2-5逐漸遞增并發(fā)推理需求最大設(shè)計(jì)容量（次）10,00020,00030,00040,000同一時(shí)間內(nèi)可承受的最高推理請求數(shù)量，按照50,000型同時(shí)提供API接口，并發(fā)推理需求應(yīng)該比純推理次數(shù)為10000次，往后場景2-5按相應(yīng)DAU比例計(jì)算得到98數(shù)量增加逐漸減少（2）并發(fā)推理所需要推理次數(shù)8343,0004,4456,250理最大設(shè)計(jì)容量/單次推理合并的推理需推理所需要顯卡數(shù)=（1）x（2）2,5027,27622,22537,500請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明17資料來源：有洲科技，英偉達(dá)官網(wǎng)，《EfficientLarge-ScaleLanguageModelTrainingonGPUClustersUsing請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明17Megatron-LM》（DeepakNarayanan等），京東，澎湃新聞，VR陀螺，國海證券研究所FLOPs/TokenCost/FLOP（hardwarepeak）CostofInferenceModelFLOPS上圖展示了在足夠高的吞吐量情況下FLOPs/TokenCost/FLOP（hardwarepeak）CostofInferenceModelFLOPS上圖展示了在足夠高的吞吐量情況下，服務(wù)于單個(gè)用戶所需的內(nèi)存帶寬?？梢钥闯觯瑢τ谌f億參數(shù)的稠密模型，8×H100的帶寬也無法滿足需求。對于目前8路張量并行的H100系統(tǒng)來說，推理約束約為3000億前饋參數(shù)。密集激活純解碼器LLM模型Transformer（DenselyActivatedDecoder-OnlyTransformerLLMs）的推理成本如下，其中，N是模型參數(shù)數(shù)量：#ofPrompt/GeneratedTokens參數(shù)量N：GPT-4的參數(shù)量為1.8萬億，但GPT-4采用的結(jié)構(gòu)是MoE（MixtureofExperts，混合專家），這意味著GPT-4并不是一個(gè)稠密模型，N并不能直接取值為1800B。MoE架構(gòu)通常由多個(gè)專家組成，每個(gè)專家負(fù)責(zé)處理輸入數(shù)據(jù)的不同方面，并擁有自己的參數(shù)集（也有一些參數(shù)，例如embedding，可以被所有專家共享，即共享參數(shù)）。在模型的推理過程中，根據(jù)輸入數(shù)據(jù)的不同特征，模型會(huì)將輸理（生成一個(gè)token僅用了約2770億個(gè)參數(shù)（1110×2+550對應(yīng)到0.554TFLOPs。..為什么是MoE：GPT-3、PaLM以及Llama等均為稠密模型，但現(xiàn)階LLM推理的用例大多是實(shí)時(shí)助手，這意味著模型必須達(dá)1000個(gè)tokens，這意味著模型每秒鐘至少需要輸出5.56個(gè)tokens（250/750×1000/60甚至是22.22個(gè)tokens（1000/750×1000/60），才能滿足所有用NVIDAH100GPU服務(wù)器上，對于擁有萬億參數(shù)的稠密模型也無法達(dá)到這個(gè)吞吐量。MoE這種稀疏架構(gòu)下的推理并不需要激活所有參數(shù)，因此GPT-4得以用A100就實(shí)現(xiàn)了符合人類閱讀速度的推理。資料來源：資料來源：OneFlow，海外獨(dú)角獸，OpenCV學(xué)堂，semianalysis，《GPT-4Architecture,Infrastructure,TrainingDataset,Costs,Vision,MoE》（DylanPatel，GeraldWong《TheEconomicsofLargeLanguageModels》（Sunyan國海證券研究所請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明18以GPT-4為例拆分收入與成本（續(xù)）利用率：運(yùn)行模型的硬件必須實(shí)現(xiàn)高利用率，否則成本將過高。考慮一個(gè)BatchSize=1的推理，H100SXM的算力為2000TFLOPs（FP8），但內(nèi)存帶寬僅為3TB/s，假設(shè)GPT-4參數(shù)的數(shù)據(jù)類型為FP32，即一個(gè)參數(shù)需要4bytes存儲(chǔ)空間，僅僅是流式傳輸每個(gè)參數(shù)就需要約2.98s（3/(277B×4/1024^4)），計(jì)算時(shí)間與之相比可以忽略不計(jì)。這意味著在BatchSize=1的推理中，內(nèi)存帶寬和計(jì)算量完全不平衡，絕大多數(shù)時(shí)間里，計(jì)算單元都在等待數(shù)據(jù)的傳輸，這造成了硬件利用率的低下。提高BatchSize能夠帶來利用率的提高，因?yàn)槎鄠€(gè)BatchSize可以分?jǐn)倕?shù)讀取成本，但缺點(diǎn)是更高的延遲和較低的吞吐量。.KV緩存與上下文長度如何制約BatchSize的擴(kuò)張：隨著BatchSize和上下文長度的增加，KV緩存對內(nèi)存的需求會(huì)激增。采樣過程中，Transformer模型會(huì)執(zhí)行自注意力操作（Self-Attention為此需要為當(dāng)前序列中的每個(gè)項(xiàng)目提取鍵值（Key-Value，KV）向量，這些向量存儲(chǔ)在一個(gè)矩陣中，通常被稱為KV緩存。KV緩存的作用是為了避免每次采樣token時(shí)重新計(jì)算鍵值向量。利用預(yù)先計(jì)算好的K值和V值，可以節(jié)省大量計(jì)算時(shí)間，盡管這會(huì)占用一定的存儲(chǔ)空間。KV緩存不能在各BatchSize間共享，所以每個(gè)BatchSize都有自己對應(yīng)的KV緩存。對于BatchSize為512，上下文長度為2048的模型，KV緩存的總量為3TB。片上存儲(chǔ)器（on-chipmemory）需要從片外存儲(chǔ)器（off-chipmemory）中加載KV緩存，每產(chǎn)生一個(gè)token就加載一次，在此期間，計(jì)算單元基本上是空閑的，即H100SXM每產(chǎn)生一個(gè)token，就需要花費(fèi)1s加載KV緩存，硬件利用率低下。因此，如果BatchSize過大，硬件利用率也會(huì)因?yàn)镵V緩存的激增而下降。上下文長度增加也會(huì)帶來KV緩存的膨脹，這意味著較長的上下文通常需要選擇更小的BatchSize，并接受相對高昂的成本，這也是GPT-432K上下文比8K上下文收費(fèi)更高的原因。.在推理過程中，GPT-4的FLOPS利用率為21.3%（與GPT-3保持一致：雖然最近越來越多的模型效率得以提升，但其FLOPS利用率對于低延遲推理而言仍充滿挑戰(zhàn).以A100作為GPU選擇，每個(gè)A100提供峰值312TFLOPSFP16/FP32混合精度吞吐量；.微軟目前對單個(gè)A100GPU每小時(shí)收費(fèi)3美元，云計(jì)算的毛利率約為50%左右，即自用成本僅為其一半，則擁有8個(gè)A100的GPU服務(wù)器使用成本為12美元/小時(shí)。CostofInferenceNGeneratedTokensCost/FLOPModelFLOPS$3.49277B1000$0.0000013421.3%資料來源：資料來源：OneFlow，海外獨(dú)角獸，新智元，《GPT-4Architecture,Infrastructure,TrainingDataset,Costs,Vision,MoE》（DylanPatel，GeraldWong《TheEconomicsofLargeLanguageModels》（Sunyan國海證券研究所請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明19以GPT-4為例拆分收入與成本（續(xù)）.為什么GPT-4輸出token比輸入token更貴：LLM推理一般分為兩個(gè)階段1）預(yù)填充（prefill）階段，在這個(gè)階段中，首先需要給定一個(gè)prompt作為輸入，并通過模型運(yùn)行來生成KV緩存和第一個(gè)輸出logits。其中，logits是LLM在每個(gè)時(shí)間步長輸出的概率分布向量，用于表示每個(gè)token的可能性。預(yù)填充階段因?yàn)椴⑿杏?jì)算通常是很快的2）解碼（decoding）階段，在這個(gè)階段中，從輸出的logits中選擇一個(gè)token并反饋到模型中，為下一個(gè)token產(chǎn)生logits。如此反復(fù)直至產(chǎn)生所需數(shù)量的tokens。由于每次解碼都必須按順序進(jìn)行計(jì)算以產(chǎn)生一個(gè)token，所以在以較小的BatchSize運(yùn)行時(shí)，序列計(jì)算導(dǎo)致算力無法被充分利用，所以解碼階段的硬件利用率很低，也通常是自回歸生成中最昂貴的部分。因此，$0.0035/1000tokens實(shí)際上是一個(gè)平均成本。GPT-4Turbo8K上下文32K上下文輸入$0.01/每1000tokens輸出$0.03/每1000tokens輸入$0.03/每1000tokens輸出$0.06/每1000tokens輸入$0.06/每1000tokens輸出$0.12/每1000tokens以GPT-4Turbo為例進(jìn)行情景假設(shè)：輸入（tokens）輸出（tokens）收入（$）成本（$）73%75%77%88%88%88%提取摘要以0.08美元作為單用戶單次平均收入用戶數(shù)（萬）使用次數(shù)（次/天）年收入（億美元）（長生短）3K0.5K0.050.01情景一205.84情景二200204K1K0.070.02情景三5002029.20情景四10002058.40情景五200020116.806K2K0.120.03內(nèi)容創(chuàng)作以0.15美元作為單用戶單次平均收入（短生長）0.1K3K0.090.01用戶數(shù)（萬）使用次數(shù)（次/天）年收入（億美元）情景一2010.950.3K5K0.150.02情景二2002021.90情景三5002054.750.5K7K0.220.03情景四100020109.50情景五200020219.00資料來源：海外獨(dú)角獸資料來源：海外獨(dú)角獸，OpenAI官網(wǎng)，《GPT-4Architecture,Infrastructure,TrainingDataset,Costs,Vision,MoE》（DylanPatel，GeraldWong國請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明20Microsoft365CopilotCopilot2021年，微軟與OpenAI共同推出AI編程工具GitHubCopilotMicrosoft365CopilotCopilot2021年，微軟與OpenAI共同推出AI編程工具GitHubCopilot，首次引入服務(wù)中推出CopilotDynamics365CopilotGitHubCopilotPluginsOpenAI為ChatGPT引入插件系統(tǒng)，插件能將ChatGPT連接到第三方應(yīng)用程序，使ChatGPT與開發(fā)者定義的API互動(dòng)，以增強(qiáng)ChatGPT的能力。通過插件，ChatGPT能夠直接滿足用戶的需求而無需訪問相應(yīng)的應(yīng)用或網(wǎng)站。如果將ChatGPT類比為iPhone，那么插件系統(tǒng)就等于AppStore。微軟采用與ChatGPT相同的開放插件標(biāo)準(zhǔn)以與OpenAI共建共享插件平臺(tái)。由此，開發(fā)者可以使用一個(gè)平臺(tái)來構(gòu)建適用于消費(fèi)者和企業(yè)的插ChatGPT和微軟的BingChat及Copilot產(chǎn)品使用MicrosoftFabricBingChatWindowsCopilotOpenAI可選商業(yè)模式提供付費(fèi)API接口ChatGPTPlus訂閱服務(wù)PluginStoreGPTStore模式簡介開發(fā)者直接通過OpenAI官網(wǎng)調(diào)用API接口獲得大模型的能力定價(jià)$20/月，付費(fèi)版ChatGPT相較于免費(fèi)版的增值服務(wù)包括高峰時(shí)段免排隊(duì)、快速響應(yīng)以及優(yōu)先獲得新功能和改進(jìn)相較于提供付費(fèi)API接口，PluginStore是反其道而行之，開發(fā)者通過在PluginStore中上線自己創(chuàng)建的插件，可使得用戶在ChatGPT中使用第三方應(yīng)用程序的功能GPTs應(yīng)用歸集與獲取的入口，GPTs可讓用戶使用自然語言創(chuàng)建個(gè)性化的ChatGPT（可能的）變現(xiàn)方式按照tokens收費(fèi)訂閱制對上線插件的收入按照一定比例抽成對上線應(yīng)用的收入按照一定比例抽成優(yōu)勢簡單便捷，靈活性較好ChatGPT是流量入口，且通過在移動(dòng)端上線能夠充分發(fā)揮OpenAI在C端的用戶優(yōu)勢ChatGPT成為流量入口無需編程即可開發(fā)，對普通用戶友好，有助于充分挖掘社區(qū)開發(fā)者的力量面臨問題私有數(shù)據(jù)接入中心化大模型面臨合規(guī)與安全性問題（中心化模式的固有問題）用戶數(shù)據(jù)及隱私泄露問題須引入審核機(jī)制對上線插件進(jìn)行安全評估，如插件提供方是否有過度使用用戶的數(shù)據(jù)等，這對專注于AGI研究的OpenAI而言難以實(shí)現(xiàn)，尤其是當(dāng)插件數(shù)量放量增長時(shí)同質(zhì)化程度高，質(zhì)量相對較低對微軟的影響與微軟的AzureOpenAIService形成競爭，但微軟具備生態(tài)優(yōu)勢，Azure平臺(tái)能提供多樣化企業(yè)級服務(wù)可能與微軟推出的Copilot產(chǎn)品及BingChat形成競爭（功能有重疊，且均為流量入口）微軟ToB客戶資源豐富，通過共建共享插件平臺(tái)，微軟可能最終成為PluginStore的實(shí)質(zhì)運(yùn)營方可能會(huì)與微軟推出的Copilot產(chǎn)品形成競爭（功能有重疊）資料來源：資料來源：甲子光年，雷峰網(wǎng)leiphone，虎嗅APP，鈦媒體APP，國海證券研究所請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明212月3月5月6月7月2月3月5月6月7月9月微軟將具有ChatGPT功能的Bing搜索內(nèi)置在Windows11搜索任務(wù)欄中微軟在Azure平臺(tái)推出AzureOpenAIService，該服務(wù)提供OpenAI大模型的付費(fèi)接口，客戶可在運(yùn)行OpenAI大模型的同時(shí)獲得Azure的安全功能微軟在Build2023開發(fā)者大會(huì)上宣布旗下所有產(chǎn)品全線整合ChatGPT，推出Microsoft365Copilot，Dynamics365Copilot，BingChat，WindowsCopilot。其中，Bing將成為ChatGPT的默認(rèn)搜索引擎；同時(shí)，微軟將與OpenAI一起打造ChatGPT共享插件平臺(tái)，用戶可在Bing中使用ChatGPT的插件微軟宣布將向CoreWeave投資數(shù)十億美元用于云計(jì)算基礎(chǔ)設(shè)施建設(shè)。在此之前，CoreWeave已經(jīng)獲得英偉達(dá)的投資，并能夠先于各云計(jì)算廠商上線英偉達(dá)新出的芯片微軟在FY2023Q4電話會(huì)上稱將在24財(cái)年持續(xù)增加資本開支用于數(shù)據(jù)中心的建設(shè)OpenAI即將在ChatGPT中推出新的語音和圖像功能微軟宣布全球版Copilot將自9月26日起隨著更新的Windows11以初期版本形式推出；Microsoft365Copilot將于11月1日正式面向企業(yè)用戶提供服務(wù)，定價(jià)同此先公布的一致。在DALL·E3的支持下，Microsoft365Copilot將具備作圖功能，BingChat的多模態(tài)搜索能力得到增強(qiáng)微軟追加投資微軟追加投資OpenAI100億美元，至此，OpenAI共計(jì)獲得微軟投資130億美元微軟將基于微軟將基于GPT-3.5模型開發(fā)的ChatGPT與搜索引擎Bing融合，推出了新一代生成式AI搜索引擎NewBing（預(yù)覽版）OpenAIOpenAI發(fā)布GPT-4微軟免費(fèi)開放內(nèi)置微軟免費(fèi)開放內(nèi)置ChatGPT的搜索引擎Bing，通過微軟賬戶即可使用該產(chǎn)品微軟和英偉達(dá)領(lǐng)投微軟和英偉達(dá)領(lǐng)投InflectionAI，后者在本輪融資中籌集到13億美元，估值由此達(dá)到40億美元微軟宣布Microsoft365Copilot將開啟全面商用，微軟宣布Microsoft365Copilot將開啟全面商用，每個(gè)用戶$30/月，適用于Microsoft365E3、E5、商業(yè)標(biāo)準(zhǔn)和高級版（均為面向B端市場的版本）微軟是Llama2的首選合作伙伴，Llama2將通過Azure分發(fā)，并在Windows操作系統(tǒng)上運(yùn)行OpenAIOpenAI發(fā)布DALL·E3微軟微軟Azure孵化團(tuán)隊(duì)發(fā)布了一個(gè)新的基于開源的軟件平臺(tái)Radius，旨在幫助開發(fā)者和企業(yè)創(chuàng)建、部署和管理基于云的應(yīng)用程序。微軟在Ignite大會(huì)中，為AzureAISpeech推出了名為“AzureAISpeechtexttospeech(TTS)avatar”的AI工具，可以生成人類逼真虛擬化身（數(shù)字人）請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明22Word可與用戶一起編寫、編輯、匯總和創(chuàng)建文檔。Copilot可通過一個(gè)簡短的提示為用戶創(chuàng)建初稿，亦可向現(xiàn)有文檔添加內(nèi)容、匯總文本以及重寫部分或整個(gè)文檔以使其更加簡潔。CopilotWord可與用戶一起編寫、編輯、匯總和創(chuàng)建文檔。Copilot可通過一個(gè)簡短的提示為用戶創(chuàng)建初稿，亦可向現(xiàn)有文檔添加內(nèi)容、匯總文本以及重寫部分或整個(gè)文檔以使其更加簡潔。Copilot還可通過加強(qiáng)論點(diǎn)或提出消除不一致的建議來幫助用戶改進(jìn)寫作CopilotExcel可幫助用戶分析和探索數(shù)據(jù)。用戶可用自然語言向Copilot詢問數(shù)據(jù)集相關(guān)問題，Copilot會(huì)向用戶揭示數(shù)據(jù)的相關(guān)性，提出假設(shè)場景，并根據(jù)問題生成模型。此外，Copilot還能識(shí)別趨勢并進(jìn)行可視化展示PowerPoi可幫助用戶創(chuàng)建演示文稿。Copilot可將現(xiàn)有書面文檔轉(zhuǎn)換為帶有演講者筆記和來源的幻燈片，亦可根據(jù)提示或大綱創(chuàng)建演示文稿。Copilot提供一鍵壓縮冗長的演示文稿功能，并允許用戶使用自然語言命令來調(diào)整布局、重新格式化文本和完善計(jì)時(shí)動(dòng)畫Outlook可幫助用戶快速進(jìn)行電子郵件分類，總結(jié)郵件內(nèi)容并根據(jù)簡單的提示回復(fù)郵件，以及將快速筆記轉(zhuǎn)換為清晰專業(yè)的郵件內(nèi)容微軟率先將辦公軟件接入GPT，推出Microsoft365Copilot，開創(chuàng)AI辦公新時(shí)代，Office的護(hù)城河進(jìn)一步得到加深。2023年3月16日，微軟宣布將GPT-4接入到Office工具，推出了AI版Office全家桶——Microsoft365Copilot。在辦公軟件競爭加劇，Office市場份額被逐漸蠶食的現(xiàn)狀下，Microsoft365Copilot的推出讓微軟再度領(lǐng)跑市場。盡管目前專注于單一功能，如實(shí)時(shí)轉(zhuǎn)錄或文案生成的AI應(yīng)用層出不窮，但Microsoft365Copilot功能豐富，能夠完成多種工作任務(wù)，獲得大模型加持的Office進(jìn)一步加深了其在辦公軟件領(lǐng)域的護(hù)城河。隨著AI版Office全家桶在B端的商業(yè)化落地，OfficeARPU有望被逐步抬高，打開產(chǎn)品長期收入增長空間。2023年5月，微軟宣布將Microsoft365Copilot付費(fèi)搶先體驗(yàn)計(jì)劃擴(kuò)展到全球600家企業(yè)客戶，包括畢馬威（KPMG）、阿聯(lián)酋航空（EmiratesNBD）等公司。2023年7月18日，微軟在MicrosoftInspire大會(huì)上宣布Microsoft365Copilot將開啟全面商用，每個(gè)用戶$30/月，適用于Microsoft365E3、E5、商業(yè)標(biāo)準(zhǔn)和高級版。Microsoft365E3366683%Microsoft365E5578753%Microsoft365商業(yè)標(biāo)準(zhǔn)版12.542.5240%Microsoft365商業(yè)高級版2252136%AI版本價(jià)格（$/用戶/月）原版價(jià)格（$/用戶/月）資料來源：微軟官網(wǎng)，智東西，科創(chuàng)板日報(bào)資料來源：微軟官網(wǎng)，智東西，科創(chuàng)板日報(bào)，國海證券研究所請務(wù)必閱讀報(bào)告附注中的風(fēng)險(xiǎn)提示和免責(zé)聲明23ToC（單位：億美元）ARPU（$/用戶/月）：ToC（單位：億美元）ARPU（$/用戶/月）：20付費(fèi)率情景一情景二情景三情景四情景五訂閱用戶數(shù)（億）2%4%6%8%10%情景一0.6011.514.4情景二0.612.515.6情景三0.703.46.710.113.416.8情景四0.714.418.0情景五0.803.87.711.515.419.2收入=訂閱用戶數(shù)×付費(fèi)率×ARPUToB（對應(yīng)Office365商業(yè)版1）訂閱用戶數(shù)，即商業(yè)席位數(shù)，根據(jù)估算，F(xiàn)Y2023Q4約為3.94億個(gè)，最近5年增速趨勢性下降，目前趨于平緩。設(shè)定5種情景，對應(yīng)的訂閱用戶數(shù)分別為3.2、3.5、3.8、4.1、4.4億個(gè)2）付費(fèi)率，同樣設(shè)定5種情景，付費(fèi)率分別為5%、10%、15%、20%、25%3）ARPU，目前Copilot定價(jià)為$30/用戶/月，超出市場預(yù)期，短期提價(jià)可能性較低，假設(shè)在所有情景下ARPU均為該水平ToC（對應(yīng)Office365消費(fèi)者版1）訂閱用戶數(shù)，F(xiàn)Y2023Q4達(dá)6700萬，最近5年CAGR為18%。設(shè)定5種情景，對應(yīng)的訂閱用戶數(shù)分別為0.60、0.65、0.70、0.75、0.80億2）付費(fèi)率，Copilot尚未在C端落地，當(dāng)前付費(fèi)率為零。同樣設(shè)定5種情景，付費(fèi)率分別為2%、4%、6%、8%、10%3）ARPU，考慮到C端用戶對價(jià)格更為敏感，高價(jià)必然會(huì)壓低付費(fèi)意愿，參照Copilot在B端$30/用戶/月的定價(jià)，假設(shè)C端定價(jià)為$20/用戶/月