妙鴨相機(jī)算力需求暴漲數(shù)百倍 阿里云緊急擴(kuò)容

    2023-08-10 08:54:54 來源:億邦動力


    【資料圖】

    【億邦原創(chuàng)】8 月 9 日消息,AI 應(yīng)用 " 妙鴨相機(jī) " 已連續(xù)多日火爆出圈,上線不到一個月,算力需求暴漲數(shù)百倍。為此阿里云緊急擴(kuò)容,因用戶暴增導(dǎo)致的排隊情況也有所緩解,排隊時長已大幅減少。

    據(jù)資深 IT 人介紹," 妙鴨相機(jī) " 的相片生成需要龐大的 GPU 算力進(jìn)行計算,高峰期的量級至少需要幾千臺 GPU 服務(wù)器才能滿足,線下部署不切實際,云上部署能為創(chuàng)業(yè)公司節(jié)省大量成本和時間,但目前僅有少數(shù)云計算大廠具備這樣的算力儲備。

    GPT 類的模型訓(xùn)練動輒需要上萬張顯卡,隨著 Llama2 等開源大模型的流行,大模型應(yīng)用推理端的算力需求更值得關(guān)注,當(dāng) AIGC 進(jìn)入生產(chǎn)力時代,推理算力需求可能遠(yuǎn)高于訓(xùn)練算力。

    自 7 月 17 日正式上線以來," 妙鴨相機(jī) " 就以 9 塊 9 價格和高質(zhì)量 " 寫真 " 照獲得了大量關(guān)注,成千上萬的用戶涌進(jìn)應(yīng)用中,高峰期一度有 4000-5000 人排隊,需要等待 10 多個小時才能出片。據(jù)相關(guān)負(fù)責(zé)人透露," 妙鴨相機(jī) " 已在阿里云上進(jìn)行緊急擴(kuò)容,應(yīng)對暴漲數(shù)百倍的算力需求。雖然算力一邊加,但另一邊用戶也在漲,但高峰期排隊現(xiàn)象已經(jīng)有了緩解。

    目前妙鴨相機(jī)也在蘋果應(yīng)用商店上線了 App 版本。

    隨著各個行業(yè)的 AIGC 開發(fā)逐步完成,對業(yè)務(wù)開展階段使用的推理算力需求開始大幅增長,未來幾個月推理的算力需求總量可能遠(yuǎn)高于訓(xùn)練算力。阿里云提供最大十萬卡 GPU 規(guī)模集群的擴(kuò)展性,同時可承載多個萬億參數(shù)大模型同時在線訓(xùn)練和推理。此外,阿里云還提供了 AI 加速套件 AIACC,大幅提升計算效率,大模型 Finetune 的訓(xùn)練效率可提升 60%,推理效率可提升 100% 以上。

    標(biāo)簽:

    上一篇:這一市場正在崩潰!首席投資官:投資者對美元失去信心 黃金將閃爍光芒
    下一篇:最后一頁
    概念
    平臺
    應(yīng)用