日本毛片的免费高清视频

        1. <tr id="tntjc"></tr>
          <th id="tntjc"></th>
          <big id="tntjc"></big>

        2. <strike id="tntjc"></strike>
        3. 李熵
          作者很懶,什么都沒留下

          6

          文章/篇

          4.5萬

          閱讀/次

          拜訪信息

          為了給您提供更快更好的服務,在獲取作者聯系方式前,想對您有個簡單了解. 邀請您填寫如下信息

          提交成功

          非常感謝您的配合,我們的作者會盡快通過您的微信,
          請耐心等待~

          微信號

          15701235851

          AI公司“搶飯吃”,紛紛自建超算,打的什么“算盤”?

          李熵
          2019-11-25 · 15:00
          [ 億歐導讀 ] 其實,這些人工智能公司完全可以采用云服務的模式,為何紛紛選擇自建超算呢?
          初創公司 黑板 演講 ,超算,AI,人工智能,曠視,數據安全,云服務,騰訊云,阿里云,智慧安防

          文章來源于:李熵,圖片來自“Unsplash”

          編者按:從長遠來看,自建超算更利于人工智能公司探索算法新業務。此外,從優惠力度、數據安全等角度看,自建超算也是一筆好生意。當然,選擇共有云平臺還是自建超算也要根據自身公司體量,畢竟打造超算前期投入較大。

          本文轉載自AI商業周刊,原作者李熵。原標題《為什么說人工智能公司要自建超算?》。經億歐編輯,供行業人士參考。

          不僅英特爾、英偉達這些科技巨頭在布局超算,人工智能創企也紛紛打造超算。商湯超算平臺的計算集群已搭載超過14000塊GPU,峰值計算達16億億次/秒,而國家“太湖之光”的峰值計算僅為12.5億億次/秒。

          去年曠視宣布完成C輪融資時,創始人印奇也對媒體表示:曠視已經在中國好幾個地方建了非常大的超算平臺,未來的算力還需要更多。算力就像當年的存儲一樣,無論擴展得多快,都會被消耗掉,需要不斷去投入。

          其實,這些人工智能公司完全可以采用云服務的模式,比如租賃阿里云、騰訊云、AWS、中科曙光等共有云平臺的高性能計算服務。那么它們為何紛紛選擇自建超算呢?

          算法迭代快

          計算力和算法是一組最佳CP,如果計算力和算法均是自己研發的,就會產生1+1大于2的“化學反應”。因為原創算法和算力兩者采用統一的接口時,更易于互相匹配和協調。且數據的收集、標注、模型建立、模型訓練到輸出SDK的每一個環節,都可以做到標準化和自動化,整個鏈條就會跑得更快,算法迭代速度更快。而公有云的超算很難滿足每個企業算法的匹配。

          尤其在面臨新需求下的情況,比如需要1000個GPU卡聯合訓練,阿里云、騰訊云等這些云平臺均沒有此類服務,那么新需求就沒法進行下去。從長遠來看,自建超算更利于探索新業務。

          前不久,央視315爆出AI客服一年打40多億個騷擾電話,以及犯罪分子通過免費公共WIFI竊取用戶消費信息的現象引起熱議,其背后正是我國數據安全保護薄弱的影射。如果通過公有云平臺做模型訓練,理論上云平臺都可以看到使用方數據。一旦數據被泄露,對使用方公司將是不可逆的打擊。

          眼下,5G商用逐步臨近,5G 時代生產方式將發生革命性的變化,很多終端數據處理都可在云端跑。這也是英特爾、英偉達等巨頭企業近期極力打造超算平臺的原因之一,因為超算是5G時代巨頭爭霸不可忽視的一面。

          冰凍三尺非一日之寒,構建超算不單是將幾千或者幾萬個GPU堆疊起來,還需要一套強大的“管理系統”——就像微軟Windows操作系統。例如阿里耗費多年打造出“盤古分布式系統”,才成為阿里云的Windows。所以,對于人工智能公司,提前積累超算的經驗十分必要。

          從資本角度來看,在5G大爆發的行業環境下,超算的價值愈加凸顯,自建超算有更大的想象空間。在滿足自身計算需求情況下,還可以租賃出去把服務賣給中小企業,或許還能盈利,也是一種商業模式。

          價格便宜10倍

          以阿里云平臺為例,筆者粗略算了一筆賬:

          如果在阿里云平臺選擇一塊卡,包括8個Intel Platinum 8163處理器和1個NVIDIA V100,服務價格為每7620元/月,即9.144萬元/年。

          一個以上配置的卡成本多少呢?筆者查閱發現,Intel Platinum 8163處理器的價格為1.5萬元/個,NVIDIA V100的價格為7.88萬元/個。所以1.5W*8+7.88*1=19.88萬元,再加上服務器(包括主板等硬件)0.5萬元左右,成本共計20.38萬元。

          對比發現,選擇阿里云包月服務所需要的錢大約兩年就可以買一張卡,但一張卡的壽命遠大于兩年,一般至少5-10年。顯然,自己組裝卡是更省錢的。

          一位MISSION.ORG的作者Jeff Chen也對比過自建GPU計算機和租賃AWS云服務,竟然便宜10倍!

          他組裝一臺GPU計算機,花了3千美元,其配置包括一個1080Ti GPU(你也可以用新的2080Ti來學習機器,只要再多花500美元),一個12核CPU,64GB RAM和1TB M.2 SSD。再加三個GPU,總共四個GPU。

          我們非常保守地假設,因為GPU迭代非???,一塊用于深度學習的GPU在三年內價值變成0。如下表所示,如果用它超過1年,把電費算在內也會便宜10倍,如果把亞馬遜一次購買多年的折扣算在內,1年大概會便宜6倍,3年便宜4倍。4個GPU便宜21倍。

          自建計算機和從AWS租賃的費用比較。1個GPU版本便宜4-10倍,4個GPU版本便宜9-21倍,具體取決于利用率。AWS定價包括全年和3年租賃的折扣(35%,60%)。假設功耗為0.20美元/kWh,1臺GPU機器消耗1千瓦/小時,4臺GPU機器消耗2千瓦/小時。折舊保守估計為3年內的線性損耗。每個GPU 700美元。

          如果你想把2080ti用于你的深度學習計算機,會多出500美元,而且對于1 GPU的機器來說,仍然是4-9倍的便宜。

          造成這種巨大成本差異的原因是亞馬遜Web服務EC2(或谷歌云或Microsoft Azure)的GPU價格為3美元/小時或約2100美元/月。即使當你關閉你的機器時,你仍然需要以每月每GB 0.10美元的價格為機器支付存儲費用。

          對于一臺3千美元的GPU機器學習計算機(1千瓦/小時),如果你經常使用,將在2個月內收支平衡。更不用說你的電腦還歸你所有,而且在兩個月內它沒有貶值多少。同樣,4 GPU版本(2千瓦/小時)的更為有利,因為你將在不到1個月內實現收支平衡。(假設電力成本為0.20美元/kWh)

          而且GPU性能與AWS相當。與使用下一代Volta技術的Nvidia v100 GPU相比,你的700美元Nvidia 1080 ti的運行速度為其90%。這是因為存在IO,所以即使V100理論上速度可能快1.5–2倍,IO在實踐中也會減慢速度。由于您使用的是M.2SSD,IO在您自己的計算機上運行得很快。

          結語

          從1塊卡到幾萬卡還需要運維費用,以及人才成本,但從長遠看,自建超算更有發展潛力,也是AI公司做大的必經之路。

          當然,選擇共有云平臺還是自建超算也要根據自身公司體量,畢竟打造超算前期投入較大。

          人工智能的核心業務壁壘和競爭力就是算法中的業務邏輯,還有就是數據。如果核心業務已經穩健,數據和算法需要信息安全保護,則需要從公有云平臺遷移至自建超算。

          如果只是小范圍驗證業務模式,為了降低成本,可以借助公有云平臺快速部署和按需租用的優勢,如果資金和時間都充裕,可以直接自建超算。

          編輯:楊珊珊

          本文經授權發布,版權歸原作者所有;內容為作者獨立觀點,不代表億歐立場。如需轉載請聯系原作者。

          各工作崗位將被AI取代的概率

          選擇崗位,查看結果

          制圖員和攝影師

          87.9%

          參與評論

          最新文章

          1、 若貴平臺是網站或者APP,在進行單篇原創文章轉載時,需在文章標題或者導語下方,注明文章來源以及作者名稱;若尋求5篇及以上的長期內容合作,需與億歐公司內容運營部門取得聯系,并簽訂轉載合作協議。

          【若貴司平臺轉載億歐公司原創文章已經超過5篇,請及時與我們聯系補簽轉載合作協議,計算時間以2019年2月10日之后為準】

          2、 若貴平臺是微信公眾號,在進行單篇原創文章轉載時,請聯系億歐公司內容運營人員進行單篇文章的白名單開通,同樣需要注明文章來源及作者名稱;若尋求2篇及以上的長期內容合作,需與億歐公司內容運營部門取得聯系,并簽訂轉載合作協議??蓪⒐救Q(簡稱)、公司網址、微信公眾號、微信或者電話等信息發送至hezuo@iyiou.com,會有工作人員與您取得聯系。

          關閉

          快來掃描二維碼,參與話題討論吧!

          快捷登錄 密碼登錄
          獲取驗證碼

          新用戶登錄后自動創建賬號

          登錄表示你已閱讀并同意《億歐用戶協議》

          快捷登錄 密碼登錄

          賬號為用戶名/郵箱的用戶 選擇人工找回

          關聯已有賬戶

          新用戶或忘記密碼請選擇,快捷綁定

          賬號為用戶名/郵箱的用戶 選擇人工找回

          快速注冊

          獲取驗證碼

          創建關聯新賬戶

          發送驗證碼

          找回密碼

          獲取驗證碼
          賬號為用戶名 / 郵箱的用戶 選擇人工找回

          未完成注冊的用戶需設置密碼

          如果你遇到下面的問題

          我在注冊/找回密碼的過程中無法收到手機短信消

          我先前用E-mail注冊過億歐網但是現在沒有辦法通過它登錄,我想找回賬號

          其他問題導致我無法成功的登錄/注冊

          請發送郵箱到service@iyiou.com,說明自己在登錄過程中遇到的問題,工作人員將會第一時間為您提供幫助

          賬號密碼登錄

          樂樂呵呵@微信昵稱

          該億歐賬號尚未關聯億歐網賬戶

          關聯已有賬戶

          曾經使用手機注冊過億歐網賬戶的用戶

          創建并關聯新賬戶

          曾用微信登錄億歐網但沒有用手機注冊過億歐的用戶

          沒有注冊過億歐網的新用戶

          先前使用郵箱注冊億歐網的老用戶,請點擊這里進入特別通道
          意見反饋
          意見反饋
          億歐公眾號 億歐公眾號
          小程序-億歐plus 小程序-億歐plus
          返回頂部
          日本毛片的免费高清视频

              1. <tr id="tntjc"></tr>
                <th id="tntjc"></th>
                <big id="tntjc"></big>

              2. <strike id="tntjc"></strike>