騰訊參與制定Vulkan矩陣擴(kuò)展標(biāo)準(zhǔn),推動(dòng)機(jī)器學(xué)習(xí)加速計(jì)算發(fā)展
2023-08-20 08:42:47 來(lái)源:站長(zhǎng)之家用戶 小 中
(資料圖片僅供參考)
隨著人工智能技術(shù)的發(fā)展,機(jī)器學(xué)習(xí)應(yīng)用場(chǎng)景越來(lái)越廣泛,從智能語(yǔ)音助手到自動(dòng)駕駛,從智能推薦到圖像識(shí)別,都需要大量的計(jì)算資源來(lái)支持。而GPU作為一種有效的計(jì)算資源,越來(lái)越受到關(guān)注,成為機(jī)器學(xué)習(xí)加速計(jì)算的重要工具。然而,跨硬件通用加速缺乏跨平臺(tái)跨硬件的通用API,不同顯卡實(shí)現(xiàn)有效算子十分困難和復(fù)雜。
作為頭部科技企業(yè),騰訊一直致力于推動(dòng)人工智能技術(shù)的發(fā)展。因此,騰訊作為khronos會(huì)員積極參與新擴(kuò)展標(biāo)準(zhǔn)制定,為機(jī)器學(xué)習(xí)加速計(jì)算提供更好的解決方案。在Vulkan 1.3. 255 版本中,騰訊聯(lián)合ARM、NVIDIA、AMD、Google等諸多全世界科技企業(yè)一起帶來(lái)新擴(kuò)展VK_KHR_cooperative_matrix,這是騰訊首 次參與khronos標(biāo)準(zhǔn)貢獻(xiàn)。
Vulkan是通用的、跨平臺(tái)的、新一代圖形加速API,支持Windows、Linux、macOS、Android、iOS等多個(gè)操作系統(tǒng)。VK_KHR_cooperative_matrix擴(kuò)展為Vulkan帶來(lái)中尺度矩陣類型,用于加速矩陣計(jì)算,加速神經(jīng)網(wǎng)絡(luò)推理。這一新擴(kuò)展使得非單一硬件綁定的通用AI計(jì)算加速成為可能,打破了行業(yè)壟斷,帶來(lái)了產(chǎn)業(yè)創(chuàng)新。Nvidia、ARM、AMD等顯卡廠商將發(fā)布新驅(qū)動(dòng)支持這個(gè)擴(kuò)展標(biāo)準(zhǔn),這將進(jìn)一步推動(dòng)機(jī)器學(xué)習(xí)加速計(jì)算的發(fā)展。
在VK_KHR_cooperative_matrix擴(kuò)展標(biāo)準(zhǔn)的制定中,騰訊優(yōu)圖實(shí)驗(yàn)室參與制定。在標(biāo)準(zhǔn)修訂過(guò)程中,騰訊優(yōu)圖實(shí)驗(yàn)室結(jié)合ncnn項(xiàng)目中的vulkan加速實(shí)踐經(jīng)驗(yàn),主張新標(biāo)準(zhǔn)中的矩陣加載函數(shù)的stride參數(shù)允許為0,以便支持自動(dòng)廣播行為。這一參數(shù)能有效提升神經(jīng)網(wǎng)絡(luò)卷積和線性層計(jì)算中的bias數(shù)據(jù)處理效率。騰訊優(yōu)圖實(shí)驗(yàn)室專家,業(yè)界知名的開源神經(jīng)網(wǎng)絡(luò)推理庫(kù)ncnn作者nihui表示:“khronos在線會(huì)議中,該提議獲得各參與廠商技術(shù)人員認(rèn)可和贊同,并成為硬性標(biāo)準(zhǔn)之一,要求在GPU驅(qū)動(dòng)中實(shí)現(xiàn)該行為。”
ncnn使用Vulkan API作為其跨平臺(tái)GPU通用加速方案。ncnn通過(guò)使用VK_KHR_cooperative_matrix擴(kuò)展,在AMD顯卡上跑超分AI,速度提升約2. 3 倍。這也是VK_KHR_cooperative_matrix的首 次應(yīng)用,已發(fā)布在ncnn新版本中,帶來(lái)更廣泛的跨硬件廠商GPU加速。
騰訊參與制定VK_KHR_cooperative_matrix擴(kuò)展標(biāo)準(zhǔn),推動(dòng)人工智能技術(shù)的發(fā)展,讓機(jī)器學(xué)習(xí)的計(jì)算能力更加有效、普惠和可持續(xù),為機(jī)器學(xué)習(xí)加速計(jì)算提供了更好的解決方案,實(shí)現(xiàn)跨平臺(tái)跨硬件的通用API,使得機(jī)器學(xué)習(xí)加速計(jì)算更加有效、靈活。
一直以來(lái),騰訊也在積極參與各類AI、大模型等方面的標(biāo)準(zhǔn)建設(shè)。 2020 年,騰訊被選舉為全國(guó)信標(biāo)委人工智能分委會(huì)委員兼副秘書長(zhǎng)單位,這意味著國(guó)家在推進(jìn)包括人工智能在內(nèi)的“新基建”過(guò)程中,騰訊正作為核心成員,承擔(dān)更多標(biāo)準(zhǔn)制定工作以及技術(shù)引領(lǐng)作用。前不久,騰訊云還聯(lián)合中國(guó)信通院發(fā)起行業(yè)大模型生態(tài)計(jì)劃,并牽頭國(guó)內(nèi)首 個(gè)金融行業(yè)大模型標(biāo)準(zhǔn)制訂,為金融行業(yè)智能化的高質(zhì)量規(guī)范化發(fā)展提供重要支撐。
未來(lái),騰訊將積極參與更多行業(yè)標(biāo)準(zhǔn)制定,助力更多行業(yè)提質(zhì)增效,為人類社會(huì)帶來(lái)更多的福祉。
(推廣)
相關(guān)文章
本月熱點(diǎn)
- 騰訊參與制定Vulkan矩陣擴(kuò)展標(biāo)準(zhǔn),推動(dòng)機(jī)器學(xué)習(xí)加速計(jì)算發(fā)展
- 魯大師開啟電池充電溫度監(jiān)控的方法
- 3娃非親生男子:要讓妻子臭名遠(yuǎn)揚(yáng),正收集證據(jù)盡快啟動(dòng)訴訟程序
- 視覺(jué)中國(guó)回應(yīng):向攝影師索賠是誤會(huì) 具體是什么情況?
- 通脹出現(xiàn)不祥之兆?這一價(jià)格增速四個(gè)月來(lái)首次“扭負(fù)為正”
- 車棚變雜物間,安全隱患重重!海淀這個(gè)小區(qū)出手整治
- 社保怎么繳?工傷怎么賠?這份《勞動(dòng)用工合規(guī)指引》請(qǐng)收好
- 玲瓏輪胎:會(huì)根據(jù)原材料等因素對(duì)產(chǎn)品價(jià)格政策適時(shí)調(diào)整
- 圖靈波浪看市8.18-原油V型反轉(zhuǎn)、多頭再次登場(chǎng)
- 葛根散(關(guān)于葛根散簡(jiǎn)述)
- WTI原油日內(nèi)漲幅達(dá)1.0%報(bào)80.72美元/桶
- 微創(chuàng)腦科學(xué)(02172.HK)聯(lián)營(yíng)公司Rapid Medical顱內(nèi)取栓支架Tigertriever?獲批上市
- 廣州越秀警方:8月21日起,部分許可業(yè)務(wù)辦理地點(diǎn)遷移
- 記者:吉達(dá)國(guó)民引進(jìn)德米拉爾預(yù)計(jì)幾小時(shí)內(nèi)官宣
- 曼城首捧歐洲超級(jí)杯
- SMM分析:廣東電解銅庫(kù)存連續(xù)大幅下降并創(chuàng)春節(jié)后新低 發(fā)生了什么事
- 濟(jì)南市綠苑福鼎老年公寓:一切為了老人,給長(zhǎng)者五星級(jí)的家
- 盜竊8部手機(jī),秦某某被刑拘
- 氨基酸粉商品報(bào)價(jià)動(dòng)態(tài)(2023-08-18)
推薦閱讀

騰訊參與制定Vulkan矩陣擴(kuò)展標(biāo)準(zhǔn),推動(dòng)機(jī)器學(xué)習(xí)加速計(jì)算發(fā)展
隨著人工智能技術(shù)的發(fā)展,機(jī)器學(xué)習(xí)應(yīng)用場(chǎng)景越來(lái)越廣泛......更多>
今日熱點(diǎn)

蒸白梨蜂蜜(關(guān)于蒸白梨蜂蜜簡(jiǎn)述)
恒大發(fā)澄清公告:在美提出的申請(qǐng)不涉及破產(chǎn)
