国产毛片a精品毛-国产毛片黄片-国产毛片久久国产-国产毛片久久精品-青娱乐极品在线-青娱乐精品

為大模型定制一顆芯片?

發(fā)布時間:2024-4-6 11:36    發(fā)布者:eechina
關(guān)鍵詞: 大模型 , 芯片
來源:半導(dǎo)體行業(yè)觀察

當我們回顧2023年爆火的AI時,有兩位明星獲得了最多的關(guān)注度,一位是開發(fā)了ChatGPT的OpenAI,另一位是為各路AI選手提供雄厚算力的英偉達。

逢大模型必提OpenAI,逢顯卡必提英偉達,成了過往一年的常態(tài)。

但這樣的情形必然不會持續(xù)太久,不論是AI大模型還是AI顯卡,都是動輒每年上百億美元乃至于千億美元的市場,大家都不想讓兩家廠商獨吞蛋糕。

在大模型上,LaMDA 、LLaMA、Gemini等早已虎視眈眈,而在顯卡上,不光有傳統(tǒng)的英特爾與AMD這兩家,還有各類定制與自研芯片涌現(xiàn),OpenAI與英偉達已經(jīng)迎來了各自的競爭對手。

但更有意思的事情也在發(fā)生,AI的軟件和硬件并非天然對立,如果把大型語言模型和顯卡芯片結(jié)合在一起,會有什么樣的奇妙反應(yīng)呢?

為大模型量身打造芯片

想要訓(xùn)練一個大模型,代表算力的芯片就是最關(guān)鍵的一環(huán),也是成本最高的一環(huán)。

這也導(dǎo)致了一個問題,如果AI照著現(xiàn)在這幅樣子發(fā)展下去,那么成本就會越來越高,高到絕大部分公司都難以承受的地步,根據(jù)外媒估計,如今正在開發(fā)的大模型,平均每個需要花費約 10 億美元,而下一代大模型呢,平均每個需要花費 100 億美元來訓(xùn)練,這個天文數(shù)字,在硅谷買下幾十家有潛力的初創(chuàng)公司都還有得找。

這也暴露出了目前行業(yè)最常用的英偉達顯卡的弊端,英偉達的GPU并非為了AI而生,它起初是為了處理各種各樣的圖形化計算而生產(chǎn)制造的,整體設(shè)計也沒有脫離傳統(tǒng)計算的范疇,面對人工智能蓬勃發(fā)展時,強大的算力有相當一部分被浪費了,也意味著白花花的銀子被浪費了。

大公司可以一邊著手自研,一邊繼續(xù)購買英偉達的顯卡,但對于中小型公司來說,顯卡成為了他們最大的絆腳石,如此一來,AI在某種程度上就成為了一部分公司的專屬。

不過這種需求已被一部分人所注意到,在美國硅谷,邁克-岡特(Mike Gunter)和雷納-波普(Reiner Pope)這兩位從谷歌出走的工程師,他們成立了一家名為 MatX 的公司,而這家公司的目標,就是設(shè)計專門用于LLM(大型語言模型)的,更便宜、更快速、更適合人工智能的芯片。

在谷歌任職時,Gunter主要負責設(shè)計運行人工智能軟件的硬件(包括芯片),Pope則負責編寫人工智能軟件本身,這里不得不提到谷歌此前自研的TPU了,從2014年發(fā)展至今,已經(jīng)更迭了整整五代,但它們和英偉達H100一樣,都不是為了LLM所量身打造的,放在人工智能領(lǐng)域中,顯得過于通用了一些。

Pope在接受采訪時表示:“我們試圖讓LLM在谷歌運行得更快,并取得了一些進展,但這有點困難,”他說到,“在谷歌內(nèi)部,有很多人希望對芯片進行各種改動,因此很難只專注于 LLM。為此,我們選擇了離開!

這兩位創(chuàng)始人都認為,在人工智能時代到來之際,芯片上額外的空間增加了不必要的成本和復(fù)雜性,因此需要“一刀切”,去掉所有不必要的部分,只保留必要的部分,MatX公司的做法就是在硅片上設(shè)計一個大型處理內(nèi)核,目的只有一個,那就是盡可能快地將數(shù)字相乘——這是 LLM 的核心任務(wù)。

MatX表示,自己的芯片在訓(xùn)練 LLM 和提供其結(jié)果方面將比英偉達的 GPU 至少好 10 倍!坝ミ_有非常強大的產(chǎn)品,顯然是大多數(shù)公司的理想選擇,” Pope說,“但我們認為我們可以做得更好。

其預(yù)測,通過贏得包括OpenAI和Anthropic PBC在內(nèi)的多家主要人工智能企業(yè)的青睞,它的業(yè)務(wù)將蒸蒸日上。“這些公司的經(jīng)濟狀況與一般公司完全相反,"Gunter說,"他們把錢都花在了計算上,而不是工資上。如果情況不改變,他們就會沒錢。”

無獨有偶,隔壁總部位于多倫多的人工智能芯片初創(chuàng)公司 Taalas,同樣立志于改變由英偉達主導(dǎo)的AI世界,公司創(chuàng)始人包括Ljubisa Bajic、Lejla Bajic 和 Drago Ignjatovic,他們均來自傳奇架構(gòu)師Jim Keller所領(lǐng)導(dǎo)的Tenstorrent。

與前東家Tenstorrent不同的是,Taalas幾位創(chuàng)始人想開發(fā)一種自動流程,能將任何人工智能模型快速轉(zhuǎn)化為定制芯片,其表示,由此產(chǎn)生的硬核模型的效率是軟件模型的 1000 倍。

“要實現(xiàn)人工智能的商品化,就必須將計算能力和效率提高 1000 倍,而目前的漸進式方法是無法實現(xiàn)這一目標的。我們不應(yīng)該在通用計算機上模擬智能,而應(yīng)該直接在芯片中打造智能,在芯片中實現(xiàn)深度學(xué)習(xí)模型是實現(xiàn)可持續(xù)人工智能的最直接途徑!盩aalas 首席執(zhí)行官Ljubisa Bajic說。



Taalas認為,公司會解決了當今人工智能硬件的兩大問題,即能效和成本。如果客戶需要在手機里使用特定參數(shù)Llama2模型,而且確定了產(chǎn)品生命周期中的全部需求,那么可能只需要為它提供一款最低功耗和最低成本的專用芯片,未來的AI在消費者日常生活中的普及程度將像電力一樣無處不在,而Taalas認為自己能夠推動這一切的發(fā)展。

Taalas表示,它將在2024年第三季度推出首款大型語言模型芯片,并計劃在2025年第一季度向首批客戶提供芯片。

目前,這兩家打算顛覆目前AI芯片市場的公司都拿到了一筆數(shù)額不菲的投資,MatX獲得了2500萬美元的融資,而Taalas則獲得了5000萬美元的融資。

MatX的投資人提到,MatX這樣的公司象征著人工智能世界的一種新趨勢,因為他們正在把一些大公司開發(fā)出來的最好的創(chuàng)意(這些公司有點行動太慢、太官僚化)獨立商業(yè)化,硅谷之所以能成為硅谷,正是因為一批又批充滿活力的初創(chuàng)公司,初創(chuàng)公司能改變目前芯片行業(yè)沉悶的情況。

但問題也隨之而來,設(shè)計芯片并不是吃飯喝水那么簡單,設(shè)計和制造一款新芯片需要三到五年的時間,中間還不能出現(xiàn)重大失誤,五年前的想法拿到現(xiàn)在來看,不少已然過時,這就要求這些初創(chuàng)公司對未來技術(shù)趨勢有一個更準確的判斷。

上個月,英偉達已經(jīng)推出了全新的B200芯片,原本可能上百倍的差距,或許已經(jīng)縮小到數(shù)十倍,隨著時間的推移,這部分差距只會越來越小,到了優(yōu)勢不那么明顯的時候,恐怕這些初創(chuàng)公司就很難說服英偉達原來的客戶遷移到新芯片之上了。

消費端客戶關(guān)心體驗和效果,大模型企業(yè)關(guān)心能效和成本,芯片公司看重技術(shù)與趨勢,這一條鏈路上環(huán)環(huán)相扣,誰能把握技術(shù)趨勢,誰就能真正勝券在握,看明白了這一點,我們或許就能明白為何有MatX和Taalas這樣的公司涌現(xiàn)了。

英偉達的押注

比較有意思的是,英偉達雖然坐擁大半個AI芯片市場,但它也有自己的危機意識。此前雖傳出消息,它將為部分廠商提供定制芯片服務(wù),但在CEO黃仁勛的演講中,英偉達再怎么放下身段,也不會完全迎合與滿足客戶需求,與上述的新興芯片公司形成了鮮明反比。

英偉達的實際護城河是什么?毫無疑問是CUDA,黃仁勛將其視作成功的根本來源,這種生態(tài)絕非一朝一夕能夠建立起來,英偉達想做和要做的,就是把CUDA鋪設(shè)到無處不在。

因此,英偉達開始了自己的押注,根據(jù)金融數(shù)據(jù)公司Dealogic提供的數(shù)據(jù),英偉達在2023年對30多家初創(chuàng)公司進行了投資,數(shù)量是上一年的三倍多。英偉達已發(fā)布的財報顯示,截至今年1月末的上一財季,該公司對其他公司的投資總額約為15.5億美元,遠遠超過一年前的3億美元。

2023年,英偉達投資了大約11家AI基礎(chǔ)設(shè)施提供商,包括數(shù)據(jù)分析公司Databricks Inc.,GPU云提供商CoreWeave Inc.和大語言模型提供商Mistral AI SAS,此外,英偉達還投資了像視頻生成器Twelve Labs Inc.,聊天機器人創(chuàng)建者Cohere Inc.和機器人流程自動化初創(chuàng)公司Adept AI Labs Inc.這樣的生成式AI公司。

英偉達的投資并不僅限于IT領(lǐng)域,還包括將AI應(yīng)用于醫(yī)療保健的初創(chuàng)公司,它投資了八家藥物發(fā)現(xiàn)初創(chuàng)公司,包括Generate Biomedicines Inc.和Genesis Therapeutics Inc.,這兩家公司都在使用AI來發(fā)現(xiàn)新藥。



通過這些投資,英偉達不僅能夠支持和利用這些初創(chuàng)公司在AI領(lǐng)域的創(chuàng)新,把市場蛋糕做大;還能與重要客戶建立緊密聯(lián)系,形成了一個良好的生態(tài)。這種策略可能使英偉達在競爭激烈的市場中獲得優(yōu)勢,因為這些初創(chuàng)公司的成功可能進一步提升對英偉達產(chǎn)品的需求。同時,這也為英偉達提供了一個了解市場動向、技術(shù)創(chuàng)新和客戶需求的窗口。

值得一提的是,根據(jù)英偉達2023財年的財報,其客戶現(xiàn)可通過云服務(wù),全面接觸英偉達AI的各個層面:AI超級計算機、加速庫軟件以及預(yù)訓(xùn)練的生成式AI模型。用戶可通過瀏覽器,通過英偉達DGX Cloud服務(wù),接入英偉達DGX AI超級計算機。在AI平臺軟件層面,用戶能夠使用英偉達AI企業(yè)版,以訓(xùn)練和部署大型語言模型或其他AI工作負載。在AI模型即服務(wù)層面,英偉達為希望為其業(yè)務(wù)定制生成式AI模型和服務(wù)的企業(yè)客戶提供NeMo和BioNeMo定制AI模型。

英偉達可能不會積極地提供定制芯片,但它卻一定會樂于推銷自己的定制生態(tài),即使初期這些AI公司并不能提供什么實質(zhì)性的回報,但它們所代表的未來趨勢,正是英偉達所看重的,這種做法有點像是電腦上的付費軟件,先提供一段時間的免費試用,等到用戶養(yǎng)成使用習(xí)慣了,再開啟收費模式。

而且英偉達這種拋磚引玉的做法不是沒有成功的先例,OpenAI為什么會堅定不移地使用英偉達的芯片來訓(xùn)練模型,最早可以追溯到免費贈送的DGX-1,一臺超算就撬動了百億美元市場,這筆買賣怎么看這么劃算。

寫在最后

事到如今,AI芯片市場似乎已經(jīng)分成了旗幟分明的三派:第一派也是最大的一派,當然是英偉達,靠著新鮮出爐的B200又能賺得盆滿缽滿,第二派是以博通為代表的定制派,比起英偉達,他們才更像是賣服務(wù)的,自己不生產(chǎn)芯片,幫企業(yè)造好芯片。

但這兩派更多覆蓋的還是那些中大型的巨頭,只有它們才有財力和實力來訓(xùn)練自己的大模型,一部分初創(chuàng)AI公司實質(zhì)上是被忽略了,即使英偉達豪擲數(shù)十億美元,也只是覆蓋了很小一部分初創(chuàng)公司,且縱使是巨頭,在瘋狂燒錢這件事上也已經(jīng)出現(xiàn)了動搖,新的需求已經(jīng)從幕后走向臺前。

第三派如今開始嶄露頭角,喊出為每個大模型定制芯片的口號,意圖就是打入英偉達和博通所不能顧及的市場,在AI浪潮中分得一杯羹。

你認為MatX和Taalas這樣的公司會脫穎而出嗎?
本文地址:http://m.qingdxww.cn/thread-854514-1-1.html     【打印本頁】

本站部分文章為轉(zhuǎn)載或網(wǎng)友發(fā)布,目的在于傳遞和分享信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責;文章版權(quán)歸原作者及原出處所有,如涉及作品內(nèi)容、版權(quán)和其它問題,我們將根據(jù)著作權(quán)人的要求,第一時間更正或刪除。
您需要登錄后才可以發(fā)表評論 登錄 | 立即注冊

廠商推薦

  • Microchip視頻專區(qū)
  • Chiptorials ——使用ATECC608 TrustFLEX實現(xiàn)基本非對稱身份驗證
  • FPGA設(shè)計流程培訓(xùn)教程
  • 無線充電基礎(chǔ)知識及應(yīng)用培訓(xùn)教程
  • Chiptorials ——如何將CryptoAuthLib庫用于Microchip安全身份驗證IC
  • 貿(mào)澤電子(Mouser)專區(qū)

相關(guān)在線工具

相關(guān)視頻

關(guān)于我們  -  服務(wù)條款  -  使用指南  -  站點地圖  -  友情鏈接  -  聯(lián)系我們
電子工程網(wǎng) © 版權(quán)所有   京ICP備16069177號 | 京公網(wǎng)安備11010502021702
快速回復(fù) 返回頂部 返回列表
主站蜘蛛池模板: 污网站免费观看在线高清 | 国产中文在线 | 国产精品资源站 | 欧美一区永久视频免费观看 | 国产一区二区三区久久 | 久久婷五月天 | 偷窥自拍亚洲 | 蝴蝶传媒4.754 | 日本国产在线 | 欧美一区二区三区视视频 | 91视频免费网站 | 亚洲天堂91 | 日韩色吧 | 精品久久伦理中文字幕 | 九九九九热精品视频 | 精品欧美一区二区三区四区 | 香蕉尹人 | 国内精品久久久久久久999下 | 国产高清精品一级毛片 | 国产精品99久久久久久董美香 | 91国内精品在线 | 国产四虎 | 国产亚洲欧美精品久久久 | 国产亚洲人成网站天堂岛 | 色婷婷精品免费视频 | 五月天婷婷精品视频 | 四虎影视入口 | 精品国产一区二区三区19 | 日韩国产免费一区二区三区 | 麻豆国内精品久久久久久 | 男人的天堂天堂网 | a在线观看免费 | 亚色影库 | 热最近热久点 | 国产自产自拍 | 狼伊千合综网中文 | 日韩精品一区二区三区在线观看 | 欧美成人午夜 | 性夜影院爽黄a爽免费视 | 成人黄网大全在线观看 | 久久香蕉综合精品国产 |