《電子技術應用》
您所在的位置:首頁 > 人工智能 > 業界動態 > 大模型,離不開Serdes!

大模型,離不開Serdes!

2023-04-18
來源:半導體行業觀察
關鍵詞: 大模型 SerDes ChatGPT

隨著ChatGPT橫空出世,預訓練大模型對千行百業的革新與改造潛力已盡顯無遺,甚至有業界大佬將其問世譽為人工智能“iPhone 時刻”,并預言這“只是更偉大事物的開始”。

ChatGPT為何顯得如此“與眾不同”?

借用技術接受理論(TAM)提出者、哈佛大學教授Venky Narayanamurti的總結,有用性(usefulness)與易用性(ease of use)是一項新興技術擴散的兩大基本前提。以這一標準衡量,2016年的AlphaGo-李世石五番棋大戰,堪稱完成了對人工智能“有用性”的全民科普,而ChatGPT則標志著AI技術擴散的另一必要條件-易用性已潛移默化滲入公眾心智。

基于此,外界有理由樂觀期待,人工智能產業的確已站在了巨擘預卜的宏偉藍圖新起點上。


成于算力、困于互連?

在不少“后見之明”的解讀中,GPT家族往往被與2017年谷歌推出的Transformer模型相聯系。

基于自注意力機制的Transformer,及其后谷歌BERT對各類文本任務的“屠榜”表現和驚人泛化能力,的確堪稱為GPT做好了前置技術與工程方法的鋪墊。站在巨人的肩膀上,GPT開發者OpenAI團隊,最終憑借更敏捷的效率和更有力的執行,完成了最后的一躍。

進一步深入看,Transformer較此前MLP\LSTM等傳統深度學習模型,正是對硬件算力實現了更高效的運用。

關于這一點,2019年深度學習泰斗、DeepMind首席科學家Richard Sutton在其《苦澀的教訓》一文中就曾感言,從70年AI研究中可以學到的最大教訓是,利用計算的一般方法最終是最有效的,而且有很大的優勢,終極原因是摩爾定律,或者更確切地說,是它對每單位計算成本持續呈指數下降的概括,大多數AI研究都是在可用算力恒定的情況下進行的(在這種情況下,利用人類經驗將是提高性能的唯一方法),但是,在比典型研究項目稍長的時間里,算力會大大增加,從長遠來看,唯一重要的是利用計算。

正如Sutton所預見的,近年來,AI硬件算力取得了突飛猛進的發展。除了為人所熟知的GPU之外,谷歌TPU(GPT系列早期通過TPUv2進行訓練)、微軟Catapult等AI加速芯片往往省去了傳統通用CPU微架構中亂序、預取等高級控制措施,能夠實現卷積神經網絡最核心的乘加運算單元設計最優化,充分挖掘SIMD架構并行計算能力。

算法、算力及其相結合的工程方法進步,最終為OpenAI“大力出奇跡”奠定了基礎。

完全可以預期,在OpenAI明星效應下,全球科技巨頭未來一兩年必將推出一系列類GPT預訓練大模型,也有望帶動對數據中心AI算力集群的投資進一步加速。

不過值得注意的是,盡管各大芯片廠商爭相推出AI加速芯片,算力參數不斷刷新記錄,但預訓練大模型參數量動輒上百億、千億乃至萬億,其訓練仍遠遠超出一兩張GPU等AI加速卡所能駕馭的范圍,往往必須通過網絡將多處理器互連、乃至進一步組成HPC算力集群,實現算力資源的池化調度,如此方能滿足AI大模型的分布式、并行化訓練。而在評估訓練效率時,單批數據(batch)的總訓練用時也往往受通信時長的顯著影響。

正因如此,隨著AI大模型揭示的全新想象空間出現,算力集群這一基礎設施也將迎來投資熱潮,而在其面臨的配電、散熱、通信等一系列工程挑戰中,算力節點間的數據傳輸尤其堪稱制約硬件算力充分釋放的關鍵“瓶頸”。

破解互連瓶頸的“關鍵支點”

AI訓練、推理所面對的數據量指數增長,使得無論單服務器中多GPU、CPU間C2C通信,還是在多服務器間組網,數據傳輸總體都呈現出高帶寬、低延遲的技術需求。

在算力集群通信網絡拓撲結構趨同的背景下,交換機接口日益成為打通“瓶頸”的重要突破口,并衍生出提升網卡速率、增加網卡數量、乃至應用RDMA網絡直連等多種工程思路。

而在底層接口技術領域,與傳統并行接口相比,SerDes串行接口由于其顯著的成本優勢,已然成為應用主流,在PCIe 6.0等新標準中,更是在物理層進一步引入對PAM4(四階脈沖振幅調變)編碼的支持,以進一步提高SerDes數據傳輸速率。

不過SerDes的應用,也自然存在不少技術挑戰,其中最嚴峻的,無疑首推信號完整性(SI)問題。

例如在通過背板、連接器、PCB板的中距離、長距離互連場景中,SerDes高速鏈路TX、RX端往往間隔著管腳、PCB過孔、信號線乃至連接器、線纜等環節,存在材料、工藝、布局等復雜原因引入的噪聲、串擾和信號衰減,以至于最終抵達接收器的電氣信號可能嚴重失真,很難恢復所傳輸信息的時鐘和數據位,也局限了速率、距離上的設計空間。

新一代56G、112G SerDes應用PAM4編碼,在提供更大網絡吞吐量的同時,也因引入更多電平水平,帶來了信噪比損失、誤碼率(BER)惡化、前向糾錯(FEC)延遲增加等問題,需要進行精細的權衡取舍。

從上面的分析不難看出,想要充分發揮AI硬件算力效能,接口技術是破解互連瓶頸的關鍵支點,具有極大的杠桿效應,而其應用則必須解決圍繞信號完整性的諸多挑戰。

目前,盡管大量硬件廠商聘請了專職SI工程師負責調試,不過其效果取決于千差萬別的個人“手藝”,由于在芯片與系統設計各層面均需保證信號完整性,驗證過程也往往曠日持久,只有技能十分熟練且模電領域經驗極其豐富的設計團隊才能嘗試此類設計,且測試驗證周期漫長。

正因如此,在芯片設計中,外購高速接口IP幾乎成為行業“必選項”,也帶動接口IP成為近年來增速最快的IP細分市場,根據專業機構預測,接口IP甚至有望在2025年前后超越CPU IP,成為第一大半導體IP品類。


授人以魚,更要授人以漁


接口IP市場機遇,也使之成為各大IP HOUSE競爭熱點。例如全球三大IP廠商之一的Cadence(楷登電子),同樣推出了其112G SerDes IP設計,面向高性能計算(HPC)數據中心SOC需求,適用于長距離和中距離傳輸,已經經過7nm制程硅驗證,擁有上佳的PPA表現,插入損耗>35dB。

值得一提的是,外購接口IP只是從芯片到系統開發及信號完整性測試的起點,與工作流配套的工具是否完備、可及,也是影響開發周期的重要因素,可以說接口IP供應商既要授人以魚,更要授人以漁。

作為EDA\IP領域巨頭,Cadence在這方面的實踐尤其具有代表性。在SerDes等成熟接口IP之外,該公司還提供了有機融合的完善設計工具和技術,幫助芯片與系統設計人員應對貫穿各層面的信號完整性挑戰。

例如在不同芯片間互連設計與仿真中,建模是必不可少的手段。目前,IBIS和AMI是對SerDes信道進行建模的首選方式,IBIS-AMI的出現,使利用仿真模型快速且精確地模擬大量比特流成為了可能。作為行業標準的定義者之一,Cadence在相關工具開發上同樣走在前列,基于其Sigrity Advanced IBIS建模工具,用戶可自動創建模型,借助向導程序生成實用算法模型。

在基于PCB板/背板/連接器的中長距離互連場景中,SerDes高速接口開發人員為了精準可靠地分析信號,還需要為總體設計進行信號完整性(SI)、電源完整性(PI)以及電磁兼容性 (EMC)協同仿真,開發者往往需要透徹了解數據采集分析理論、精準建立模擬器件特性模型。

針對這一痛點,Cadence的Clarity 3D Solve為PCB、IC封裝和SoIC關鍵互連設計提供了更好的工具選擇,基于其創建的高精度S-參數模型,即使在112G數據傳輸速度下,也能實現與實驗室測量相匹配的仿真結果。其有限元分析(FEM)過程實現了高度并行化,可極大縮短求解耗時,并支持近乎線性的硬件算力可擴展性。

微信截圖_20230418094851.png

此外,在分析鏈路信號完整性時,通常隱含假設是電路板和連接器功能良好,但在極高頻率下,單獨分析連接器和電路板、然后再將它們“連接"在一起的假設不再適用。電路板和連接器之間交互過多,同樣需要Clarity Solver等全面的3D分析工具實現高質量設計,同時準確預測成品性能。


 結語 

在黃仁勛喊出人工智能“iPhone 時刻”后,短短幾十天以來,預訓練大模型及其下游應用,已經呈現出令人目不暇給的爆發態勢。可以想見,在各大云計算巨頭的AI大模型“軍備競賽”中,算力集群也將迎來一輪新的投資熱潮,通信網絡與接口技術,也有望進入發展加速期。此外,特斯拉 Dojo、Cerebras WSE-2等走“超級單芯片”路線的廠商,也可能引領一條大模型訓練的新路。

不過無論何種路徑,對接口IP的“剛需”都清晰可見,在這一熱點、難點領域,筆者也期待有更多如Cadence等大廠帶來完整解決方案,推動互連瓶頸的緩解與松動,有力釋放預訓練大模型無限可能,造福千行百業。


 更多精彩內容歡迎點擊==>>電子技術應用-AET<<

微信圖片_20210517164139.jpg


本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
欧美激情办公室aⅴ_国产欧美综合一区二区三区_欧美午夜精品久久久久免费视_福利视频欧美一区二区三区

          欧美一区二区在线| 国产精品v欧美精品v日韩| 美女精品网站| 亚洲成人在线视频网站| 国产欧美日韩亚洲| 久久天天狠狠| 国产专区一区| 国产精品日本一区二区| 午夜视频一区| 亚洲精品在线视频观看| 免费视频一区| 国产一区二区中文| 国产欧美一区二区视频| 午夜精品区一区二区三| 野花国产精品入口| 欧美成人一品| 一区二区精品| 韩国久久久久| 欧美一区91| 99视频一区| 老司机精品久久| 国产精品久久久亚洲一区| 欧美一区二区三区久久精品茉莉花| 狠狠色狠狠色综合人人| 久久国产免费| 国产日韩亚洲| 亚洲激情社区| 国语对白精品一区二区| 久久久一二三| 国产精品永久入口久久久| 伊人久久亚洲热| 欧美日韩亚洲三区| 老司机午夜精品视频| 国产伦理一区| 国产精品久久亚洲7777| 亚洲欧洲日本mm| 亚洲第一精品影视| 在线欧美一区| 国内自拍一区| 在线观看日韩av电影| 欧美亚韩一区| 伊人久久婷婷| 国产综合精品一区| 亚洲福利电影| 亚洲美洲欧洲综合国产一区| 亚洲国产精品毛片| 日韩午夜在线电影| aa亚洲婷婷| 亚洲一区二区三区四区中文| 亚洲欧美精品| 欧美一区二区三区在线播放| 欧美va天堂在线| 欧美日韩综合精品| 亚洲国产黄色| 亚洲综合激情| 欧美有码视频| 亚洲午夜av| 国产日韩欧美一区二区三区四区| 国产日韩欧美一区在线| 久久精品盗摄| 国产精品v欧美精品v日韩精品| 欧美激情麻豆| 在线观看的日韩av| 国产情侣一区| 久久亚洲二区| 亚洲成人在线| 免播放器亚洲| 极品av少妇一区二区| 99精品免费| 久久蜜桃资源一区二区老牛| 欧美午夜视频| 亚洲欧美清纯在线制服| 欧美暴力喷水在线| 亚洲精品美女| 午夜精品视频| 日韩亚洲国产精品| 久久青青草原一区二区| 伊人影院久久| 久久综合福利| 宅男噜噜噜66国产日韩在线观看| 欧美一区二视频在线免费观看| 黄色成人av网站| 久久国产毛片| 中文一区二区| 亚洲视频欧美在线| 久久综合九色| 国产美女精品| 91久久午夜| 国产在线欧美| 可以看av的网站久久看| 亚洲色图自拍| 久久影院亚洲| 欧美一区=区| 日韩午夜免费视频| 精品不卡在线| 韩国一区二区三区美女美女秀| 鲁鲁狠狠狠7777一区二区| aa国产精品| 亚洲国产国产亚洲一二三| 欧美激情91| 久久久精品国产一区二区三区| 亚洲毛片视频| 亚洲久久成人| 亚洲精品123区| 亚洲国产精品第一区二区三区| 欧美国产激情| 亚洲欧美综合国产精品一区| 美日韩精品视频| 免费亚洲网站| 久久久噜噜噜久久狠狠50岁| 久久精品一本| 久久最新视频| 欧美久色视频| 国产在线精品二区| 欧美日韩在线高清| 国产精品av一区二区| 国户精品久久久久久久久久久不卡| 欧美高清视频一区| 国产精品mm| 亚洲第一在线| 一区二区不卡在线视频 午夜欧美不卡'| 亚洲午夜极品| 亚洲日本欧美在线| 一区二区三区视频在线播放| 亚洲一区二区三区精品在线观看| 亚洲专区欧美专区| 久久久久久久欧美精品| 久久综合激情| 在线观看日韩av电影| 99热精品在线| 鲁大师成人一区二区三区| 欧美不卡在线| 亚洲精品123区| 国产精品美女xx| 玖玖精品视频| 伊人久久婷婷| 国产精品日韩| 国产精品二区影院| 国产一区二区高清视频| 久热精品视频| 亚洲激情网址| 久久综合久久综合这里只有精品| 欧美日韩成人| 一区二区日韩免费看| 久久午夜电影| 99亚洲精品| 久久一区中文字幕| 亚洲国产专区| 欧美一区激情| 国产一级精品aaaaa看| 欧美国产高潮xxxx1819| 亚洲黄色av| 欧美成人嫩草网站| 国产精品久久亚洲7777| 国内不卡一区二区三区| 亚洲综合精品四区| 亚洲欧洲一区| 国产精品啊啊啊| 欧美一级专区| 国产区欧美区日韩区| 国语精品中文字幕| 久久婷婷亚洲| 亚洲欧美日韩国产| 亚洲激情av| 国产精品啊v在线| 鲁大师成人一区二区三区| 亚洲午夜久久久久久尤物| 麻豆精品视频| 一区二区三区四区国产| 国产精品久久| 欧美黄色精品| 久久亚洲色图| 久久一本综合频道| 亚洲欧美清纯在线制服| av不卡在线| 亚洲一级影院| 亚洲午夜激情| 国产主播一区| 黑人一区二区三区四区五区| 午夜精品一区二区三区四区| 久久九九精品| 男人的天堂成人在线| 国产精品一区视频网站| 国产欧美亚洲日本| 中文网丁香综合网| 国产精品日韩精品欧美精品| 国产日韩一区二区三区在线| 99精品视频免费观看| 亚洲精品日韩在线观看| 9久re热视频在线精品| 99热免费精品| 国产精品手机视频| 亚洲一区二区三区高清不卡| 欧美一级二区| 久久久久久亚洲精品不卡4k岛国| 香蕉久久久久久久av网站| 亚洲一区精品视频| 性色一区二区| 欧美黄色一区| 伊人精品在线| 亚洲欧洲午夜| 国产日韩精品视频一区二区三区| 亚洲欧美日韩综合国产aⅴ| 久久国产一区| 国产一区二区在线观看免费播放| 黄色欧美成人| 国产日韩欧美一区二区三区在线观看| 国产日韩一区二区三区在线播放| 亚洲欧美日韩国产综合精品二区 | 国产一区激情| 狠狠综合久久av一区二区老牛| 激情久久中文字幕| av不卡在线看| 久久九九免费| 国产字幕视频一区二区| 日韩视频在线观看国产| 久久国产88| 一区在线视频观看| 亚洲一区二区三区免费在线观看 | 国产精品草草| 亚洲色图自拍| 午夜精品视频在线观看一区二区| 亚洲二区视频| 久久三级福利| 亚洲看片网站| 欧美aa国产视频| 136国产福利精品导航网址| 国产伦精品一区二区三区照片91 | 母乳一区在线观看| 国产精品porn| 另类av一区二区| 激情视频一区二区| 久久久夜夜夜| 一区二区三区偷拍| 欧美网站在线| 久久久久久国产精品mv| 18成人免费观看视频| 欧美va天堂在线| 国产亚洲成人一区| 亚洲国产一区二区精品专区| 久热re这里精品视频在线6| 99国产精品久久久久久久| 欧美一区二区三区在线播放 | 亚洲一区在线免费| 黄色av日韩| 久久天天狠狠| 国产精品亚洲一区| 9色精品在线| 影音先锋亚洲电影| 国产精品二区三区四区| 欧美大片专区| 欧美一区免费视频| 久久精品首页| 国产精品一区免费观看| 夜夜嗨一区二区三区| 亚洲图片欧洲图片日韩av| 午夜精品免费| 你懂的亚洲视频| 老司机精品视频网站| 久久精品一本| 狼狼综合久久久久综合网| 久久国产精品久久久久久电车| 99国产精品| 国产一级一区二区| 国产亚洲毛片在线| 国产精品一区在线观看| 免费日韩视频| 久久久99爱| 欧美精选一区| 狠狠综合久久| 99re国产精品| 国产一区二区高清不卡| 欧美亚洲三区| 久久伊人亚洲| 国内精品久久国产| 亚洲激情偷拍| 亚洲免费中文| 亚洲综合欧美| 欧美日韩1区| 亚洲毛片在线| 国产精品视频免费观看| 国产伦精品一区二区三区高清版 | 国产欧美日韩视频一区二区三区| aⅴ色国产欧美| 亚洲在线国产日韩欧美| 久久一区二区三区超碰国产精品| 欧美日本不卡高清| 尹人成人综合网| 国产精品视频免费观看| 你懂的亚洲视频| 韩国自拍一区| 亚洲乱亚洲高清| 久久国产精品毛片| 国产精品多人| 国产亚洲激情| 欧美日韩国产成人精品| 精品91视频| 性欧美长视频| 伊人影院久久| 久久精品亚洲一区二区| 精品成人国产| 久久www成人_看片免费不卡| 黄色成人精品网站| 免费在线成人| 亚洲国产日韩综合一区| 校园春色综合网| 亚洲第一网站| 美女精品国产| 亚洲精选国产| 欧美午夜一区二区福利视频| 99精品视频免费观看| 欧美日韩高清在线一区| 亚洲综合首页| 99精品欧美一区二区三区| 欧美日韩国产一区精品一区| 国产伦精品一区二区三| 好吊视频一区二区三区四区| 美女诱惑一区| 亚洲一区成人| 999在线观看精品免费不卡网站| 欧美一区免费视频| 国产亚洲一级| 亚洲精品综合| 136国产福利精品导航网址| 欧美日韩天堂| 欧美激情五月| 欧美在线3区| 久久久久久色| 久久精品日产第一区二区三区| 亚洲精选久久| 雨宫琴音一区二区在线| 国产一区二区三区四区hd| 欧美日韩国产高清视频| 欧美成人免费在线| 女人色偷偷aa久久天堂| 久久久久久精| 蜜桃精品久久久久久久免费影院| 一区二区日本视频| 一区二区久久| 国产精品入口| 欧美亚洲一级| 久久久福利视频| 午夜精品剧场| 国产精品国色综合久久| 亚洲视频一二| 亚洲国内在线| 国产日韩欧美一区二区| 在线亚洲成人| 亚洲一区二区在线看| 性欧美精品高清| 久久婷婷丁香| 午夜精品网站| 一区精品久久| 夜夜爽av福利精品导航 | 久久三级福利| 欧美日韩18| 尤物在线精品| 国产精品免费区二区三区观看| 亚洲欧美不卡| 午夜欧美视频| 亚洲精品1234| 免费一级欧美片在线播放| 久久影院亚洲| 在线观看一区| 国产精品视频| 欧美精品国产| 99国产精品久久久久久久成人热| 国产精品日韩一区二区| 久久亚洲欧美| 在线欧美亚洲| 久久精品国产第一区二区三区最新章节 | 羞羞视频在线观看欧美| 欧美69视频| av成人黄色| 欧美+日本+国产+在线a∨观看| 激情综合电影网| 亚洲欧美久久久久一区二区三区| 欧美精品一区在线| 亚洲人成人一区二区三区| 亚洲一区激情| 国产精品大片| 亚洲一区二区三区午夜| 影音先锋中文字幕一区| 美女尤物久久精品| 亚洲精品九九| 欧美日韩国产一区精品一区| 国产精品综合| 亚洲高清网站| 欧美久久久久久| 免费试看一区| 国产一区二区精品| 精品电影一区| 欧美日韩精品| 久久综合九色综合欧美狠狠| 国产亚洲欧美一区二区| 亚洲福利国产| 欧美激情1区| 亚洲免费在线| 在线综合亚洲| 一区二区三区成人精品|