• <acronym id="mz9d1"><output id="mz9d1"></output></acronym>

    <sub id="mz9d1"><ol id="mz9d1"><nobr id="mz9d1"></nobr></ol></sub>
        1. <sup id="mz9d1"></sup>
          每日經濟新聞
          要聞

          每經網首頁 > 要聞 > 正文

          直擊WAIC 2025 | 讓大模型算力像電力一樣隨處可得?后摩智能CEO吳強:端邊大模型機會巨大

          2025-07-27 14:59:56

          7月26日,WAIC 2025在上海開幕,后摩智能展出了其M50系列產品,該芯片專為AI大模型推理設計,面向AI PC、智能終端等場景。后摩智能CEO吳強表示,未來大模型將向推理和端邊智能遷移,后摩智能通過存算一體技術,推動AI大模型在端邊側實現離線可用、數據保密。吳強還透露,公司已啟動下一代DRAM-PIM技術研發,旨在提升AI算力普及。

          每經記者|陳婷    每經實習編輯|余婷婷    

          7月26日,“2025世界人工智能大會暨人工智能全球治理高級別會議”(WAIC 2025)在上海開幕,國產算力的進展是各方關注的核心議題之一。

          在后摩智能展臺,《每日經濟新聞》記者看到,后摩智能M50系列產品首次亮相,后摩智能M50芯片與力謀?BX50計算盒子、力擎LQ50 Duo M.2卡等旗下核心產品一同位于展臺的核心位置。

          作為主打端邊大模型和存算一體的芯片企業,后摩智能這次帶來的M50芯片專為大模型推理設計,主要面向AI PC(人工智能個人電腦)、智能終端等場景。

          “未來大模型有兩個重要發展趨勢:一是大模型的重心逐漸從訓練向推理遷移。二是從云端智能逐漸向邊端或者端邊智能遷移。”7月25日,后摩智能CEO(首席執行官)吳強對包括《每日經濟新聞》記者在內的媒體表示。他認為,未來的計算格局有可能是端(終端設備)、邊(邊緣計算)、云(云計算)的混合體,90%的數據處理可能會在端和邊。

          WAIC 2025 后摩智能展臺  圖片來源:每經記者 陳婷 攝

          公開資料顯示,后摩智能創立于2020年,創立早期定位為基于存算一體技術的大算力AI(人工智能)芯片研發企業。創始人吳強擁有美國普林斯頓大學博士學位,曾任地平線CTO(首席技術官),早年曾任職于AMD、Facebook。

          近年來,國內涌現了不少“存算一體”企業,作為該方向的早期探索者,后摩智能建立起護城河了嗎?又是什么促使其在兩年前轉向專注端邊大模型AI芯片?

          “不應該拼價格,拼的是性價比”

          吳強將M50芯片視為后摩智能過去兩年交出的一份答卷。

          據介紹,M50芯片實現了160TOPS INT8、100TFLOPS bFP16的物理算力,搭配最大48GB內存與153.6 GB/s的超高帶寬,典型功耗僅10W,相當于手機快充的功率,能讓PC、智能語音設備、機器人等智能移動終端高效運行1.5B到70B參數的本地大模型,實現了“高算力、低功耗、即插即用”。

          除了M50芯片,后摩智能此次發布的產品矩陣形成了覆蓋端側到邊緣的多元算力方案。力擎LQ50 Duo M.2卡以口香糖大小的標準M.2規格,為AI PC、陪伴機器人等移動終端提供“即插即用”的端側AI能力。

          在吳強看來,存算一體技術是后摩智能的立身之本。

          根據光大證券的相關研報,存算一體技術是指將計算邏輯直接嵌入到存儲單元中,使數據在存儲器內完成部分或全部計算任務,從而減少數據在存儲器與處理器之間的傳輸。這種技術可以顯著降低數據傳輸延遲和功耗,提高系統的整體性能。

          2023年初,吳強在接受采訪時曾表示,國產替代的企業可以對標海外的某類產品,但絕不能用同樣的技術路徑進行照搬,如英偉達、AMD等國際巨頭的研發、工程、供應鏈能力遠超過初創企業,硬碰硬難以取得成功,創業公司需要另辟蹊徑,以一種差異化的技術路線來應對和巨頭們之間的競爭。

          據了解,當前,后摩智能通過存算一體技術與大模型的深度融合,推動AI大模型在端邊側實現“離線可用、數據留痕不外露”。

          作為存算一體方向的早期奔跑者,后摩智能已經明確了當下的發展路徑。

          吳強稱,M50芯片的發布是后摩智能現階段邁出的重要的一步,后面會推出更多的芯片去解決端邊大模型的算力和功耗問題以及帶寬問題。

          “長期來說,后摩希望定位在端邊AI計算?!眳菑姳硎?,后摩智能希望做出能效比更好的端邊芯片,用更好的能效比,解決客戶的一些問題。

          在他看來,M50的發布只是一個開始,“我們的目標是讓大模型算力像電力一樣隨處可得、隨取隨用?!?/p>

          有觀點認為,2025年或是端側AI的爆發元年。在這一賽道,后摩智能的市場競爭力是什么?

          “我的觀點是不應該拼價格,我們拼的是性價比。”吳強表示,功耗敏感、成本敏感,是端邊的特色。他提到,在端邊,只要對客戶創造價值,就有人愿意買單。

          “端邊大模型蘊藏著很大的機會”

          值得一提的是,2023年下半年,后摩智能的目標市場發生過轉向。

          2023年5月,后摩智能推出了國內首款存算一體智駕芯片后摩鴻途H30,其AI物理算力、功耗等多項數據一度驚艷了市場,為快速發展的智能汽車產業帶來了全新的解決方案。

          當時,后摩智能選擇了切入智能駕駛領域。后摩智能方面在當時表示,智能駕駛是一個具象化的場景,存算一體芯片從該場景切入也有一些鮮明的特點與優勢。

          后摩智能創始人兼CEO吳強博士   圖片來源:每經記者 陳婷 攝

          然而,吳強很快就發現了這一目標市場存在的問題。

          “2023年下半年,整個自動駕駛賽道非常卷,格局逐漸穩定,給新入局的機會越來越少?!眳菑姳硎荆瑸榱梭w現存算一體的優勢,后摩智能的一代芯片算力做得很大,忽略了當時市場的需求。

          吳強解釋稱,算力大就意味著成本高,可2023年下半年都在講價格、講低成本。在此大背景下,(當時推出的芯片)算力太超前、太冗余了。

          后摩智能很快就看到了新的機會。

          據悉,2023年,后摩智能就得出了一個結論,即“端邊的大模型蘊藏著很大的機會”。

          “無論是商業還是個人,端邊的AI都有可能成為更懂你的AI。因為它本身是有很多天生的優勢,盡管剛剛開始,大模型剛剛開始,端邊剛剛開始,但是它本身有更好的實時響應,更低的使用成本,更安全的數據隱私,以及更好的個人的用戶體驗。未來這會成為一個趨勢。”吳強說。

          得出這一結論之后,2024年初,后摩智能快速把第一代芯片調整了一版,推出了M30,針對大模型做了一些調整和優化。

          隨著M50系列產品的推出,后摩智能已經確認了新的目標市場。據了解,本次推出的M50產品可廣泛應用于消費終端、智能辦公、智能工業等多元領域,且均能在離線狀態下實現全流程本地處理,從源頭杜絕數據聯網傳輸風險。

          吳強還向記者披露了當下后摩智能的意向客戶,包括聯想的下一代AI PC產品、訊飛聽見的下一代智能語音設備以及中國移動的全新一代的5G+AI邊緣計算設備等。

          就日漸火熱的具身智能給芯片行業帶來的機會,吳強認為,機器人包括具身智能機器人(特指陪伴機器人),更像是十年前的智能駕駛,是一個新興的垂直賽道,格局還未定,“大家還有機會”。

          不過,他也提到,由于具身智能的發展還處于比較早期,“專門為它做一個芯片養活自己是不可能的,它還有很長的過程。但我看好它的未來”。

          據了解,面向未來,后摩智能已啟動下一代DRAM-PIM技術研發,通過將計算單元直接嵌入DRAM陣列,使計算與存儲的協同更加緊密高效。該技術將突破1TB/s片內帶寬,能效較現有水平再提升三倍,推動百億參數大模型在終端設備實現普及,讓更強大的AI算力能夠融入PC、平板等日常設備。

          如需轉載請與《每日經濟新聞》報社聯系。
          未經《每日經濟新聞》報社授權,嚴禁轉載或鏡像,違者必究。

          讀者熱線:4008890008

          特別提醒:如果我們使用了您的圖片,請作者與本站聯系索取稿酬。如您不希望作品出現在本站,可聯系我們要求撤下您的作品。

          歡迎關注每日經濟新聞APP

          每經經濟新聞官方APP

          2

          0

          国产日本精品在线观看_欧美日韩综合精品一区二区三区_97国产精品一区二区三区四区_国产中文字幕六九九九
        2. <acronym id="mz9d1"><output id="mz9d1"></output></acronym>

          <sub id="mz9d1"><ol id="mz9d1"><nobr id="mz9d1"></nobr></ol></sub>
              1. <sup id="mz9d1"></sup>
                最新先锋资源网站在线观看 | 最精品国产手机在线 | 亚洲中文字幕页面 | 亚洲欧美在线黑人 | 亚洲综合久r在线 | 日韩AV中文字幕网址 |