AI的背后是算力,算力的盡頭是電力。那么,生成式AI到底有多耗電?當下訓練AI大模型使用的主流算力芯片英偉達H100芯片,一張最大功耗為700瓦,這意味著運行一小時就要耗電0.7度。以GPT-3為例,據估計其訓練過程使用了大約1287兆瓦時(也就是128.7萬度)電力。在數據中心領域,傳統數據中心的耗能依舊是最大的,但隨著生成式人工智能引爆全球,大模型數量激增加上ChatGPT使用率飆升,AI電力消耗大幅增加,推動了數據中心耗電量快速抬升。據《紐約客》雜志披露,OpenAI旗下聊天機器人ChatGPT日耗
關鍵字:
大模型 核電 AI
剛克服監管阻力被英偉達收購,以色列人工智能(AI)初創公司Run:ai就要將旗下軟件開源了。美東時間12月30日周一,Run:ai在自家官網公布,目前僅在基于英偉達系統運行的Run:ai軟件將開源。這意味著,AMD和英特爾等英偉達的對手將能獲取Run:ai的代碼,調整它用于采用英偉達競品硬件的計算機。Run:ai 表示:“我們渴望在迄今所取得成就的基礎上再接再厲,擴大我們優秀的團隊,擴大我們的產品和市場覆蓋范圍。開源軟件將讓它(軟件)能夠擴展到整個 AI 生態系統。”Run:ai的軟件幫助管理和優化AI硬
關鍵字:
英偉達 AI 軟件開源
隨著人工智能技術的飛速發展,各行各業都在積極探索 AI 技術的應用,以便實現產業的智能化轉型。在消費類電子產品市場,AI 技術已經成為推動產品創新和市場增長的關鍵因素,AI 技術的應用不僅能夠提升產品的功能水平,還為用戶帶來了更加便捷、個性化的操作以及使用體驗。在家電領域,AI 技術也為產品提供了許多想象空間。恩智浦深耕家電領域,在家電產品中有許多 MCU 的成功案例,應用在家電的控制板、馬達驅動、屏幕顯示、觸摸按鍵等功能。在人工智能技術飛速發展的今天,恩智浦也沒有落下,跟上時代的步伐,推出了帶有 NPU
關鍵字:
恩智浦 MCX N947 NPU AI 咖啡膠囊識別
12 月 27 日消息,“深度求索”官方公眾號昨日(12 月 26 日)發布博文,宣布上線并同步開源 DeepSeek-V3 模型,用戶可以登錄官網 chat.deepseek.com,與最新版 V3 模型對話。援引博文介紹,DeepSeek-V3 是一個 6710 億參數的專家混合(MoE,使用多個專家網絡將問題空間劃分為同質區域)模型,激活參數 370 億,在 14.8 萬億 token 上進行了預訓練。多項評測成績超越 Qwen2.5-72B 和 Llama-3.1-405B 等開源模型,
關鍵字:
DeepSeek-V3 AI 大語言模型 人工智能
12月20日,為期5天的ARM與高通訴訟案迎來結果,特拉華州聯邦法院的陪審團作出裁定,在關鍵問題上支持高通 —— 稱高通提供了優勢證據,以證明包括收購Nuvia獲得專利在內的CPU研發符合其ALA協議;同時,ARM未能充分證明高通違反了Nuvia的ALA協議。案件的未來走向仍然充滿變數雖然陪審團在裁定上傾向支持高通,但是他們尚未在Nuvia是否違反其ALA協議方面作出裁定。
關鍵字:
高通 ARM PC 協議 架構
隨著消費者對更安全、更智能且高度網聯的汽車需求日益增長,汽車行業正經歷快速變化。同時,由于自動駕駛、電動汽車以及先進駕駛輔助系統 (ADAS) 的興起,汽車系統的整體復雜性顯著增加。行業必須應對這些新的安全挑戰,在提供優質駕駛體驗的同時確保最終用戶的安全。什么是功能安全?功能安全對于確保系統在響應輸入時能夠正確運行至關重要,尤其在汽車和工業物聯網領域。它通過采用嚴格的流程和標準,在降低殘余風險方面發揮了重要作用。這一機制確保了系統在各種條件下能夠安全運行,包括防止因車輛中電子電氣 (E/E) 系統故障而導
關鍵字:
Arm 功能安全
國泰君安證券研報認為,ASIC(專用集成電路)針對特定場景設計,有配套的通信互聯和軟件生態,雖然目前單顆ASIC算力相比最先進的GPU仍有差距,但整個ASIC集群的算力利用效率可能會優于可比的GPU,同時還具備明顯的價格、功耗優勢,有望更廣泛地應用于AI推理與訓練。看好ASIC的大規模應用帶來云廠商ROI提升,同時也建議關注定制芯片產業鏈相關標的。AI ASIC具備功耗、成本優勢,目前仍處于發展初期,市場規模有望高速增長。
關鍵字:
AI ASIC
近日,Cloudera發布2025年五大科技趨勢預測,揭示了在未來一年生成式AI和AI Agent等創新技術的發展趨勢。其中包括生成式AI的應用將趨向務實,AI Agent將在商業決策中發揮重要作用。同時,企業面臨著AI生成數據激增的挑戰,亟需提升數據治理能力。企業需要強大的數據管理和多云策略來訪問、存儲和分析數據,從而獲取數據的最大價值,充分發揮AI潛力。預測一:生成式AI熱度減退,企業將采取更務實的AI策略預計到2025年,企業將在生成式AI應用上分化為兩大陣營。一類是已成功應用生成式AI的企業,通過
關鍵字:
Cloudera AI Agent AI智能體
曾經對美中之間不斷加速的AI軍備競賽警告的谷歌前CEO艾瑞克.施密特(Eric Schmidt)近日受訪時指出,中國人工智能(AI)的快速發展令人驚訝,先前美國AI技術對中國有2~3年的領先優勢,現在已縮小至不到1年,而且縮小的速度正在加快。施密特在接受《美國廣播公司》(ABC)電視訪問時表示,中美之間的競爭已達到關鍵的轉折點,盡管美國目前在人工智能開發方面處于領先地位,但中國已大幅縮小了差距,曾經是2-3年的技術優勢已經縮小到不到一年,這標志著中國AI技術能力正在以空前的速度前進,此一新的進展其對全球安
關鍵字:
谷歌 AI
市場研究咨詢機構Omdia的最新數據顯示,微軟已成為英偉達旗艦產品Hopper芯片的最大買家,其購買的數量遠遠領先于其他科技領域競爭對手。分析師估計,微軟今年購買了48.5萬顆英偉達「Hopper」架構芯片,是英偉達在美國第二大客戶Meta的兩倍多,后者購買了22.4萬顆。此外,微軟也領先于競爭對手亞馬遜和谷歌,亞馬遜和谷歌分別購買了19.6萬顆和16.9萬顆Hopper芯片。數據還顯示,特斯拉和xAI總共采購的芯片數量要比亞馬遜略高一些。自兩年前聊天機器人ChatGPT首次亮相以來,大型科技公司相繼斥資
關鍵字:
英偉達 AI 芯片
隨著人工智能技術的廣泛應用,移動產品對內存性能的需求日益增長,尤其需要相較LPDDR5X更為高效的數據處理能力以支撐端側AI模型的運行。一直懸而未決的LPDDR6標準也進入最終的敲定期,預計到2025年下半年我們有望看到采用新一代LPDDR6的產品上市。此前有報道稱,高通第四代驍龍8平臺將支持LPDDR6,以進一步提升定制Oryon內核的性能。LPDDR6帶來了哪些變化?目前,LPDDR最新的主流版本是LPDDR5(6.4Gbps),于2019年2月發布。之后,業界又陸續發布了小幅更新、改進版的LPDDR
關鍵字:
LPDDR6 AI 內存 CAMM2
近日,谷歌正式發布其最先進的人工智能模型Gemini 2.0,旨在推動AI智能體(AI Agents)時代的到來。Gemini 2.0具備多項全新功能,包括多模態輸出,支持原生圖像生成和音頻輸出,還能直接整合使用Google Search和Google Maps等工具。這些技術突破將全面提升用戶在谷歌產品生態中的交互體驗。與此同時,谷歌推出了第六代張量處理單元(TPU),即Trillium TPU。這款全新TPU在Gemini 2.0的訓練中發揮了關鍵作用,為其復雜功能提供了強大的計算支持。如今,Tril
關鍵字:
TPU AI
12月17日消息,曾是合作伙伴的高通和Arm本周將在法庭上就一項涉及Arm知識產權的許可協議展開對峙。此次審判預計將持續一周左右,法官將聽取Arm首席執行官Rene Haas和高通首席執行官Cristiano Amon的證詞。早在2022年,Arm就宣布對高通及其子公司Nuvia提起訴訟,控告高通侵犯了Arm專利。這起糾紛源于一場收購案,高通于2021年收購芯片公司Nuvia,Arm認為,Nuvia的這些設計在未經許可的情況下不得轉讓給高通使用。高通在完成對Nuvia的收購之后,并未重新向Arm獲取專利授
關鍵字:
ARM 高通
隨著人工智能?(AI)?技術的迅猛發展,云計算領域正在經歷顯著變革。愈發復雜的?AI?應用對計算解決方案的性能、效率和成本效益提出了更高要求。在云端部署工作負載的客戶正在重新評估其所需的基礎設施,以滿足現代工作負載需求,其中不僅包括提高性能和降低成本,還涵蓋了需符合監管要求或可持續發展目標的新能效基準。Arm?與亞馬遜云科技?(AWS)?長期合作,為實現性能更強勁、更高效和可持續的云計算提供專用芯片和計算技術。在近期舉行的?A
關鍵字:
Arm Neoverse AWS Graviton4 云計算
12 月 13 日消息,工信部決定成立部人工智能標準化技術委員會,編號為 MIIT / TC1,主要負責人工智能評估測試、運營運維、數據集、基礎硬件、軟件平臺、大模型、應用成熟度、應用開發管理、人工智能風險等領域行業標準制修訂工作。第一屆工業和信息化部人工智能標準化技術委員會由 41 名委員組成,秘書處由中國信息通信研究院承擔。姓名標委會職務工作單位職務 / 職稱鄭志明主任委員中國科學院院士余曉暉常務副主任委員中國信息通信研究院院長劉賢剛副主任委員中國電子技術標準化研究院副院長王蘊輝副主任委員工業和信息化
關鍵字:
人工智能 AI
ai on arm介紹
您好,目前還沒有人創建詞條ai on arm!
歡迎您創建該詞條,闡述對ai on arm的理解,并與今后在此搜索ai on arm的朋友們分享。
創建詞條
關于我們 -
廣告服務 -
企業會員服務 -
網站地圖 -
聯系我們 -
征稿 -
友情鏈接 -
手機EEPW
Copyright ?2000-2015 ELECTRONIC ENGINEERING & PRODUCT WORLD. All rights reserved.
《電子產品世界》雜志社 版權所有 北京東曉國際技術信息咨詢有限公司
京ICP備12027778號-2 北京市公安局備案:1101082052 京公網安備11010802012473