博客專欄

        EEPW首頁 > 博客 > 支持端側AI大模型已成新趨勢,將推動智能手機內存容量突破20GB

        支持端側AI大模型已成新趨勢,將推動智能手機內存容量突破20GB

        發布人:芯智訊 時間:2023-11-24 來源:工程師 發布文章

        11月16日消息,根據外媒wccftech報導,預計2024年將會流行的一件事就是終端AI的使用,該功能目前已內置于2024年發表的多款芯片組中,包括高通Snapdragon 8 Gen 3、聯發科天璣9300和三星Exynos 2400。

        一份新報告提出,支持終端側AI大模型功能的智能手機將需要比以前更大容量的內存。因此,內置端側AI大模型功能的Android智能手機其內存容量至少需要20GB 將成為趨勢。

        報告稱,雖然8GB內存仍然是當前Android智能手機市場的主流。然而,市場上很多旗艦智能手機也已經達到了比現階段多數筆記本電腦或臺式機具有更多的內存容量。接下來,為了讓設備上的AI更好的生產圖像,Android手機將需要至少1GB的內存。原因是為具有設備上人工智能助理,以及其他功能的設備將需要超過20GB的內存才能確保更流暢的操作。

        在此前天璣9300的預溝通會上,聯發科無線通信事業部AI技術高級經理莊世榮就曾向芯智訊解釋稱,一款130億參數的AI大模型,大概需要13GB 內存 (INT8)才能運行,而智能手機本身運行安卓操作系統通常就要占用4GB的內存,如果還要相對流暢的運行其他常規APP任務并保活,還需要6GB的內存,即總的手機內存容量需求將達到23GB。

        但是目前主流的千元智能手機內存容量大多數都是在8GB/12GB左右,大多數旗艦智能手機的內存容量也才到16GB,僅有極少數旗艦手機內存容量達到了24GB。所以,要想在智能手機端運行130億參數的AI大模型將會面臨著內存限制的問題。

        即便采用先進的內存壓縮技術,要流程的運行130億參數的AI大模型,智能手機也需要至少16GB的內存容量,如要要運行更大規模的330億參數的AI大模型,內存容量就需要進一步提升到20GB以上。

        image.png

        報導強調,過去市場上就已經有內存超過20GB的手機。比如,中國手機品牌一加先前也發布了一款24GB大容量內存的手機,但當時設備上的AI并不是焦點。然而,根據這份報告,如果期望人工智能功能能夠按預期工作,那么2024年的智慧型手機可能會配備更高的內存容量。不過,現階段不能確定是否所有Android手機廠商都會效仿。

        報道進一步強調,這里需要注意的另一件事是,考慮到各個Android手機廠商對AI的投資,2024年發表的設備將重點放在AI上已成為顯而易見的事情。

        編輯:芯智訊-浪客劍


        *博客內容為網友個人發布,僅代表博主個人觀點,如有侵權請聯系工作人員刪除。



        關鍵詞: 芯片

        相關推薦

        技術專區

        關閉
        主站蜘蛛池模板: 常德市| 克山县| 横山县| 兴城市| 阿克陶县| 张掖市| 阜新市| 绵竹市| 泰州市| 西昌市| 广河县| 二手房| 依兰县| 新野县| 潜江市| 鹤山市| 宝兴县| 观塘区| 手游| 临城县| 潼关县| 资兴市| 江阴市| 石家庄市| 旬邑县| 井研县| 岢岚县| 河北区| 雅江县| 鹤岗市| 炉霍县| 富阳市| 米脂县| 长海县| 博罗县| 泽库县| 南陵县| 丹巴县| 江达县| 两当县| 同德县|