加速ai 文章 進(jìn)入加速ai技術(shù)社區(qū)

存算一體？要加速AI也許只需要外包內(nèi)存

• 現(xiàn)代社會(huì)越來越需要數(shù)據(jù)，尤其是隨著AI的使用持續(xù)呈指數(shù)級(jí)增長(zhǎng)。因此，確保足夠的內(nèi)存以及可持續(xù)支持該內(nèi)存的能力已成為一個(gè)主要問題。為了提升AI運(yùn)算的速度，存算一體技術(shù)逐漸成為主角。 不過，在存算一體盛行的AI計(jì)算領(lǐng)域里，一項(xiàng)違反直覺的進(jìn)步可能會(huì)使AI系統(tǒng)更快、更節(jié)能。軟件公司 Kove 找到了一種以顯著提高內(nèi)存效率的方式池化和動(dòng)態(tài)分配服務(wù)器內(nèi)存的方法，通過利用外部池化內(nèi)存來產(chǎn)生結(jié)果其速度比使用本地內(nèi)存更快。根據(jù)合作伙伴的數(shù)據(jù)顯示，Red Hat 使用Kove系統(tǒng)后延遲減少了9%
• 關(guān)鍵字： 存算一體  加速AI  外包內(nèi)存  軟件定義內(nèi)存  Kove