在今天發(fā)布的博文中，Meta 工程團隊展示了名為透明內(nèi)存分流( Transparent Memory Offloading ，簡稱 TMO)的Linux 內(nèi)核技術(shù)，目前已經(jīng)在 Facebook/Meta服務(wù)器中投入使用。在 Meta 的數(shù)據(jù)中心內(nèi)，這種 TMO功能在其數(shù)百萬臺服務(wù)器中為每臺服務(wù)器節(jié)省了 20~32% 的內(nèi)存。

對于 TMO 技術(shù)，Meta 官方對其的描述為：

一種新的 Linux 內(nèi)核機制，可實時測量由于CPU、內(nèi)存和 I/O 資源短缺而導(dǎo)致的工作丟失。在此信息的指導(dǎo)下，在沒有任何應(yīng)用知識的情況下，TMO 會自動調(diào)整內(nèi)存量以卸載到異構(gòu)設(shè)備，例如壓縮內(nèi)存或SSD。它根據(jù)設(shè)備的性能特征和應(yīng)用程序?qū)^慢內(nèi)存訪問的敏感性來執(zhí)行此操作。 TMO 不僅從應(yīng)用程序容器而且從提供基礎(chǔ)設(shè)施級功能的 Sidecar 容器中全面識別卸載機會。TMO 已經(jīng)在生產(chǎn)環(huán)境中運行了一年多，在我們龐大的數(shù)據(jù)中心機群中的數(shù)百萬臺服務(wù)器上節(jié)省了 20% 到 32% 的總內(nèi)存。我們已經(jīng)成功地將 TMO 的操作系統(tǒng)組件上傳到 Linux 內(nèi)核中。

Linux 內(nèi)核方面的工作包括內(nèi)核中的壓力失速信息 (PSI)，然后在用戶空間中，他們將“Senpai”作為用戶空間代理。

分流通常是在 NVMe 固態(tài)驅(qū)動器上完成的，從每 GB 費用來看它比服務(wù)器內(nèi)存更便宜。即將推出的具有 Compute Express Link (CXL) 的服務(wù)器平臺在使用透明內(nèi)存卸載方面也具有很大的潛力。

關(guān)鍵詞： 透明內(nèi)存分流 數(shù)百萬臺服務(wù)器 數(shù)據(jù)中心 操作系統(tǒng)組件