Cloudflare 的 Big Pineapple 是 1.1.1.1 公共 DNS 解析服務背後的快取平台,任何時間都存著超過 2,500 億筆 DNS 快取。規模大到每筆資料只要多浪費 1 byte,全球伺服器加起來就會多占超過 250GB 記憶體。

工程團隊接連調整五個儲存細節,包括把寫入後不再增長的 Rust `Vec` 與 `String` 換成固定大小結構、將 DNS 回應的三組紀錄合併到同一塊連續記憶體、刪除與查詢網域重複的 owner name,以及重新處理不同 DNS record type 的大小差異。最後再把 record data 改成帶有長度前綴的 DNS wire-format bytes,減少額外指標、配置空間與重複序列化。

五項改動完成後,每筆快取的淨占用從 953 bytes 降到 420 bytes,減少 56%。Cloudflare 在 2026 年 5 月中到 7 月初逐步導入後,單一執行個體的 p99 記憶體占用也從 9.3GB 降到 5.3GB;整個全球系統的 working set 合計少了約 100TB,相當於 130 台各配有 768GB DDR5 的 Gen 13 伺服器。

資料排得更緊密也沒有犧牲速度。快取寫入量從每秒 62.5 萬筆提高到 89.3 萬筆,增加 43%;查詢延遲則從 828 奈秒降到 670 奈秒,減少 19%。Cloudflare 表示,空出來的記憶體會再用來擴充快取容量,在不增加總記憶體用量的情況下提高命中率,並減少向上游 DNS 伺服器發出的查詢。