近日，英特爾與第四范式聯(lián)合實(shí)驗室以及新加坡國立大學(xué)的最新聯(lián)合研究成果——基于英特爾? 傲騰?持久內存的超高維特征工程內存數據庫，被國際頂級數據庫學(xué)術(shù)會(huì )議VLDB（Very Large Data Base）作為常規研究論文錄取。該成果以解決在線(xiàn)預估系統的業(yè)務(wù)需求和痛點(diǎn)為目的，針對如何設計底層數據庫組件來(lái)高效支撐超高維（萬(wàn)億維）特征在線(xiàn)預估系統，以及如何基于英特爾?傲騰?持久內存進(jìn)一步解決業(yè)務(wù)和系統設計的痛點(diǎn)等兩方面進(jìn)行創(chuàng )新性設計和全面優(yōu)化。
如今，越來(lái)越多的企業(yè)意識到了AI在企業(yè)經(jīng)營(yíng)、決策中的重要作用，AI迎來(lái)了落地應用爆發(fā)期。作為AI落地的關(guān)鍵組件，超高維在線(xiàn)預估系統基于實(shí)時(shí)提取的超高維特征和預先訓練的模型對業(yè)務(wù)數據進(jìn)行實(shí)時(shí)評估，因而被廣泛應用在欺詐交易識別、個(gè)性化推薦等在線(xiàn)實(shí)時(shí)推理業(yè)務(wù)場(chǎng)景中。為了支撐高性能的超高維實(shí)時(shí)特征存取需求，第四范式自主研發(fā)了超高維實(shí)時(shí)特征工程內存數據庫FEDB（Feature Engineering Database）。作為面向AI硬實(shí)時(shí)場(chǎng)景的分布式特征數據庫，FEDB所具備的高效計算、讀寫(xiě)分離、高并發(fā)、高性能查詢(xún)等特性，使得特征工程的效率和性能達到最大化。然而，伴隨著(zhù)業(yè)務(wù)的持續擴張和數據量的指數級增長(cháng)，FEDB所消耗的硬件資源呈幾何倍數增加，并且無(wú)法規避服務(wù)中斷后恢復周期長(cháng)、高延遲等潛在弊端與風(fēng)險，難以高效、低成本的滿(mǎn)足不斷增長(cháng)的業(yè)務(wù)硬實(shí)時(shí)需求：
-高性能超高維特征存取對計算資源消耗巨大：為了保障線(xiàn)上服務(wù)的性能，特征工程內存數據庫對內存的容量要求極高，企業(yè)通常需要配備20-30臺機器以滿(mǎn)足高性能計算需求所需的內存容量，總體擁有成本（TCO）居高不下。
-服務(wù)中斷恢復所需長(cháng)周期嚴重影響企業(yè)線(xiàn)上服務(wù)質(zhì)量：企業(yè)線(xiàn)上服務(wù)對服務(wù)質(zhì)量的要求極高，然而通常情況下服務(wù)中斷（軟硬件錯誤宕機，例行維護等）往往需要幾個(gè)小時(shí)的恢復時(shí)間，業(yè)務(wù)長(cháng)時(shí)間掉線(xiàn)嚴重影響線(xiàn)上服務(wù)質(zhì)量。
-長(cháng)尾延遲：使用基于內存的特征工程數據庫保障了線(xiàn)上服務(wù)的高性能，但是數據備份依然會(huì )落盤(pán)到性能較差的外存儲設備上，其導致某些場(chǎng)景下的長(cháng)尾延遲會(huì )嚴重影響服務(wù)質(zhì)量。
為解決以上問(wèn)題，第四范式在充分發(fā)揮超高維實(shí)時(shí)特征工程數據庫FEDB價(jià)值的基礎上，引入英特爾? 傲騰?持久內存技術(shù)，以及創(chuàng )新性的持久化數據結構，全面支撐AI硬實(shí)時(shí)、低成本、高計算性能等需求的實(shí)現。
雙方基于英特爾? 傲騰?持久內存，使用App Direct Mode，開(kāi)發(fā)優(yōu)化持久化數據結構，完全摒棄了FEDB原有的基于外存儲設備的數據持久化架構，不僅充分利用了持久內存大容量、持久性的特性，而且將持久化操作帶來(lái)的性能損耗降至最小。
該工作主要的創(chuàng )新性?xún)?yōu)化技術(shù)包括“持久化智能指針”以及利用原子操作“持久化比較并交換”（Atomic Persistent Compare-And-Swap"）的解決方案。一方面，持久化智能指針巧妙地利用了64位操作系統中64位寬指針不被使用的低4位來(lái)標記目標地址的數據是否已持久化；另一方面，針對“比較并交換操作”（CAS），傳統指令缺少持久化語(yǔ)義，因而無(wú)法在持久內存中直接作為帶有持久化特性的原子操作來(lái)使用的難點(diǎn)，雙方引入了新的“讀前持久化”（flush-before-read）概念，利用持久化智能指針，保證“持久化比較并交換” （Persistent CAS）正確性的同時(shí)，最大化減少持久化帶來(lái)的性能損耗。
此項工作的研究成果表明，基于持久內存的FEDB可有效滿(mǎn)足企業(yè)超高維特征在線(xiàn)預估場(chǎng)景的需求，在保證線(xiàn)上推理服務(wù)超高性能的同時(shí)，大幅降低了企業(yè)AI整體投入成本，提升了線(xiàn)上服務(wù)的質(zhì)量，進(jìn)一步掃清了企業(yè)AI規?；瘧玫恼系K。
-傲騰?持久內存的加持滿(mǎn)足超高維特征工程數據庫對大內存的需求。下圖顯示了在論文實(shí)驗中使用的機器配置，在8 TB數據的業(yè)務(wù)場(chǎng)景中，基于持久內存的FEDB的硬件成本僅為基于純內存版本的41.6%。
硬件成本比較
-在服務(wù)中斷情況下實(shí)現數據快速恢復，服務(wù)恢復時(shí)間減少99.7%，全面降低對線(xiàn)上服務(wù)質(zhì)量的影響。如在論文中描述的結果（見(jiàn)下圖，D-FEDB為原來(lái)內存版本的FEDB，PA-FEDB為基于持久內存優(yōu)化的FEDB版本），在實(shí)際業(yè)務(wù)場(chǎng)景中，其數據恢復時(shí)間大幅度的從原來(lái)的六個(gè)小時(shí)縮短到只有一分鐘左右。
基于持久化內存的數據恢復時(shí)間比較 （PA-FEDB vs. D-FEDB）
-基于持久內存進(jìn)行持久化數據結構設計的FEDB舍棄了原有純內存方案以及基于外存儲設備的備份機制，實(shí)現了長(cháng)尾延遲（TP-9999）接近20%的改善（見(jiàn)下圖，D-FEDB為原來(lái)的基于內存的FEDB ，PA-FEDB為基于持久內存優(yōu)化的FEDB）。
基于持久化內存的長(cháng)尾延遲比較（PA-FEDB vs. D-FEDB）
未來(lái)，英特爾與第四范式聯(lián)合實(shí)驗室還將在軟硬一體技術(shù)、面向AI的高性能計算等方面展開(kāi)深入合作，結合英特爾領(lǐng)先的軟硬件產(chǎn)品以及第四范式在A(yíng)I領(lǐng)域的深厚積累以及研發(fā)優(yōu)勢，推動(dòng)AI技術(shù)的創(chuàng )新和落地，加速企業(yè)規?；?a href="http://m.haipeigood.com/product/hypercycle.html" target="_blank">AI應用進(jìn)程，共同引領(lǐng)AI產(chǎn)業(yè)化發(fā)展。
