騰訊angel平臺(tái)是一款騰訊大數(shù)據(jù)部門發(fā)布的第三代計(jì)算平臺(tái)，它采用 Java 和 Scala 語(yǔ)言開(kāi)發(fā)，面向機(jī)器學(xué)習(xí)的高性能分布式計(jì)算框架。

 

　　騰訊Angel平臺(tái)采用了參數(shù)服務(wù)器架構(gòu)，解決了上一代框架的擴(kuò)展性問(wèn)題，支持?jǐn)?shù)據(jù)并行及模型并行的計(jì)算模式，能支持十億級(jí)別維度的模型訓(xùn)練。

【功能特色】

　　1、ParameterServer 功能

　　基于 Matrix/Vector 的模型自動(dòng)切分和管理，兼顧稀疏和稠密兩種格式

　　支持對(duì) Model 進(jìn)行 Push 和 Pull 操作，可以自定義復(fù)雜的 psFunc

　　提供多種同步控制機(jī)制（BSP/SSP/ASP）

　　2、開(kāi)發(fā)運(yùn)行

　　語(yǔ)言支持：系統(tǒng)基于 Scala 和 Java 開(kāi)發(fā)，用戶也可以自由選擇

　　部署方便：可以直接在 Yarn 社區(qū)版本中運(yùn)行，也支持本地調(diào)試模式

　　數(shù)據(jù)切分: 自動(dòng)切分讀取訓(xùn)練數(shù)據(jù)，默認(rèn)兼容了 Hadoop FS 接口

　　增量訓(xùn)練：訓(xùn)練過(guò)程中會(huì)自動(dòng) Checkpoint，而且支持加載模型后，增量訓(xùn)練

　　3、PS Service

　　只啟動(dòng) PSServer 和 PSAngent，為其他分布式計(jì)算平臺(tái)提供 PS 服務(wù)

　　基于 PS-Service，不需要修改 Spark 核心代碼，直接開(kāi)發(fā) Spark-on-Angel 算法，該模式無(wú)縫支持 Breeze 數(shù)值運(yùn)算庫(kù)

　　4、算法庫(kù)

　　集成 Logistic Regression，SVM，KMeans，LDA，MF，GBDT 等機(jī)器學(xué)習(xí)算法

　　多種優(yōu)化方法，包括 ADMM，OWLQN，LBFGS 和 GD

　　支持多種損失函數(shù)、評(píng)估指標(biāo)，包含 L1、L2 正則項(xiàng)

　　5、算法優(yōu)化

　　LDA 采用了 F+LDA 算法用于加速采樣的速度，同時(shí)利用流式參數(shù)獲取的方法減少網(wǎng)絡(luò)參數(shù)獲取的延遲

　　GBDT 使用兩階段樹(shù)分裂算法，將部分計(jì)算轉(zhuǎn)移到 PS，減少網(wǎng)絡(luò)傳輸，提升速度

標(biāo)簽： 騰訊軟件 開(kāi)源平臺(tái) angel平臺(tái) 編程框架