GreenPlum數(shù)據(jù)分布機(jī)制
一、介紹
GreenPlum是Coodinator/Segment架構(gòu),集群通常由一個(gè)Coodinator節(jié)點(diǎn)和一個(gè)standby coodinator節(jié)點(diǎn)以及多個(gè)segment節(jié)點(diǎn)組成,其中數(shù)據(jù)放置在segment節(jié)點(diǎn)上。Coodinator是整個(gè)數(shù)據(jù)庫的入口,客戶端只會連接到Coodinator上并執(zhí)行相關(guān)查詢操作,Standby節(jié)點(diǎn)為Coordinator提供高可用支持,Mirror為primary的備。
數(shù)據(jù)默認(rèn)使用hash分布。
二、插入時(shí)數(shù)據(jù)是如何分布分發(fā)到哪個(gè)segment?
1、插入操作時(shí)值的由來
我們看下insert語句的執(zhí)行計(jì)劃:
它沒有Motion節(jié)點(diǎn),僅1個(gè)slice,即root slice。Result節(jié)點(diǎn)是將insert的值物化以構(gòu)建TupleTableSlot進(jìn)行插入。也就是先物化然后insert。
這里主要關(guān)注物化的值從哪來。Result節(jié)點(diǎn)的執(zhí)行堆棧為:
ExecInterpExpr計(jì)算物化值步驟:EEOP_CONST;EEOP_ASSIGN_TMP。也就是得到個(gè)常量值放到resultslot中。
通過gdb跟蹤每個(gè)segment進(jìn)程,可以了解到這里的常量值就是INSERT語句中VALUES的值。
此時(shí)就可以了解到,SQL語句中VALUES值是直接發(fā)送到對于的segment的。
那么,具體是如何發(fā)送的呢?
2、值的發(fā)送
發(fā)送函數(shù)由cdbdisp_dispatchX完成。我們來跟蹤這個(gè)函數(shù),看下是如何分發(fā)到指定的segment的。
了解GP原理的話,我們知道發(fā)送前需要先在master和segment之間建立一個(gè)連接,然后將執(zhí)行計(jì)劃通過這個(gè)連接發(fā)送過去。建立連接就是創(chuàng)建Gang,由函數(shù)AssignGangs完成。
最終創(chuàng)建Gang建立連接會調(diào)用函數(shù)cdbgang_createGang_async。下面我們看下這個(gè)函數(shù)是如何建立連接的。
cdbconn_doConnectStart連接時(shí),SegmentDatabaseDescriptor segdbDesc中的segment_database_info::GpSegConfigEntry存有segment的端口及IP等信息,即gp_segment_configuration系統(tǒng)表中內(nèi)容;诖诵畔,可以建立連接。
那么segdbDesc內(nèi)容從何而來?
從上述堆棧,segdbDesc是Gang中的db_descriptors[i],也就是buildGangDefinition函數(shù)生成:
SliceTable.slices[0].segments為入?yún)egments鏈表,存儲著執(zhí)行該slice的所有segment的content id。segdbDesc是根據(jù)content id從系統(tǒng)表gp_segment_config來獲取。
到這里可以知道,通過SliceTable中的segment鏈表得到該slice的segment的content。Insert僅一個(gè)slice,insert分發(fā)到執(zhí)行該insert的segment,content就是該segment的content id。通過該content id從gp_segment_configuration系統(tǒng)表中得到相關(guān)port、IP等信息,從而據(jù)此在master和segment之間建立連接。構(gòu)建鏈接后,insert語句通過此鏈接發(fā)送到對應(yīng)的segment。
那么content id又是如何與分布鍵聯(lián)系起來呢?
經(jīng)過分析,由函數(shù)DirectDispatchUpdateContentIdsForInsert來完成映射:
constvalue為分布鍵的key值,然后通過cdbhash函數(shù)通過系統(tǒng)hash函數(shù)將key值進(jìn)行hash,最終得到hashcode,該值即為content id,放到contentIds鏈表中。
三、基礎(chǔ)知識1、gp_segment_configuration
2、Gang、slice與QueryDesc之間關(guān)系
原文標(biāo)題 : GreenPlum數(shù)據(jù)分布機(jī)制

發(fā)表評論
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
最新活動更多
-
7月8日立即報(bào)名>> 【在線會議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身機(jī)器人動力電池技術(shù)應(yīng)用大會
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會2025(第六屆)機(jī)器人及智能工廠展
-
免費(fèi)參會立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 AI 眼鏡讓百萬 APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺語言動作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國跨境支付十大趨勢
- 5 中國最具實(shí)力AI公司TOP10
- 6 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 7 國家數(shù)據(jù)局局長劉烈宏調(diào)研格創(chuàng)東智
- 8 AI的夏天:第四范式VS云從科技VS地平線機(jī)器人
- 9 張勇等人退出阿里合伙人
- 10 深圳跑出40億超級隱形冠軍:賣機(jī)器人年入6.1億,港股上市