一、工作職責(zé)
1.負(fù)責(zé)公司的大數(shù)據(jù)處理平臺(tái)框架的設(shè)計(jì)及研發(fā)工作;
2.負(fù)責(zé)設(shè)計(jì)、構(gòu)建和優(yōu)化基于hadoop/Hbase的存儲(chǔ)平臺(tái)架構(gòu);
3.負(fù)責(zé)整體提升hadoop/Hbase集群的高可用性、高性能、高擴(kuò)展特性;
4.根據(jù)業(yè)務(wù)需求,提出最優(yōu)的技術(shù)解決方案;分解詳細(xì)的開發(fā)任務(wù),能配合其他項(xiàng)目制定開發(fā)計(jì)劃、開發(fā)文檔、開發(fā)流程圖;
5.負(fù)責(zé)帶領(lǐng)項(xiàng)目及培訓(xùn)團(tuán)隊(duì),指導(dǎo)技術(shù)團(tuán)隊(duì)完成數(shù)據(jù)規(guī)則的定義、數(shù)據(jù)模型的建立、數(shù)據(jù)清洗、數(shù)據(jù)遷移等工作。
6.負(fù)責(zé)數(shù)據(jù)架構(gòu)的規(guī)劃,并制定實(shí)施標(biāo)準(zhǔn)和規(guī)范,確保得到有效的執(zhí)行,同時(shí)保障數(shù)據(jù)以及文檔的質(zhì)量達(dá)到預(yù)定的標(biāo)準(zhǔn);
二、任職資格
1.5年以上軟件開發(fā)經(jīng)驗(yàn),3年以上Hadoop相關(guān)開發(fā)經(jīng)驗(yàn);
2.具備數(shù)據(jù)庫(kù)系統(tǒng)基本理論知識(shí),至少掌握一種主流商業(yè)數(shù)據(jù)庫(kù)產(chǎn)品如Oralce的管理和應(yīng)用,精通SQL語(yǔ)言,精通存儲(chǔ)過(guò)程;
3.對(duì)hadoop的Map/Reduce原理有深入研究,有相關(guān)項(xiàng)目的實(shí)際開發(fā)經(jīng)驗(yàn);
4.熟悉Hadoop、Hive和hbase、storm等開源項(xiàng)目;
5.?對(duì)基于hadoop的大數(shù)據(jù)處理體系有深入認(rèn)識(shí),具備相關(guān)產(chǎn)品(hadoop/storm?/hive/hbase)項(xiàng)目應(yīng)用研發(fā)經(jīng)驗(yàn),熟悉分布式系統(tǒng)、分布式計(jì)算系統(tǒng)的工作機(jī)制,能熟練掌握相關(guān)核心技術(shù)的工作機(jī)理;具有大規(guī)模數(shù)據(jù)平臺(tái),高并發(fā)?大型系統(tǒng),大數(shù)據(jù)等架構(gòu)設(shè)計(jì)和開發(fā)經(jīng)驗(yàn);
6.熟悉全文檢索技術(shù),如solr、lucene等使用;
7.具備數(shù)據(jù)管理和存儲(chǔ)相關(guān)項(xiàng)目和系統(tǒng)的開發(fā)經(jīng)驗(yàn),具有豐富的數(shù)據(jù)分析、挖掘和數(shù)據(jù)倉(cāng)庫(kù)建模的項(xiàng)目實(shí)踐經(jīng)驗(yàn);
8.具有良好的溝通、組織和領(lǐng)導(dǎo)能力,優(yōu)秀的分析問(wèn)題和解決問(wèn)題的能力,對(duì)解決具有挑戰(zhàn)性問(wèn)題充滿激情,具備強(qiáng)烈的進(jìn)取心和優(yōu)秀團(tuán)隊(duì)合作精神;