崗位職責(zé)
1、負(fù)責(zé)大數(shù)據(jù)計(jì)算平臺(tái)構(gòu)建和大數(shù)據(jù)應(yīng)用研發(fā);2年級(jí)以上大數(shù)據(jù)平臺(tái)和數(shù)據(jù)倉(cāng)庫(kù)建設(shè)經(jīng)驗(yàn),有數(shù)據(jù)治理、數(shù)據(jù)分析、數(shù)據(jù)建模、數(shù)據(jù)倉(cāng)庫(kù)的設(shè)計(jì)及實(shí)施經(jīng)驗(yàn)優(yōu)先;
2、負(fù)責(zé)IT業(yè)務(wù)體系的數(shù)據(jù)模型建設(shè),負(fù)責(zé)數(shù)據(jù)模型的設(shè)計(jì),ETL的實(shí)施,性能優(yōu)化;
3、完成各類系統(tǒng)建設(shè)所需要的離線/實(shí)時(shí)數(shù)據(jù)清洗、加工、推送;
4、優(yōu)化數(shù)據(jù)接入、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)計(jì)算服務(wù)框架;
5、基于業(yè)務(wù)需求和應(yīng)用場(chǎng)景,設(shè)計(jì)和實(shí)現(xiàn)公司大數(shù)據(jù)相關(guān)產(chǎn)品等。
任職要求
1、計(jì)算機(jī)、統(tǒng)計(jì)學(xué)類等相關(guān)專業(yè),大專及以上學(xué)歷,,2年及以上工作經(jīng)驗(yàn);
2、熟悉Hadoop、HBase、HIVE,?Spark等大數(shù)據(jù)組件,能夠進(jìn)行常用的數(shù)據(jù)開發(fā)工作以及MapReduce并行編程框架;
3、精通至少一種編程語(yǔ)言(java、python、scala),熟悉shell,具備mvc、NIO高并發(fā)框架、組件化、服務(wù)化、單元化等架構(gòu)思路;
3、熟練進(jìn)行Linux系統(tǒng)管理維護(hù)、熟悉數(shù)據(jù)倉(cāng)庫(kù)理論和架構(gòu)、數(shù)據(jù)模型建設(shè),至少2個(gè)以上的基于大數(shù)據(jù)平臺(tái)的數(shù)倉(cāng)項(xiàng)目建設(shè)經(jīng)驗(yàn);
4、掌握至少一種分布式搜索引擎技術(shù),如:Elasticsearch、Solr;
5、?熟悉實(shí)時(shí)數(shù)據(jù)處理相關(guān)技術(shù)組件,如Flume、Kafka、Storm、Flink、Spark等;
6、了解數(shù)據(jù)挖掘開發(fā)工具,如SPSS、SASR;
7、善于業(yè)務(wù)理解,具備快速解決問(wèn)題的能力,能夠承受工作中的壓力;
8、具有較強(qiáng)的學(xué)習(xí)能力,具備團(tuán)隊(duì)合作精神,與算法、UI、Java工程師協(xié)作完成項(xiàng)目目標(biāo)。