大數據工程師(即大數據開發工程師)的職能如下:
1,大數據采集(爬蟲),大數據清洗(ETL工程師),大數據建模(算法工程師),大數據分析(數據分析師)。
2.管理、分析、展示、應用等技術(大數據開發工程師)。
3.研究和應用大數據平臺的架構、技術和標準。
4.設計、開發、集成和測試大數據軟件和硬件系統。
5.管理、維護和確保大數據系統的穩定運行。
6.監控、管理和保障大數據的安全。
7.為大數據提供技術咨詢和技術服務。
擴展數據:
大數據工程師(即大數據開發工程師)的技能要求:
1,精通Java技術知識,熟悉Spark、kafka、Hive、HBase、zookeeper、HDFS、MR等應用的設計開發。
2.了解python/shell等腳本語言。
3.熟悉大數據平臺的架構,對ETL和數據倉庫有壹定的了解。
4.有數據可視化、數據分析和數學模型建立經驗者優先。
5.有開發爬蟲系統經驗者優先。