赫拉克里斯
大数据开发工程师是当前IT行业中最热门的职业之一，随着大数据技术的发展，其相关职业前景也非常广阔，可以从事以下几个方面的工作：1. 大数据开发：作为大数据开发工程师，主要负责构建和维护企业或团队的大数据平台，涉及到开发和部署大数据处理应用程序等技术工作。2. 大数据分析：通过对大数据进行分析，挖掘信息和预测趋势，使企业或团队能够做出更加明智的决策，并提供更好的产品和服务。3. 大数据架构师：负责设计和规划企业或团队的大数据架构，搭建适合当前业务的数据处理、存储和分析系统。通常还需要有强大的技术能力和计划能力。4. 数据仓库管理员：主要负责数据仓库环境的实施、维护以及日常管理。需要掌握关系型数据库的基本原理和操作方法，熟练运用SQL语言等。5. 云计算和大数据集成开发：负责将企业或团队的大数据平台迁移到云端，同时实现与其他系统和应用程序的集成，使企业数据更加安全、高效。总之，大数据开发工程师可以涉及到从数据分析到架构设计的多个领域，并且可以不断拓展自己的技能和领域，拥有广阔的职业发展前景。
新雨初晴水星
大数据开发工程师可以从事以下岗位：1. 大数据工程师：负责搭建大数据平台、开发和优化数据处理系统和数据仓库。2. 数据架构师：负责设计和管理企业的数据架构，确保数据在系统中的完整性和一致性。3. 数据仓库架构师：负责设计和开发数据仓库，使商业智能系统从中获取可靠数据以支持业务决策。4. 数据科学家：利用数据分析和统计技术帮助企业发现数据中的重要信息，提供商业洞察。5. 机器学习工程师：建立机器学习系统以自动化数据分析和预测，提供高效率和精度。6. 数据分析师：负责分析和解释数据，评估业务决策并提供指导建议。7. 数据治理专员：开发和执行数据治理策略，确保数据质量和信息安全。8. 数据质量工程师：负责创建和执行数据质量检查和验证规则，保证数据准确性和完整性。9. 数据基础架构工程师：管理和优化企业数据基础设施的表现和可靠性，以支持各种业务用例。10. 大数据系统管理员：监测和维护大数据平台性能，并对系统中的错误进行排除，确保系统满足业务需求。
思美味520
1.大数据工程师工作中会做什么？集群运维：安装、测试、运维各种大数据组件数据开发：细分一点的话会有ETL工程师、数据仓库工程师等数据系统开发：偏重Web系统开发，比如报表系统、推荐系统等这里面有很多内容其实是十分重合的，下面大致聊一下每一块内容大致需要学什么，以及侧重点。2.集群运维数据工程师，基本上是离不开集群搭建，比如hadoop、Spark、Kafka，不要指望有专门的运维帮你搞定，新组件的引入一般都要自己来动手的。因此这就要求数据工程师了解各种大数据的组件。由于要自己的安装各种开源的组件，就要求数据工程师要具备的能力： Linux 。要对Linux比较熟悉，能各种自己折腾着玩。由于现在的大数据生态系统基本上是 JVM系的，因此在语言上，就不要犹豫了，JVM系的Java和Scala基本上跑不掉，Java基本上要学的很深，Scala就看情况了。3. ETLETL在大数据领域主要体现在各种数据流的处理。这一块一方面体现在对一些组件的了解上，比如Sqoop、Flume、Kafka、Spark、MapReduce;另一方面就是编程语言的需要，Java、Shell和Sql是基本功。4.系统开发我们大部分的价值最后都会由系统来体现，比如报表系统和推荐系统。因此就要求有一定的系统开发能力，最常用的就是 Java Web这一套了，当然Python也是挺方便的。需要注意的是，一般数据开发跑不掉的就是各种提数据的需求，很多是临时和定制的需求，这种情况下， Sql就跑不掉了，老老实实学一下Sql很必要。如何入门？前面提到了一些数据工程师会用到的技能树，下面给一个入门的建议，完全个人意见。1.了解行业情况刚开始一定要了解清楚自己和行业的情况，很多人根本就分不清招聘信息中的大数据和数据挖掘的区别就说自己要转行，其实是很不负责的。不要总是赶热点，反正我就是经常被鄙视做什么大数据开发太Low，做数据就要做数据挖掘，不然永远都是水货。2.选择学习途径如果真是清楚自己明确地想转数据开发了，要考虑一下自己的时间和精力，能拿出来多少时间，而且在学习的时候最好有人能多指点下，不然太容易走弯路了。在选择具体的学习途径时，要慎重一点，有几个选择：自学报班找人指点别的不说了，报班是可以考虑的，不要全指望报个辅导班就能带你上天，但是可以靠他帮你梳理思路。如果有专业从事这一行的人多帮帮的话，是最好的。不一定是技术好，主要是可沟通性强。3.学习路线学习路线，下面是一个大致的建议：第一阶段先具备一定的Linux和Java的基础，不一定要特别深，先能玩起来，Linux的话能自己执行各种操作，Java能写点小程序。这些事为搭建Hadoop环境做准备。学习Hadoop，学会搭建单机版的Hadoop，然后是分布式的Hadoop，写一些MR的程序。接着学学Hadoop生态系统的其它大数据组件，比如Spark、Hive、Hbase，尝试去搭建然后跑一些官网的Demo。Linux、Java、各种组件都有一些基础后，要有一些项目方面的实践，这时候找一些成功案例，比如搜搜各种视频教程中如何搞一个推荐系统，把自己学到的用起来。第二阶段到这里是一个基本的阶段了，大致对数据开发有一些了解了。接着要有一些有意思内容可以选学。数据仓库体系：如何搞数据分层，数据仓库体系该如何建设，可以有一些大致的了解。用户画像和特征工程：这一部分越早了解越好。一些系统的实现思路：比如调度系统、元数据系统、推荐系统这些系统如何实现。第三阶段下面要有一些细分的领域需要深入进行，看工作和兴趣来选择一些来深入进行分布式理论：比如Gossip、DHT、Paxo这些构成了各种分布式系统的底层协议和算法，还是要学一下的。数据挖掘算法：算法是要学的，但是不一定纯理论，在分布式环境中实现算法，本身就是一个大的挑战。各种系统的源码学习：比如Hadoop、Spark、Kafka的源码，想深入搞大数据，源码跑不掉。
优质工程师考试问答知识库
