• 回答数

    2

  • 浏览数

    99

驾驶马桶去飞行
首页 > 工程师考试 > 大数据运维工程师

2个回答 默认排序
  • 默认排序
  • 按时间排序

阿滋猫波斯猫

已采纳

大数据工程师有不少细分方向,不同的方向需要具备不同的知识结构,通常情况下大数据工程师分为四个具体的工作领域,分别是大数据底层平台研发、大数据应用开发、大数据分析和大数据运维,其中大数据平台研发工程师的数量占比较少,属于大数据领域的高端人才,往往从业者在研究生期间主攻的方向就是大数据平台研发。

大数据应用开发工程师是大数据领域一个比较热门的岗位,由于目前大数据正在处在落地应用的阶段,所以有大量的传统应用需要进行大数据改造,因此大数据应用开发岗位有较多的人才需求。这个岗位需要掌握的知识结构包括大数据平台体系结构,比如目前常见的Hadoop、Spark平台,以及众多组件的功能和应用,另外还需要掌握至少一门编程语言,比如Java、Python、Scala等,这些编程语言是可以开发落地应用的。

大数据分析工程师是大数据领域非常重要的岗位,因为大数据的核心之一是数据价值化,而数据价值化的核心则在于数据的分析和应用,所以数据分析是大数据应用的一个重点所在。大数据分析工程师需要掌握的知识结构包括算法设计、编程语言以及呈现工具,算法设计是大数据分析师需要掌握的重点内容,而编程语言的作用则是完成算法的实现。另外,大数据分析师还需要掌握一些常见的分析工具,比如一些常见的BI工具,在一些比较简单的场景下BI工具能完成大量的工作,并生成呈现界面。看一个使用Python中scipy库的应用:

大数据运维工程师的主要工作内容是搭建大数据平台、部署大数据功能组件、配置网络环境和硬件环境、维护大数据平台,大数据运维工程师需要具备的知识结构包括计算机网络、大数据平台体系结构、编程语言(编写运维脚本)等,通常情况下,大数据运维工程师也需要对数据库有深入的了解。

大数据是我的主要研究方向之一,目前我也在带大数据方向的研究生,我会陆续在头条写一些关于大数据方面的文章,感兴趣的朋友可以

大数据运维工程师

357 评论(9)

shishan786

事件管理:目标是在服务出现异常时尽可能快速的恢复服务,从而保障服务的可用性;同时深入分析故障产生的原因,推动并修复服务存在的问题,同时设计并开发相关的预案以确保服务出现故障时可以高效的止损。问题发现:设计并开发高效的监控平台和告警平台,使用机器学习、大数据分析等方法对系统中的大量监控数据进行汇总分析,以期在系统出现异常的时候可以快速的发现问题和判断故障的影响。问题处理:设计并开发高效的问题处理平台和工具,在系统出现异常的时候可以快速/自动决策并触发相关止损预案,快速恢复服务。问题跟踪:通过分析问题发生时系统的各种表现(日志、变更、监控)确定问题发生的根本原因,制定并开发预案工具。变更管理:以可控的方式,尽可能高效的完成产品功能的迭代的变更工作。配置管理:通过配置管理平台(自研、开源)管理服务涉及到的多个模块、多个版本的关系以及配置的准确性。发布管理:通过构建自动化的平台确保每一次版本变更可以安全可控地发布到生产环境。容量管理:在服务运行维护阶段,为了确保服务架构部署的合理性同时掌握服务整体的冗余,需要不断评估系统的承载能力,并不断优化之。容量评估:通过技术手段模拟实际的用户请求,测试整个系统所能承担的最大吞吐;通过建立容量评估模型分析压力测试过程中的数据以评估整个服务的容量。容量优化:基于容量评估数据,判断系统的瓶颈并提供容量优化的解决方案。比如通过调整系统参数、优化服务部署架构等方法来高效的提升系统容量。架构优化:为了支持产品的不断迭代,需要不断的进行架构优化调整。以确保整个产品能够在功能不断丰富和复杂的条件下,同时保持高可用性。

277 评论(15)

相关问答