我们已经准备好了,你呢?

我们与您携手共赢,为您的企业形象保驾护航!

摘要:本文介绍了华为公司如何通过DLF(Distributed Logging Facility)技术重新执行作业。华为利用这项技术来优化作业流程,提高系统性能和可靠性,确保数据处理的高效性和准确性。

在华为云的数据治理与分析中,Data Flow Service (DLF) 扮演着重要的角色,它使得数据作业能够灵活地在不同的计算和存储资源间流动,在作业执行过程中,可能会因为各种原因导致失败或异常,这时就需要通过有效的机制来重新执行作业以确保数据的完整性和准确性,下面将详细介绍通过DLF重新执行作业的步骤和注意事项:

1、监控作业状态

查看运行情况:通过点击“运维调度 > 作业监控”,可以进入作业监控页面,从而查看所有作业的运行情况,该页面提供了作业的实时状态,包括成功、失败或运行中等。

详细记录查询:对于特定作业,点击作业名称可以进入该作业的运行记录页面,此处展示了更详细的运行信息,如执行时间、使用资源等,帮助用户更好地理解每次作业的具体情况。

2、日志分析定位问题

操作日志与运行日志:CDM(Cloud Desktop Manager)的操作日志主要记录用户的操作行为和云服务上报的操作,而运行日志则用于收集云服务运行过程中的信息。

日志含义与格式:了解具体日志的含义、命名规则及格式,能够帮助维护工程师或数据工程师快速解读日志,从而定位问题的根源。

3、处理失败实例

重跑失败实例:如果作业执行失败,可以选择将失败的作业实例进行重跑,这可以通过在作业监控页面找到失败的作业并选择相应的重试操作完成。

停止并重跑异常实例:对于异常的作业实例,先停止该实例后再进行重跑也是一个可行的方法,这有助于清除可能的错误状态或数据,从而避免再次失败。

4、配置和管理 DLF 桶

创建和使用桶:DataArts Studio 数据开发会将日志默认写到指定的 DLF 桶中,如果没有选择现有的OBS桶,系统会在首次运行时创建默认的桶,正确配置和管理这些桶是确保日志被正确记录和访问的关键。

5、并行执行和调度策略

控制并行数量:在 DLF 中,单个作业最多允许5个实例并行执行,控制合适的并行数量可以避免资源的过度消耗和作业间的不必要干扰。

调整调度周期:根据作业的实际执行时间,适当调整作业的调度周期,可以解决因实际执行时间过长导致的作业实例堆积问题。

在了解上述内容后,还需注意以下事项:

确保在重试作业前已经清楚识别并理解失败的原因,避免简单的重试可能带来的同样失败结果。

关注系统的资源使用情况,避免在重试作业时对其他正在运行的作业或系统总体性能造成影响。

通过DLF重新执行作业是一个涉及监控、日志分析、失败处理及资源配置等多个方面的复杂过程,每一步都需要细致的操作和考虑,以保证作业的顺利完成及其后续任务的正常运行。

FAQs

如何确定哪些作业需要重试?

在作业监控页面,失败或有异常的作业通常会被标记为红色或黄色,点击对应的作业名称,进入运行记录页面,可以看到具体的失败详情,包括失败时间、错误信息等,这有助于判断是否需要重试。

重试作业有哪些风险?

重试作业主要的风险包括可能重复处理数据而导致数据不一致,或者在未解决根本问题的情况下简单地重试可能导致同样的失败,在重试前应仔细分析失败原因并采取相应的措施。

免责声明:本站内容(文字信息+图片素材)来源于互联网公开数据整理或转载,仅用于学习参考,如有侵权问题,请及时联系本站删除,我们将在5个工作日内处理。联系邮箱:chuangshanghai#qq.com(把#换成@)

我们已经准备好了,你呢?

我们与您携手共赢,为您的企业形象保驾护航!

在线客服
联系方式

热线电话

132-7207-3477

上班时间

周一到周五

二维码
线