AI 研究arXiv cs.LGSIGNAL 442F1F

日志解析抹去分布式GPU故障关键线索

原始标题 / When Log Parsing Removes What Matters: Detecting Failures in Distributed GPU Workloads

该研究提出GF-Bench框架,用于生成分布式GPU工作负载中的多样故障,并评估现有序列模型与LLM在解析日志和原始日志上的故障检测效果。新在于揭示通用日志解析虽降低开销,却会丢弃分布式执行上下文,导致检测不可靠;对成本敏感的场景有参考价值。

01 摘要

作者构建了GF-Bench,含220个双GPU执行样本,覆盖正常、CUDA OOM和持续拖慢故障。基于解析日志,DeepLog、LogAnomaly、LogBERT和LogPrompt均不能可靠检测两类故障,最高F1为0.667;LogPrompt在原始日志上F1达0.983,但输入token用量和单次成本分别增至9.0倍和8.7倍。作者观点是通用日志解析在分布式GPU故障检测中造成效果与效率的显著权衡。

02 关键点

  1. GF-Bench提供220个双GPU标注执行,覆盖正常、CUDA OOM与持续拖慢故障。
  2. 基于解析日志的四种方法无法可靠检测两类故障,最高总体F1为0.667。
  3. LLM在原始日志上F1达0.983,但输入token用量和单次成本分别增至9.0倍与8.7倍。
回到一手来源

AI GENERATED SUMMARY / DISCOVERED BY ARXIV CS.LG

阅读原文 ↗