解密云計算背后的挑戰：字節跳動是如何進行大規模服務器集群質量運營的？
伴隨近些年云計算行業的蓬勃發展，各大云廠商運營的服務器集群迎來了快速增長，龐大的服務器集群不僅僅是數字的堆砌，更是數字化時代的基石。然而，隨著服務器運營數量增加和硬件技術復雜度增大，對線上服務的穩定性構成了嚴峻挑戰，服務器質量管理工作的重要性日益凸顯。
特別是近兩年AI大模型應用的興起，為保障千卡甚至萬卡以上GPU集群的訓練任務連續性，服務器運營質量工作面臨著前所未有的挑戰和機遇。
在這個背景下，探討如何有效運營大規模服務器集群成為了云計算行業的熱點話題。從硬件的選型到日常的維護，從質量的監控到故障的應對，都需要精心規劃和扎實開展。
如何未雨綢繆、精益求精地開展大規模服務器集群的線上硬件運營質量工作？
2024年6月28日-29日，第二十三屆 GOPS 全球運維大會暨 XOps 技術創新峰會2024 · 北京站即將舉行。
來自字節跳動服務器運營質量工程師，陳海超老師將帶來《大規模服務器集群的線上質量運營實踐》主題演講，結合多年服務器運營工作經驗，對大規模服務器集群線上質量運營實踐進行分享和探討。
演講主題：大規模服務器集群的線上質量運營實踐
陳海超
字節跳動
服務器運營 質量工程師
聽眾收益
1、了解線上質量在服務器運營中的重要性
2、了解服務器線上質量體系的建立
3、了解線上質量運營實踐和重點專項介紹
4、展望線上質量運營的發展趨勢
議題簡介
近些年，隨著互聯網迅猛發展，特別是云計算爆發式增長，各大云計算廠商的服務器運營總量劇增，陸續形成多家超過百萬級服務器的大規模集群。在數量增長的同時，服務器型號和配置也隨著業務應用場景多樣化而層出不窮，服務器底層硬件器件也在快速迭代。
因此，難免遇到各類服務器相關的質量問題，嚴重時甚至威脅業務的穩定性。特別是近兩年的AI大模型應用的興起，集群規模在千卡甚至萬卡以上規模，為保障整個訓練任務的連續性，對服務器穩定性提出更高要求，線上硬件運營質量工作尤為重要。
本主題，將結合多年服務器運營工作經驗，對大規模服務器集群線上質量運營實踐進行分享和探討。
個人簡介
陳海超，在字節負責服務器線上運營質量工作，包括質量體系建設、數據分析、以及質量問題處理和改進。
曾負責大規模服務器集群的硬件監控標準制定與運營流程建設、故障分析平臺搭建；主導過CPU網卡硬盤GPU等關鍵部件的質量數據分析與專項質量提升；深度參與A100/A800/H800等大模型訓練集群的質量重保；具備豐富的大規模服務器集群的運營和質量提升經驗。
曾擔任華為服務器兼容性測試工程師、售后支持負責人，組織并攻關解決國內外運營商、互聯網、金融等領域重點客戶的服務器疑難問題；具備豐富的服務器硬件、OS兼容性問題處理經驗。
