解密云計算背后的挑戰：字節跳動(dòng)是如何進(jìn)行大規模服務(wù)器集群質(zhì)量運營(yíng)的？
伴隨近些年云計算行業(yè)的蓬勃發(fā)展，各大云廠(chǎng)商運營(yíng)的服務(wù)器集群迎來(lái)了快速增長(cháng)，龐大的服務(wù)器集群不僅僅是數字的堆砌，更是數字化時(shí)代的基石。然而，隨著(zhù)服務(wù)器運營(yíng)數量增加和硬件技術(shù)復雜度增大，對線(xiàn)上服務(wù)的穩定性構成了嚴峻挑戰，服務(wù)器質(zhì)量管理工作的重要性日益凸顯。
特別是近兩年AI大模型應用的興起，為保障千卡甚至萬(wàn)卡以上GPU集群的訓練任務(wù)連續性，服務(wù)器運營(yíng)質(zhì)量工作面臨著(zhù)前所未有的挑戰和機遇。
在這個(gè)背景下，探討如何有效運營(yíng)大規模服務(wù)器集群成為了云計算行業(yè)的熱點(diǎn)話(huà)題。從硬件的選型到日常的維護，從質(zhì)量的監控到故障的應對，都需要精心規劃和扎實(shí)開(kāi)展。
如何未雨綢繆、精益求精地開(kāi)展大規模服務(wù)器集群的線(xiàn)上硬件運營(yíng)質(zhì)量工作？
2024年6月28日-29日，第二十三屆 GOPS 全球運維大會(huì )暨 XOps 技術(shù)創(chuàng )新峰會(huì )2024 · 北京站即將舉行。
來(lái)自字節跳動(dòng)服務(wù)器運營(yíng)質(zhì)量工程師，陳海超老師將帶來(lái)《大規模服務(wù)器集群的線(xiàn)上質(zhì)量運營(yíng)實(shí)踐》主題演講，結合多年服務(wù)器運營(yíng)工作經(jīng)驗，對大規模服務(wù)器集群線(xiàn)上質(zhì)量運營(yíng)實(shí)踐進(jìn)行分享和探討。
演講主題：大規模服務(wù)器集群的線(xiàn)上質(zhì)量運營(yíng)實(shí)踐
陳海超
字節跳動(dòng)
服務(wù)器運營(yíng) 質(zhì)量工程師
聽(tīng)眾收益
1、了解線(xiàn)上質(zhì)量在服務(wù)器運營(yíng)中的重要性
2、了解服務(wù)器線(xiàn)上質(zhì)量體系的建立
3、了解線(xiàn)上質(zhì)量運營(yíng)實(shí)踐和重點(diǎn)專(zhuān)項介紹
4、展望線(xiàn)上質(zhì)量運營(yíng)的發(fā)展趨勢
議題簡(jiǎn)介
近些年，隨著(zhù)互聯(lián)網(wǎng)迅猛發(fā)展，特別是云計算爆發(fā)式增長(cháng)，各大云計算廠(chǎng)商的服務(wù)器運營(yíng)總量劇增，陸續形成多家超過(guò)百萬(wàn)級服務(wù)器的大規模集群。在數量增長(cháng)的同時(shí)，服務(wù)器型號和配置也隨著(zhù)業(yè)務(wù)應用場(chǎng)景多樣化而層出不窮，服務(wù)器底層硬件器件也在快速迭代。
因此，難免遇到各類(lèi)服務(wù)器相關(guān)的質(zhì)量問(wèn)題，嚴重時(shí)甚至威脅業(yè)務(wù)的穩定性。特別是近兩年的AI大模型應用的興起，集群規模在千卡甚至萬(wàn)卡以上規模，為保障整個(gè)訓練任務(wù)的連續性，對服務(wù)器穩定性提出更高要求，線(xiàn)上硬件運營(yíng)質(zhì)量工作尤為重要。
本主題，將結合多年服務(wù)器運營(yíng)工作經(jīng)驗，對大規模服務(wù)器集群線(xiàn)上質(zhì)量運營(yíng)實(shí)踐進(jìn)行分享和探討。
個(gè)人簡(jiǎn)介
陳海超，在字節負責服務(wù)器線(xiàn)上運營(yíng)質(zhì)量工作，包括質(zhì)量體系建設、數據分析、以及質(zhì)量問(wèn)題處理和改進(jìn)。
曾負責大規模服務(wù)器集群的硬件監控標準制定與運營(yíng)流程建設、故障分析平臺搭建；主導過(guò)CPU\網(wǎng)卡\硬盤(pán)\GPU等關(guān)鍵部件的質(zhì)量數據分析與專(zhuān)項質(zhì)量提升；深度參與A100/A800/H800等大模型訓練集群的質(zhì)量重保；具備豐富的大規模服務(wù)器集群的運營(yíng)和質(zhì)量提升經(jīng)驗。
曾擔任華為服務(wù)器兼容性測試工程師、售后支持負責人，組織并攻關(guān)解決國內外運營(yíng)商、互聯(lián)網(wǎng)、金融等領(lǐng)域重點(diǎn)客戶(hù)的服務(wù)器疑難問(wèn)題；具備豐富的服務(wù)器硬件、OS兼容性問(wèn)題處理經(jīng)驗。
