作者：Sean Heelan
在這篇文章中，我將介紹 sysgrok，這是一個(gè)研究原型，我們正在研究大型語言模型 (LLM)（例如 OpenAI 的 GPT 模型）如何應(yīng)用于性能優(yōu)化、根本原因分析和系統(tǒng)工程領(lǐng)域的問題。 你可以在 GitHub 上找到它。?
Sysgrok 是做什么的？
sysgrok 可以執(zhí)行以下操作：
- 采用分析器識別出最昂貴的函數(shù)和進(jìn)程，解釋每個(gè)函數(shù)和進(jìn)程提供的功能，并提出優(yōu)化建議
- 獲取主機(jī)和主機(jī)遇到的問題的描述，自動調(diào)試問題并建議補(bǔ)救措施和進(jìn)一步的操作
- 獲取已由探查器注釋的源代碼，解釋熱路徑，并提出提高代碼性能的方法
Sysgrok 的功能針對三大類解決方案：
- 作為性能、可靠性和其他系統(tǒng)相關(guān)數(shù)據(jù)的分析引擎。 在這種模式下，LLM （Large Language Model）會收到工程師使用的其他一些工具（例如 Linux 命令行工具、分析器或可觀察性平臺）的輸出。 Sysgrok 的目標(biāo)是使用 LLM 解釋、總結(jié)并形成有關(guān)系統(tǒng)狀態(tài)的假設(shè)。 然后，它還可能建議優(yōu)化或補(bǔ)救措施。
- 作為針對特定性能和可靠性相關(guān)任務(wù)的專注的自動化解決方案。 在性能工程和 SRE 工作中，有些任務(wù)會反復(fù)出現(xiàn)。 對于這些，我們可以構(gòu)建有針對性的自動化助手，工程師或 sysgrok 本身可以直接使用它們來解決其他問題。 例如，在性能工程中，回答以下問題：“Is there a faster version of this library with equivalent functionality （該庫是否有具有同等功能的更快版本）？” 。 sysgrok 直接支持這一點(diǎn)。
- 作為性能和可靠性問題的自動化根本原因分析工具。 前兩類解決方案是數(shù)據(jù)分析、解釋、搜索和總結(jié)的組合。 至關(guān)重要的是，它們以集中的方式應(yīng)用于工程師自己收集的數(shù)據(jù)。 在 sysgrok 中，我們還在研究使用 LLM 解決問題的第三種方法，其中 LLM 與其他工具相結(jié)合，自動執(zhí)行給定問題的根本原因分析和解決方案。 在這種方法中，LLM 會得到問題描述（例如，“The web server is experiencing high latency（Web 服務(wù)器正在經(jīng)歷高延遲）”），并被告知可以使用哪些功能（例如，“ssh to host”、“execute arbitrary Linux command line tools”） ）。 然后，LLM 被要求采取行動，利用其可用的能力，對問題進(jìn)行分類。 這些操作由 sysgrok 執(zhí)行，LLM 被要求分析結(jié)果、對問題進(jìn)行分類、提出補(bǔ)救措施并建議后續(xù)步驟。
Sysgrok 仍處于早期階段，但我們發(fā)布它是因?yàn)樗呀?jīng)可用于各種任務(wù) - 我們希望它將成為其他人執(zhí)行類似實(shí)驗(yàn)的便捷基礎(chǔ)。 如果你有任何想法，請隨時(shí)向我們發(fā)送 PR 或在 GitHub 上提交問題！
使用 LLM 分析性能問題
LLM，例如 OpenAI 的 GPT 模型，在過去幾個(gè)月中迅速流行，為各種產(chǎn)品提供自然語言界面和核心引擎，從客戶助理聊天機(jī)器人到數(shù)據(jù)操作助手，再到編碼助理。 這種趨勢的一個(gè)有趣的方面是，基本上所有這些應(yīng)用程序都使用現(xiàn)成的通用模型，這些模型沒有針對當(dāng)前的任務(wù)進(jìn)行專門訓(xùn)練或微調(diào)。 相反，它們接受了整個(gè)互聯(lián)網(wǎng)大范圍的培訓(xùn)，因此適用于各種各樣的任務(wù)。
那么，我們能否利用這些模型來幫助進(jìn)行性能分析、調(diào)試和優(yōu)化呢？ 有多種方法可用于調(diào)查性能問題、對根本原因進(jìn)行分類并提出優(yōu)化方案。 但從本質(zhì)上講，任何性能分析工作都將涉及查看各種工具（例如 Linux 命令行工具或可觀察平臺）的輸出，并解釋該輸出以形成有關(guān)系統(tǒng)狀態(tài)的假設(shè)。 GPT 模型訓(xùn)練的材料包括軟件工程、調(diào)試、基礎(chǔ)設(shè)施分析、操作系統(tǒng)內(nèi)部結(jié)構(gòu)、Kubernetes、Linux 命令及其用法以及性能分析方法。 因此，這些模型可用于總結(jié)、解釋和假設(shè)性能工程師日常遇到的數(shù)據(jù)和問題，這可以加快工程師進(jìn)行分析的速度。
我們可以更進(jìn)一步，超越純粹將 LLM 用于工程師自己的調(diào)查過程中的數(shù)據(jù)分析和問題回答。 正如我們稍后將在本文中展示的那樣，LLM 本身可用于在某些情況下驅(qū)動該流程，由 LLM 決定運(yùn)行哪些命令或查看哪些數(shù)據(jù)源來調(diào)試問題。
演示
有關(guān) sysgrok 支持的全套功能，請查看 GitHub 存儲庫。 總的來說，它支持三種解決問題的方法：
方法一：作為性能、可靠性和其他系統(tǒng)相關(guān)數(shù)據(jù)的分析引擎
在這種模式下，LLM 會收到工程師使用的另一個(gè)工具的輸出，例如 Linux 命令行工具、分析器或可觀察平臺。 sysgrok 的目標(biāo)是解釋、總結(jié)并提出補(bǔ)救措施。
例如，topn 子命令采用分析器報(bào)告的最昂貴的函數(shù)，解釋輸出，然后建議優(yōu)化系統(tǒng)的方法。
該視頻還展示了 sysgrok 提供的聊天功能。 當(dāng)提供 –chat 參數(shù)時(shí)，sysgrok 將在 LLM 的每次響應(yīng)后進(jìn)入聊天會話。
此功能還可以普遍應(yīng)用于 Linux 命令行工具的輸出。 例如，在《60 秒 Linux 性能分析》一文中，Brendan Gregg 概述了 SRE 在首次連接到遇到性能或穩(wěn)定性問題的主機(jī)時(shí)應(yīng)運(yùn)行的 10 個(gè)命令。 analyzecmd 子命令將要連接的主機(jī)和要執(zhí)行的命令作為輸入，然后為用戶分析和總結(jié)命令的輸出。 我們可以使用它來自動化 Gregg 描述的過程，并向用戶提供 10 個(gè)命令生成的所有數(shù)據(jù)的一段摘要，從而省去他們必須逐一查看命令輸出的麻煩。
?
方法 2：作為針對特定性能和可靠性相關(guān)任務(wù)的集中式自動化解決方案
在性能工程和 SRE 工作中，有些任務(wù)會反復(fù)出現(xiàn)。 對于這些，我們可以構(gòu)建有針對性的自動化助手，工程師或 sysgrok 本身可以直接使用它們來解決其他問題。
例如，findfaster 子命令將庫或程序的名稱作為輸入，并使用 LLM 查找更快、等效的替代品。 這是性能工程中非常常見的任務(wù)。
?
Sysgrok 中這種方法的另一個(gè)示例是 explainfunction 子命令。 該子命令采用庫的名稱和該庫中的函數(shù)。 它解釋了該庫的用途及其常見用例，然后解釋了該函數(shù)。 最后，如果該庫和函數(shù)消耗大量 CPU 資源，它會建議可能的優(yōu)化。
?
方法 3：作為性能和可靠性問題的自動化根本原因分析工具
LLM 的用途不僅限于集中回答問題、總結(jié)和類似任務(wù)。 它也不限于一次性使用，即提出一個(gè)單一的、孤立的問題。 sysgrok debughost 子命令演示了如何將 LLM 用作代理中的 “大腦”，以實(shí)現(xiàn)自動解決問題的目標(biāo)。 在此模式下，LLM 嵌入到一個(gè)進(jìn)程中，該進(jìn)程使用 LLM 來決定如何調(diào)試特定問題，并使其能夠連接到主機(jī)、執(zhí)行命令和訪問其他數(shù)據(jù)源。
?
debughost 命令可能是 sysgrok 目前最具實(shí)驗(yàn)性的部分。 它展示了在性能分析自動化代理的道路上邁出的一步，但要實(shí)現(xiàn)這一目標(biāo)還需要大量的研發(fā)工作。
結(jié)論
在這篇文章中，我介紹了 sysgrok，這是一種新的開源人工智能助手，用于分析、理解和優(yōu)化系統(tǒng)。 我們還討論了 sysgrok 實(shí)現(xiàn)的三大類方法：文章來源：http://www.zghlxwxcb.cn/news/detail-520211.html
- 用于性能、可靠性和其他系統(tǒng)相關(guān)數(shù)據(jù)的分析引擎：請參閱 topn、stacktrace、analyzecmd 和 code 子命令。
- 針對特定性能和可靠性相關(guān)任務(wù)的集中式自動化解決方案：請參閱 explainprocess、explainfunction 和 findfaster 子命令。
- 針對性能和可靠性問題的自動根本原因分析：請參閱 debughost 子命令。
你可以在 GitHub 上找到 sysgrok 項(xiàng)目。 請隨意創(chuàng)建 PR 和問題，或者如果你想討論一般 LLM 的項(xiàng)目或應(yīng)用，你可以通過 Sean.heelan@elastic.co 直接與我聯(lián)系。文章來源地址http://www.zghlxwxcb.cn/news/detail-520211.html
到了這里，關(guān)于開源 sysgrok — 用于分析、理解和優(yōu)化系統(tǒng)的人工智能助手的文章就介紹完了。如果您還想了解更多內(nèi)容，請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
