簡介：用于可視化和跟蹤機器學習實驗的工具。Weights & Biases 是一個機器學習平臺，供開發(fā)人員更快地構(gòu)建更好的模型。使用 W&B 的輕量級、可互操作的工具快速跟蹤實驗、對數(shù)據(jù)集進行版本和迭代、評估模型性能、重現(xiàn)模型、可視化結(jié)果和發(fā)現(xiàn)回歸，并與同事分享結(jié)果。

github:wandb/wandb：??用于可視化和跟蹤機器學習實驗的工具。此存儲庫包含 CLI 和 Python API。 (github.com)

官網(wǎng)：Weights & Biases For Academic Research (wandb.ai)

api&入門&教程：W&B Docs | Weights & Biases Documentation (wandb.ai)

什么是W&B？

Weights & Biases （W&B） 是 AI 開發(fā)者平臺，提供用于訓練模型、微調(diào)模型和利用基礎模型的工具。

在 5 分鐘內(nèi)設置 W&B，然后快速迭代機器學習管道，確信您的模型和數(shù)據(jù)在可靠的記錄系統(tǒng)中得到跟蹤和版本控制。

此圖概述了 W&B 產(chǎn)品之間的關系。

W&B 模型是一組輕量級、可互操作的工具，用于機器學習從業(yè)者訓練和微調(diào)模型。

實驗：機器學習實驗跟蹤
模型注冊表：集中管理生產(chǎn)模型
啟動：縮放和自動化工作負載
掃描：超參數(shù)調(diào)優(yōu)和模型優(yōu)化
W&B Prompts 用于調(diào)試和評估 LLM。

W&B平臺是一組強大的核心構(gòu)建塊，用于跟蹤和可視化數(shù)據(jù)和模型，并傳達結(jié)果。

項目：版本資產(chǎn)和軌道沿襲
表：可視化和查詢表格數(shù)據(jù)
報告：記錄和協(xié)作處理您的發(fā)現(xiàn)
編織查詢和創(chuàng)建數(shù)據(jù)可視化效果
您是W&B的新用戶嗎？

?演示視頻：Weights & Biases End-to-End Demo (youtube.com)

使用以下資源開始探索 W&B：

簡介筆記本：運行快速示例代碼，在 5 分鐘內(nèi)跟蹤實驗
快速入門：閱讀有關如何以及在何處將 W&B 添加到代碼的快速概述
瀏覽我們的集成指南和我們的 W&B Easy Integration YouTube 播放列表，了解如何將 W&B 與您首選的機器學習框架集成。
查看 API 參考指南，了解有關 W&B Python 庫、CLI 和 Weave 操作的技術規(guī)范。
W&B如何運作？
如果您是 W&B 的首次用戶，我們建議您按以下順序閱讀以下部分：

了解 W&B 的基本計算單位 Runs。
使用實驗創(chuàng)建和跟蹤機器學習實驗。
了解 W&B 靈活而輕量級的構(gòu)建塊，用于使用 Artifacts 進行數(shù)據(jù)集和模型版本控制。
自動執(zhí)行超參數(shù)搜索，并使用掃描探索可能的模型空間。
使用模型管理管理從訓練到生產(chǎn)的模型生命周期。
使用我們的數(shù)據(jù)可視化指南，可視化跨模型版本的預測。
組織 W&B 運行、嵌入和自動化可視化、描述您的發(fā)現(xiàn)，并使用報告與協(xié)作者共享更新。

快速入門

安裝 W&B，并在幾分鐘內(nèi)開始跟蹤機器學習實驗。

1. 創(chuàng)建一個帳戶并安裝 W&B

在開始之前，請確保創(chuàng)建一個帳戶并安裝 W&B：

1. 在 https://wandb.ai/site 注冊一個免費帳戶，然后登錄您的wandb帳戶。
2. 使用 pip 在 Python 3 環(huán)境中的計算機上安裝 wandb 庫。
   以下代碼片段演示了如何使用 W&B CLI 和 Python 庫安裝和登錄 W&B：

安裝 CLI 和 Python 庫以與權(quán)重和偏差 API 進行交互：

!pip install wandb

2. 登錄 W&B

筆記本
接下來，導入 W&B Python SDK 并登錄：

import wandb

wandb.login()

出現(xiàn)提示時，請?zhí)峁┠?API密鑰。

3. 開始運行并跟蹤超參數(shù)

使用 wandb.init（） 在 Python 腳本或筆記本中初始化 W&B Run 對象，并使用超參數(shù)名稱和值的鍵值對將字典傳遞給參數(shù)：config

run = wandb.init(
    # Set the project where this run will be logged
    project="my-awesome-project",
    # Track hyperparameters and run metadata
    config={
        "learning_rate": 0.01,
        "epochs": 10,
    },
)

運行是 W&B 的基本組成部分。您將經(jīng)常使用它們來跟蹤指標、創(chuàng)建日志、創(chuàng)建作業(yè)等。

把它們放在一起

綜上所述，訓練腳本可能類似于以下代碼示例。突出顯示的代碼顯示特定于 W&B 的代碼。 請注意，我們添加了模擬機器學習訓練的代碼。

# train.py
import wandb
import random  # for demo script

wandb.login()

epochs = 10
lr = 0.01

run = wandb.init(
    # Set the project where this run will be logged
    project="my-awesome-project",
    # Track hyperparameters and run metadata
    config={
        "learning_rate": lr,
        "epochs": epochs,
    },
)

offset = random.random() / 5
print(f"lr: {lr}")

# simulating a training run
for epoch in range(2, epochs):
    acc = 1 - 2**-epoch - random.random() / epoch - offset
    loss = 2**-epoch + random.random() / epoch + offset
    print(f"epoch={epoch}, accuracy={acc}, loss={loss}")
    wandb.log({"accuracy": acc, "loss": loss})

# run.log_code()

就是這樣！導航到 W&B 應用程序， 查看 中我們使用 W&B 記錄的指標（準確性和損失）在每個訓練步驟中是如何改進的。

上圖（單擊展開）顯示了每次運行上述腳本時跟蹤的損失和準確性。創(chuàng)建的每個運行對象都顯示在“運行”列中。每個運行名稱都是隨機生成的。

下一步是什么？

探索 W&B 生態(tài)系統(tǒng)的其余部分。

1.查看 W&B 集成，了解如何將 W&B 與您的 ML 框架（如 PyTorch）、ML 庫（如 Hugging Face）或 ML 服務（如 SageMaker）集成。
2.使用 W&B 報告組織運行、嵌入和自動化可視化、描述您的發(fā)現(xiàn)并與協(xié)作者共享更新。
3.創(chuàng)建 W&B 項目，以跟蹤機器學習管道每個步驟的數(shù)據(jù)集、模型、依賴項和結(jié)果。
4.使用 W&B Sweeps 自動執(zhí)行超參數(shù)搜索并探索可能模型的空間。
5.了解數(shù)據(jù)集，可視化模型預測，并在中央儀表板中共享見解。

常見問題

在哪里可以找到我的 API 密鑰？登錄 www.wandb.ai 后，API 密鑰將位于“授權(quán)”頁面上。

如何在自動化環(huán)境中使用 W&B？如果您在運行 shell 命令（例如 Google 的 CloudML）不方便的自動化環(huán)境中訓練模型，您應該查看我們的環(huán)境變量配置指南。

你們是否提供本地本地安裝？是的，您可以在自己的計算機上或私有云中私有托管 W&B，請嘗試使用此快速教程筆記本來了解如何操作。注意，要登錄到wandb本地服務器，您可以將host標志設置為本地實例的地址。

如何暫時關閉 wandb 日志記錄？如果正在測試代碼并想要禁用 wandb 同步，請設置環(huán)境變量 WANDB_MODE=offline。

到了這里，關于可視化和跟蹤機器學習實驗的工具——Wandb的文章就介紹完了。如果您還想了解更多內(nèi)容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章，希望大家以后多多支持TOY模板網(wǎng)！