使用 NVIDIA AI Workbench 在混合環境中實現順暢協作和快速原型設計

NVIDIA AI Workbench是一款免費的開發環境管理器,可簡化所選系統上的資料科學、AI 和機器學習 (ML) 專案。目標是提供一種在 PC、工作站、資料中心和雲端以及跨 PC、工作站、資料中心和雲端進行創建、計算和協作的無障礙方式。基本的使用者體驗很簡單:

  • 在單一系統上輕鬆設定:在 Windows、Ubuntu 和 macOS 上只需幾分鐘即可完成安裝,並在遠端系統上進行一行安裝。
  • 分散式部署的託管體驗:真正混合環境中的免費 PaaS/SaaS 類型使用者體驗,無需集中式、基於服務的平台。
  • 適合專家和初學者的無縫協作:友善的 Git、容器和應用程式管理,不限制進階使用者的自訂。
  • 跨用戶和系統保持一致:跨不同系統遷移工作負載和應用程序,同時保持功能和用戶體驗。
  • 簡化的 GPU 處理:處理NVIDIA 驅動程式和NVIDIA Container Toolkit等系統相依項,以及支援 GPU 的容器執行時間配置。

這篇文章探討了 NVIDIA AI Workbench 10 月版本的亮點,這是自 GTC 2024 上發布產品以來最重要的版本,距離完整產品願景又近了一大步。

發布亮點

本節將詳細介紹最新版本中的主要新功能和使用者請求的更新。

主要新功能包括:

  • 透過擴展的 Git 支援來增強協作,例如分支、合併、差異以及對提交和 gitignore 的更細粒度控制。
  • 透過 Docker Compose 支援 法國電話號碼數據  使用多   容器環境建立複雜的應用程式和工作流程。
  • 透過與單一用戶 URL 共享應用程序,實現簡單、快速且安全的快速原型設計。

用戶請求的更新:

  • 桌面應用程式的深色模式
  • 改進了 Windows 在地化版本上的安裝

擴展的 Git 支持

以前,AI Workbench 僅支援主分支上的單一整體提交。使用者必須手動管理分支和合併,這會造成各種類型的混亂,尤其是在解決合併衝突方面。現在,使用者可以直接在桌面應用程式和 CLI 中管理分支、合併和衝突。此外,他們還可以查看並分類提交的各個文件差異。 UI 旨在與手動 Git 操作無縫協作,並將更新以反映相關變更。

圖 1. 用於 Git 分支的 AI Workbench 桌面應用程式標籤

這些功能可以在桌面應用程式的兩個新標籤中找到:「更改」和「分支」。

  • 變更:提供工作樹和先前提交之間的差異的逐行視圖。用戶現在可以根據可見文件差異追蹤的更改(添加、修改或刪除)單獨或批量選擇和提交文件更改,並且能夠單獨拒絕文件或將文件添加到 git-ignore。此視圖也會動態更新以反映手動 Git 操作,例如手動暫存文件,然後追蹤工作樹中文件的變更

电话号码数据

Docker Compose 堆疊的多容器支援

AI Workbench 現在支援Docker Compose。使用者可以像 AI Workbench 為單容器環境提供的那樣輕鬆配置、重現性和可移植性來使用多容器應用程式和工作流程。

圖 2. AI Workbench 環境管理標籤中的 Docker Compose 功能

基本概念是添加一個基於 Docker Compose 的“堆疊”,該“堆疊”由 AI Workbench 管理並連接到主開發容器。要新增堆疊,使用者只需 你想讓你的推播廣告更加  將適當的 Docker Compose 檔案新增至專案儲存庫,並在桌面應用程式或 CLI 中進行一些配置。

我們使用 Docker Compose 有幾個原因。首先,我們不想在真空中進行開發,這就是為什麼我們一直與 Docker 團隊合作開發託管 Docker 桌面安裝等功。

透過安全 URL 共享 Web 應用程式

AI Workbench 使用戶能夠輕鬆啟動專案中內建的託管 Web 應用程式。這個過程非常簡單:創建或克隆一個安裝了 Web 應用程式的項目,啟動該項目,然後啟動該應用程序,它就會出現在您的瀏覽器中。

這種方法對於開發人員使用者體驗來說非常有用,但對於快速原型設計使用者體驗和協作來說並不好。如果您希望其他用戶訪問和測試您的 廣告數據   應用程序,您可以要求他們安裝 AI Workbench、克隆項目並運行它,或者您必須完全提取應用程式才能運行它並將其提供給用戶。第一個是使用者的減速帶,第二個是開發者的減速帶。

我們透過簡單的功能消除了這些障礙,該功能使您能夠設定遠端 AI Workbench 以啟用外部訪問,並創建一次性的安全 URL 以在該遠端專案中運行 Web 應用程式。您只需確保使用者可以存取遠端連接埠 10000,就可以直接存取該應用程式。他們所要做的就是點擊連結並轉到應用程式。

圖 3. 開發人員現在可以讓最終用戶透過安全的一次性 URL 直接存取遠端 AI Workbench 專案中運行的應用程式

啟用這種存取對於快速原型設計和協作非常有用。這就是為什麼各種 SaaS 產品將其作為託管服務

深色模式和在地化 Windows 安裝

許多用戶要求使用深色模式選項,因為它更護眼。現在它可用,並且可以透過「設定」視窗進行選擇,該視窗現在可以直接從桌面應用程式中使用。詳細了解深色模式的工作原理。

到目前為止,Windows 用戶是我們本地安裝的主要受眾,並非所有 Windows 用戶都使用英語語言包,並且由於我們處理某些 WSL 命令的方式,這會阻止 AI Workbench 安裝。特別是,我們有一些使用西里爾文或中文的用戶在 Windows 上被封鎖。我們調整了處理非英語語言包的方式,現在應該可以正常工作了。如果您之前被此阻止,請立即嘗試。如果它仍然不適合您,請在NVIDIA AI Workbench 開發者論壇中告知我們,以便我們繼續改進此功能。

新的 AI 工作台項目

此版本引入了新的範例項目,旨在快速啟動您的 AI 開發之旅,詳情如下。 AI Workbench 專案是一個結構化的 Git 儲存庫,它定義了 AI Workbench 中的容器化開發環境。 AI Workbench 專案提供:

  • 輕鬆設定和 GPU 配置:只需從 GitHub 或 GitLab 複製項目,AI Workbench 就會透過自動 GPU 配置處理其餘部分。
  • 開發整合:無縫支援 Jupyter 和 VS Code 等流行開發環境,並支援使用者配置的 Web 應用程式。
  • 容器化和可自訂的環境:項目是容器化的、隔離的並且易於修改。調整範例項目以滿足您的特定需求,同時確保一致性和可重複性。

探索 NVIDIA AI Workbench 範例專案。

多模式虛擬助理 範例項目

該專案使用戶能夠使用多模式檢索增強生成 (RAG)管道建立自己的虛擬助手,並回退到網路搜尋。使用者可以與兩個基於 RAG 的應用程式進行交互,以了解有關 AI Workbench 的更多資訊、與使用者文件進行交流、對自己的安裝進行故障排除,甚至將 RAG 管道集中到自己的客製化產品上。

  • 控制面板:用於處理產品文件的可自訂 Gradio 應用程式允許將網頁、PDF、圖像和影片上傳到持久性向量儲存並查詢它們。對於推理,使用者可以在 NVIDIA API Catalog 上的雲端點之間進行選擇,或使用自託管端點來運行自己的推理。
  • 公共聊天:載入產品文件後,Gradio 應用程式是一個簡化的「只讀」聊天機器人,您可以透過新的 AI Workbench 應用程式共享功能與最終用戶共享。

圖 4. 使用 Public-Chat Web 應用程序,這是一個只讀的、精簡的聊天應用程序,旨在讓最終用戶更容易使用和共享

競賽-內核範例項目

該項目在參加 Kaggle 比賽時提供了簡單的本地體驗。您可以輕鬆地利用本機電腦或雲端實例來處理競賽資料集、編寫程式碼、建置模型並提交結果,所有這些都透過 AI Workbench 完成。競賽內核項目提供:

  • 在您自己的 GPU 上進行開發和測試並在幾分鐘內完成設定和自訂的託管體驗。
  • 透過 GitHub 或 GitLab 輕鬆進行版本控制和追蹤程式碼,並且協作非常輕鬆。
  • 使用本機專用 IDE 的強大功能:強大的偵錯、智慧程式碼完成、廣泛的自訂選項。
  • 輕鬆插入現有資料來源(外部或您自己的)。
  • 沒有網路?沒問題。離線開發。

 

返回頂端