以分布式網絡串聯(lián)閑置GPU，這家創(chuàng)企稱可將AI模型訓練成本降低90%

極客網·人工智能6月15日 分布式計算初創(chuàng)公司Monster API日前表示，采用加密貨幣挖礦設備可以滿足訓練AI模型對GPU處理能力不斷增長的需求，其開發(fā)的系統(tǒng)可以擴展到數(shù)據(jù)中心之外的其他搭載GPU的設備（例如Macbook、游戲機甚至特斯拉汽車等），從而大幅降低開發(fā)和訓練AI模型的成本。

【資料圖】

Monster API利用采礦設備等GPU算力來訓練AI模型

GPU通常用于挖掘比特幣等加密貨幣，而挖礦是一種資源密集型的過程，需要強大的計算能力。

加密貨幣炒作一度導致市場上GPU短缺，隨著價格飆升，企業(yè)和個人轉向采用英偉達(Nvidia) 為游戲行業(yè)提供的GPU，并將其轉變?yōu)榧用芡诘V設備專用的GPU。

然而隨著加密貨幣熱潮的消退，許多加密挖礦設備關閉甚至被廢棄。這讓Monster API創(chuàng)始人Gaurav Vij意識到，他們可以重新改變和調整這些設備的用途，以適應最新的計算密集型發(fā)展趨勢，也就是訓練和運行AI基礎模型。

雖然這些GPU并不具備AWS或谷歌云等部署的專用AI設備的強大功能，但Gaurav Vij表示，它們能夠訓練優(yōu)化的開源模型，其成本僅為使用云計算提供商使用的超大規(guī)模計算設備的一小部分。

Monster API聯(lián)合創(chuàng)始人Saurabh Vij表示：“機器學習領域實際上正在與計算能力作斗爭，因為需求已經超過了供應。大多數(shù)機器學習開發(fā)人員如今都依賴AWS、谷歌云、微軟Azure來獲取資源，最終花費了大量資金。”

分布式算力網絡可以大幅降低AI基礎模型訓練成本

實際上，除了加密采礦設備之外，在PlayStation 5等游戲系統(tǒng)和較小的數(shù)據(jù)中心中也可以找到未使用的GPU。Saurabh Vij表示：“加密采礦平臺采用GPU，而游戲系統(tǒng)也采用GPU，且GPU的功能每年都會變得更加強大。”

企業(yè)和個人的算力匯入分布式網絡需要經歷包括數(shù)據(jù)安全檢查在內的一系列流程。需求方根據(jù)需求添加設備，擴展和縮小算力網絡。供應方可以從出售閑置算力中獲得了一部分收入。

Saurabh Vij強調，分布式計算系統(tǒng)將AI基礎模型的訓練成本降低到了將來可以由開源和非營利組織訓練的程度，而不僅僅是財力雄厚的大型科技公司。“如果建立一個AI基礎模型需要100萬美元，那么像我們這樣的去中心化網絡只需要10萬美元。”

極客網獲悉，Monster API現(xiàn)在還提供“無代碼”工具來微調模型，并向那些沒有技術專長或資源的用戶開放，讓他們從頭開始訓練模型，進一步“民主化”計算能力和AI基礎模型。

“微調非常重要，因為大量的開發(fā)者沒有足夠的數(shù)據(jù)和資金來從頭開始訓練模型。”他表示，通過優(yōu)化，Monster API已將微調成本削減90%，使得每個模型的微調費用約為30美元。

開源模型訓練可以幫助開發(fā)人員利用AI進行創(chuàng)新

雖然AI開發(fā)商面臨迫在眉睫的監(jiān)管，這可能會直接影響到這些訓練模型和開源，但Saurabh Vij認為開源模型訓練有其積極意義。Monster API已經認識到有必要在其分散的網絡中管理潛在風險，并確保“可追溯性、透明度和問責制”。

“在短期內，也許監(jiān)管機構會獲勝，但我對開源社區(qū)非常有信心，它的發(fā)展非常非常快。在Postman (API開發(fā)平臺)上有2500萬注冊開發(fā)人員，其中很大一部分正在構建生成式AI，這為所有人開辟了新的業(yè)務和新的機會。”他表示。

極客網了解到，通過訓練低成本的AI模型，Monster API的目標是讓開發(fā)人員最大限度能夠利用機器學習進行創(chuàng)新。目前他們已經有了一些知名的AI模型（例如Stable Diffusion和Whisper）可以進行微調，此外用戶還可以使用這些GPU算力從頭開始訓練自己的AI基礎模型。

Saurabh Vij介紹稱:“我們已經在Macbook上進行了文圖生成實驗，每分鐘至少可以輸出10張圖像。我們希望在網絡上接入數(shù)百萬臺Macbook，讓用戶在睡覺時也能使用他們的Macbook運行Stable Diffusion、Whisper或其他AI模型獲利。

“最終，Playstation、Xbox、Macbook都將成為強大的計算資源，甚至是特斯拉汽車——因為特斯拉汽車也采用了強大的GPU，而且大多數(shù)時候停在車庫中。”Saurabh Vij補充道。

以分布式網絡串聯(lián)閑置GPU，這家創(chuàng)企稱可將AI模型訓練成本降低90% 實測｜“360智腦”大升級后能圖生圖、文生視頻、視頻生文……看看你的工作是不是要被取代了 張勇對話西門子CEO博樂仁：AI時代不持續(xù)轉型就會落伍 國內15款開源大模型齊齊上線，魔搭社區(qū)成中國AI模型開源第一門戶 Gartner：中國企業(yè)平均已部署超過5個AI用例 引領AI時代的大模型創(chuàng)新！人工智能框架生態(tài)峰會即將召開 360發(fā)布認知型通用大模型“360智腦4.0” 全面接入360全家桶 亞馬遜將使用人工智能技術來總結用戶評論 Salesforce旗下風投部門將擴大生成式AI基金規(guī)模至5億美元 西安交大與曠視科技聯(lián)手共建人機混合增強智能全國重點實驗室

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。

標簽：