AI 算力租賃怎麼評估
評估要不要租用 AI 算力,先寫清工作負載是推論還是訓練、預計用多少小時、資料放在哪裡,以及租約結束後算力與資料如何退出。四項沒有寫完,決定先留空。
算力與一般設備分開評估
一般設備要租還是要買,先寫使用多久、現金在什麼時點流出、期末設備留在誰手上、維修由誰做。那四項見 設備租賃還是購買怎麼選。本文只寫租用算力來做推論或訓練之前要寫清的四項:工作負載種類、小時、資料位置、退出路徑。
租出去的資產、合約、檔期、保養與歸還要怎麼留紀錄,見 設備租賃管理系統怎麼選。設備可以只買、只租,或與開發放在同一項目,見首頁 採購、租賃,或與開發同一項目推進。本文不比較供應商,也不填價格。
公開頁給的是雲端運算的定義
NIST SP 800-145《雲端運算的定義》 的出版日期是 2011 年 9 月,文件歷程把 2011-09-28 標為最終版,作者是 Peter Mell 與 Tim Grance。該頁給出的 DOI 是 10.6028/NIST.SP.800-145。摘要寫明,雲端運算是一種模型,使人可以透過網路,在需要時方便地取用一組可設定的共享運算資源(例如網路、伺服器、儲存、應用程式與服務);這些資源可以快速供應與釋放,管理作業或與服務提供者的互動都很少。
同一段寫明,這個模型由五項基本特性、三種服務模型與四種部署模型組成。該頁沒有列出這五項、三種與四種的名稱,也沒有提到圖形處理器、價格或服務水準。本文不代填名稱,也不把頁面沒有寫的供應速度算進定義。下面的四項,是購買方在決定要不要租用算力之前自己要寫完的清單。
先寫是推論還是訓練
推論寫明:已經選定的模型在哪裡、進來的請求是哪一種、系統留下哪一筆結果。訓練寫明:用的是哪一批資料、跑的是哪一次、結束時要留下哪一個成品。只寫「做 AI」而沒有這兩段之一,工作負載維持空白。
兩種可以先後發生,紀錄上仍分成兩行。本文不填模型名稱、不填每秒請求數,也不把沒有貴司自己量測與日期的速度寫進這一行。
小時要能指到一次紀錄
小時寫兩種來源之一:過去一次運行的開始與結束,或一個已經寫上日期的計畫時段。沒有過去運行時,計畫時段標成假設,並寫上寫下假設的日期。假設沒有日期,小時維持空白。
同時寫明時段結束時由誰停止租用。本文不把小時換成金額。金額若要另記,來自當次報價並註明報價日期,本文不代填。
資料現在放在哪裡
寫明訓練或推論用的資料今天放在哪一個系統、是否必須複製離開該處,以及誰可以核准這次複製。資料不能離開時,要寫明租用的算力如何在不複製的情況下用到它。這一句寫不出來,資料位置維持空白,決定先留空。
本文不宣稱某一地區或某一供應商把資料留在何處。那一句若要寫,來自該供應商自己的頁面,並註明閱讀日期。閱讀日期沒有寫上之前,不把地區寫進決定。
退出時留下什麼、刪掉什麼
退出寫明四項:租約結束後貴司留下的成品(模型檔、紀錄或輸出)、成品改存在哪裡、誰刪除租用側的複本、以及哪一天核對刪除已經完成。四項缺任何一項,退出路徑維持空白。
一般設備那一篇處理的是期末設備留在誰手上。本文處理的是這一次算力與資料複本。沒有退出路徑,不因為時段已經寫好就決定租用。
紀錄沿用既有的租賃欄位
貴司若已經在記租賃,算力這一行沿用同一套能對上的欄位:租了什麼、合約、時段、誰結束。能對上的不另開一本帳。小時、資料位置與退出四項,寫在同一筆紀錄的補充欄,不因此新做一套系統。
對不上的欄位先留空,並寫明對不上的是哪一項。本文不要求先換一套租賃系統,才可以做這次評估。
什麼時候先不要租
工作負載仍是「做 AI」、小時沒有日期、資料位置空白,或退出路徑缺刪除與核對的人時,先不要租。先把空白的那一項寫完。供應商頁面上的庫存或時限,沒有連同閱讀日期記下來之前,不寫進決定。
本文不給出價格、可供數量、服務水準或供應商排序。NIST 頁面的出版月份是 2011 年 9 月,最終版標記是 2011-09-28。四項沒有寫完之前,用「負載是否分成推論或訓練、小時是否指得到一次有日期的紀錄、資料是否寫明今天的位置與可否複製、退出是否寫明留下什麼與誰核對刪除」來檢查這次評估有沒有做完。
