AI 算力租赁怎么评估
评估要不要租用 AI 算力,先写清工作负载是推理还是训练、预计用多少小时、数据放在哪里,以及租约结束后算力与数据如何退出。四项没有写完,决定先留空。
算力与一般设备分开评估
一般设备要租还是要买,先写使用多久、现金在什么时点流出、期末设备留在谁手上、维修由谁做。那四项见 设备租赁还是购买怎么选。本文只写租用算力来做推理或训练之前要写清的四项:工作负载种类、小时、数据位置、退出路径。
租出去的资产、合约、档期、保养与归还要怎么留记录,见 设备租赁管理系统怎么选。设备可以只买、只租,或与开发放在同一项目,见首页 采购、租赁,或与开发同一项目推进。本文不比较供应商,也不填价格。
公开页给的是云计算的定义
NIST SP 800-145《云计算的定义》 的出版日期是 2011 年 9 月,文件历程把 2011-09-28 标为最终版,作者是 Peter Mell 与 Tim Grance。该页给出的 DOI 是 10.6028/NIST.SP.800-145。摘要写明,云计算是一种模型,使人可以经由网络,在需要时方便地取用一组可配置的共享计算资源(例如网络、服务器、存储、应用程序与服务);这些资源可以快速供应与释放,管理工作或与服务提供者的互动都很少。
同一段写明,这个模型由五项基本特性、三种服务模型与四种部署模型组成。该页没有列出这五项、三种与四种的名称,也没有提到图形处理器、价格或服务水平。本文不代填名称,也不把页面没有写的供应速度算进定义。下面的四项,是购买方在决定要不要租用算力之前自己要写完的清单。
先写是推理还是训练
推理写明:已经选定的模型在哪里、进来的请求是哪一种、系统留下哪一笔结果。训练写明:用的是哪一批数据、跑的是哪一次、结束时要留下哪一个成品。只写「做 AI」而没有这两段之一,工作负载维持空白。
两种可以先后发生,记录上仍分成两行。本文不填模型名称、不填每秒请求数,也不把没有贵司自己测量与日期的速度写进这一行。
小时要能指到一次记录
小时写两种来源之一:过去一次运行的开始与结束,或一个已经写上日期的计划时段。没有过去运行时,计划时段标成假设,并写上写下假设的日期。假设没有日期,小时维持空白。
同时写明时段结束时由谁停止租用。本文不把小时换成金额。金额若要另记,来自当次报价并注明报价日期,本文不代填。
数据现在放在哪里
写明训练或推理用的数据今天放在哪一个系统、是否必须复制离开该处,以及谁可以核准这次复制。数据不能离开时,要写明租用的算力如何在不复制的情况下用到它。这一句写不出来,数据位置维持空白,决定先留空。
本文不宣称某一地区或某一供应商把数据留在何处。那一句若要写,来自该供应商自己的页面,并注明阅读日期。阅读日期没有写上之前,不把地区写进决定。
退出时留下什么、删掉什么
退出写明四项:租约结束后贵司留下的成品(模型档、记录或输出)、成品改存在哪里、谁删除租用侧的副本、以及哪一天核对删除已经完成。四项缺任何一项,退出路径维持空白。
一般设备那一篇处理的是期末设备留在谁手上。本文处理的是这一次算力与数据副本。没有退出路径,不因为时段已经写好就决定租用。
记录沿用既有的租赁栏位
贵司若已经在记租赁,算力这一行沿用同一套能对上的栏位:租了什么、合约、时段、谁结束。能对上的不另开一本账。小时、数据位置与退出四项,写在同一笔记录的补充栏,不因此新做一套系统。
对不上的栏位先留空,并写明对不上的是哪一项。本文不要求先换一套租赁系统,才可以做这次评估。
什么时候先不要租
工作负载仍是「做 AI」、小时没有日期、数据位置空白,或退出路径缺删除与核对的人时,先不要租。先把空白的那一项写完。供应商页面上的库存或时限,没有连同阅读日期记下来之前,不写进决定。
本文不给出价格、可供数量、服务水平或供应商排序。NIST 页面的出版月份是 2011 年 9 月,最终版标记是 2011-09-28。四项没有写完之前,用「负载是否分成推理或训练、小时是否指得到一次有日期的记录、数据是否写明今天的位置与可否复制、退出是否写明留下什么与谁核对删除」来检查这次评估有没有做完。
