赵长鹏4梗“显灵”:被轻
io.net真实GPU数量成迷?去中心化AI协议存在哪些问题?
作者:@rargulati,MartinShkreli;编译:白话区块链
io.net 是建立在 Solana 上的去中心化算力网络,属于 Depin 和AI板块,获得了 Mult1C0in Capital 和 Moonhill Capital 的融资,融资金额未披露。
io.net 是一个基于 Solana 的用于 GPU 上的机器学习训练的去中心化云平台,提供即时、无需许可地访问全球 GPU 和 CPU 网络。平台拥有 25000 个节点,并采用革命性的技术将 GPU 云集群在一起,为大规模 AI 初创公司节省了高达 90% 的计算成本。
目前建立在 Solana 上,属于目前比较火热的 Depin 和AI板块,今天来看看 X 上两位对其 GPU 和存在的问题进行了分析:
@ionet 拥有多少个 GPU(Graphics Processing Unit,图形处理器 ) 是用于图形处理的芯片)?
X 上@MartinShkreli 对四个答案进行了分析:
1)7648(在部署时尝试时)
2)11107(从他们的资源管理器手动计算)
3)69415(无法解释的数字,不变?)
4)564306(这里没有任何支持、透明度或实质性的信息。连 CoreWeave 或 AWS 都没有这么多)
认为真正的答案实际上是 320 个。
为什么是 320 个呢?
和我一起看一下资源管理器页面。所有的 GPU 都是「免费」的,但你仍然不能租用一个。如果它们是免费的,为什么不能租用呢?人们想要得到报酬,对吗?
你实际上可以租用的只有 320 个。
如果你不能租用它们,那它们就不是真实存在的。即使你可以租用,它也会增加...
@rargulati表示 Martin 在对此事提出质疑是完全正确的。去中心化的人工智能协议存在以下问题:
1)没有一种成本效益高且时间有效的方式来在高度分布式的通用硬件架构上进行有用的在线训练。这需要一个我目前不知道的重大突破。这就是为什么 FANG 花费的资金比加密货币的所有流动性还要多,用于购买昂贵的硬件、网络连接、数据中心维护等。
2)在通用硬件上进行推断听起来是一个很好的应用案例,但硬件和软件方面的发展如此迅速,以至于通用的去中心化方式在大多数关键用例上表现不佳。可以参考最新的 OpenAI 延迟和 Groq 的增长。
3)从正确路由的请求上进行推断,与请求紧密共存的 gpu 集群,并利用去中心化加密货币来压低资金成本,以与 AWS 竞争并激励爱好者参与。听起来是个不错的主意,但由于供应商众多,GPU 现货市场的流动性分散,没有人整合出足够的供应来提供给运营真正业务的人。
4)软件路由算法必须非常好,不然消费者运营商的通用硬件在操作上存在很多问题。忘掉网络突破和拥塞控制,如果有人决定玩游戏或使用任何使用 webgl 的内容,你可能会遇到某个运营商的服务中断。不可预测的供应端会给运营带来困扰,并给需求方请求者带来不确定性。
这些都是棘手的问题,需要很长很长的时间来解决。所有的投标都只是梗而已。