欢迎访问
从矿区跳到AI区,没脱手的显卡矿工们谋到新“福利”
2023-06-15 来源:贤集网
805

关键词: GPU 人工智能 ChatGPT

布式计算初创公司Monster API日前表示,采用加密货币挖矿设备可以满足训练AI模型对GPU处理能力不断增长的需求,其开发的系统可以扩展到数据中心之外的其他搭载GPU的设备(例如Macbook、游戏机甚至特斯拉汽车等),从而大幅降低开发和训练AI模型的成本。



矿卡找到新出路

在过去,对于矿老板来说,显卡算力就等于收益,算力越大挖矿的利润越高,这就是为什么矿工要疯狂抢购显卡的原因。不过前两年矿工有多风光,这段时间矿工就有多凄惨,在以太坊正式进入2.0的PoS 权益质押验证时代后,显卡挖矿正式成为过去式。许多矿工都在抓紧时间出清手上的矿卡,不过由于市场体量太大,之前抢购的显卡也太多,所以还有很多矿工没有来得及抛售,只能压在手里。

不过随着聊天AI的崛起,矿工们似乎又为自己手中还没有抛售的显卡找到了一条出路,那就是为现在的AI提供算力。对于现在研发人工智能的厂商来说,成本的确是一个问题,购买NVIDIA的专业计算卡当然最好,但是价格也非常高,所以目前矿工手中的大量显卡似乎就可以是一个提供算力的源泉。而对于矿工来说,短时间无法卖光矿卡,手中大量算力没有用武之地,那么为人工智能项目提供算力,也是一个能获得收入的途径。



以OpenAI为例,训练出像ChatGPT 这样的人工智能模组,至少花费了500万美元,而光是让ChatGPT 维持运作,每天的成本就高达10 万美元。如果要让AI 能够针对某些领域进一步专精强化,还需要训练新的模型才能达成效果。所以厂商需要节约成本,而矿工则希望手中的显卡能获得收益,两者可以说一拍即合。

目前一些大型矿场正在研究,如何让他们手上的显卡算力分配出去,供AI研究人员使用,用来生成小规模的自然语言模型。对于厂商来说,现在研究AI最大的问题,就是如何用更少的电力、更好的冷却系统,让机器高效达成算力最大化,而矿场恰恰是一个非常好的选择。所以最近海外不少矿工都停止了甩卖显卡,看有没有机会切入人工智能领域。


分布式算力网络可以大幅降低AI基础模型训练成本

实际上,除了加密采矿设备之外,在PlayStation 5等游戏系统和较小的数据中心中也可以找到未使用的GPU。Saurabh Vij表示:“加密采矿平台采用GPU,而游戏系统也采用GPU,且GPU的功能每年都会变得更加强大。”

企业和个人的算力汇入分布式网络需要经历包括数据安全检查在内的一系列流程。需求方根据需求添加设备,扩展和缩小算力网络。供应方可以从出售闲置算力中获得了一部分收入。

Saurabh Vij强调,分布式计算系统将AI基础模型的训练成本降低到了将来可以由开源和非营利组织训练的程度,而不仅仅是财力雄厚的大型科技公司。“如果建立一个AI基础模型需要100万美元,那么像我们这样的去中心化网络只需要10万美元。”

极客网获悉,Monster API现在还提供“无代码”工具来微调模型,并向那些没有技术专长或资源的用户开放,让他们从头开始训练模型,进一步“民主化”计算能力和AI基础模型。

“微调非常重要,因为大量的开发者没有足够的数据和资金来从头开始训练模型。”他表示,通过优化,Monster API已将微调成本削减90%,使得每个模型的微调费用约为30美元。


算网融合解决AI算力难题

当前,算力和网络的发展日益呈现一体共生趋势,网络从过去的连接算力逐渐演进为动态感知算力、可定制承载算力,实现在网计算随转随算,算力无处不在。



“中国的算力要跑到世界前面,必须加快优化形成理想的算力网架构。”中国工程院院士刘韵洁说,算力网的关键技术就是把所有算力通过一个高通量的确定性的网络,让所有使用算力的用户连在一起。

“我们正在争分夺秒搭建优化算力网,目前已经在全国40个城市开通了全新的算力网架构。”刘韵洁说,下一步将以数据为要素,以服务为驱动,生成这样一个智能的网络控制系统。

“互联网的下半场,对中国来讲是难得的赶超机会。”刘韵洁说,在国家的大力支持下,他们正在加快实现优化的算力网架构,希望通过这样的网络架构为更多企业服务,让中国尽快在算力领域领先世界。

“算力基础设施是数字经济核心生产力和发展的引擎,算力网络已经成为一种新型信息网络基础设施。”中国工程院院士张宏科说。

张宏科表示,网络体系创新一直是国际研究热点和竞争焦点,信息领域已经成为大国博弈的核心和关键。我国要想从网络大国向网络强国迈进,就急需系统性、原创性的网络体系的技术突破。目前,已经从过去用户被动使用网络进化到网络主动适配用户,网络赋能算力、算力赋能网络,网中有算、算中有网的格局已经形成,算力可以提升网络综合性能,网络也可以提升算力的调度,总而言之,现有的网络,从工作原理机制和体系上难于满足算力网络的需求。

张宏科认为,算力网络需要紧迫解决的问题就是要攻克多个异构网络,加快统一资源调度,统一基础设施。



Baidu
map