2024-07-23
以分布式网络串联闲置GPU,这家创企称可将AI模型训练成本降低90%-数码-万事网
知识
页面更新时间:2024-07-23
新闻网
百科网
数码网
汽车网
宠物网
植物网
英语网
财经网
美食网
母婴网
联系我们
SITEMAP
万事数码网

以分布式网络串联闲置GPU,这家创企称可将AI模型训练成本降低90%

2024-07-10 16:10:48 发布

网·人工智能6月15日分布式计算初创公司MonsterAPI日前表示,采用加密货币挖矿设备可以满足训练AI模型对GPU处理能力不断增长的需求,其开发的系统可以扩展到数据中心之外的其他搭载GPU的设备,从而大幅降低开发和训练AI模型的成本。

MonsterAPI利用采矿设备等GPU算力来训练AI模型

GPU通常用于挖掘比特币等加密货币,而挖矿是一种资源密集型的过程,需要强大的计算能力。

加密货币炒作一度导致市场上GPU短缺,随着价格飙升,企业和个人转向采用英伟达(Nvidia)为游戏行业提供的GPU,并将其转变为加密挖矿设备专用的GPU。

然而随着加密货币热潮的消退,许多加密挖矿设备关闭甚至被废弃。这让MonsterAPI创始人GauravVij意识到,他们可以重新改变和调整这些设备的用途,以适应最新的计算密集型发展趋势,也就是训练和运行AI基础模型。

虽然这些GPU并不具备AWS或谷歌云等部署的专用AI设备的强大功能,但GauravVij表示,它们能够训练优化的开源模型,其成本仅为使用云计算提供商使用的超大规模计算设备的一小部分。

MonsterAPI联合创始人SaurabhVij表示:“机器学习领域实际上正在与计算能力作斗争,因为需求已经超过了供应。大多数机器学习开发人员如今都依赖AWS、谷歌云、微软Azure来获取资源,最终花费了大量资金。”

分布式算力网络可以大幅降低AI基础模型训练成本

实际上,除了加密采矿设备之外,在PlayStation5等游戏系统和较小的数据中心中也可以找到未使用的GPU。SaurabhVij表示:“加密采矿平台采用GPU,而游戏系统也采用GPU,且GPU的功能每年都会变得更加强大。”

企业和个人的算力汇入分布式网络需要经历包括数据安全检查在内的一系列流程。需求方根据需求添加设备,扩展和缩小算力网络。供应方可以从出售闲置算力中获得了一部分收入。

SaurabhVij强调,分布式计算系统将AI基础模型的训练成本降低到了将来可以由开源和非营利组织训练的程度,而不仅仅是财力雄厚的大型科技公司。“如果建立一个AI基础模型需要100万美元,那么像我们这样的去中心化网络只需要10万美元。”

网获悉,MonsterAPI现在还提供“无代码”工具来微调模型,并向那些没有技术专长或资源的用户开放,让他们从头开始训练模型,进一步“民主化”计算能力和AI基础模型。

“微调非常重要,因为大量的开发者没有足够的数据和资金来从头开始训练模型。”他表示,通过优化,MonsterAPI已将微调成本削减90%,使得每个模型的微调费用约为30美元。

开源模型训练可以帮助开发人员利用AI进行创新

虽然AI开发商面临迫在眉睫的监管,这可能会直接影响到这些训练模型和开源,但SaurabhVij认为开源模型训练有其积极意义。MonsterAPI已经认识到有必要在其分散的网络中管理潜在风险,并确保“可追溯性、透明度和问责制”。

“在短期内,也许监管机构会获胜,但我对开源社区非常有信心,它的发展非常非常快。在Postman(API开发平台)上有2500万注册开发人员,其中很大一部分正在构建生成式AI,这为所有人开辟了新的业务和新的机会。”他表示。

网了解到,通过训练低成本的AI模型,MonsterAPI的目标是让开发人员最大限度能够利用机器学习进行创新。目前他们已经有了一些知名的AI模型可以进行微调,此外用户还可以使用这些GPU算力从头开始训练自己的AI基础模型。

SaurabhVij介绍称:“我们已经在Macbook上进行了文图生成实验,每分钟至少可以输出10张图像。我们希望在网络上接入数百万台Macbook,让用户在睡觉时也能使用他们的Macbook运行StableDiffusion、Whisper或其他AI模型获利。

“最终,Playstation、Xbox、Macbook都将成为强大的计算资源,甚至是特斯拉汽——因为特斯拉汽车也采用了强大的GPU,而且大多数时候停在车库中。”SaurabhVij补充道。


TAG:知识 | 数码 | 分布式网络 | GPU | AI模型训练
文章链接:https://www.96ws.com/keji/51950.html
免责声明:内容均来源自互联网,不得分享与下载,不得用于任何商业行为,内容仅供参考,内容不能作为任何依据,本站不为此内容做任何负责,如果内容和图片涉及侵权或者错误请及时联系本站,我们将在第一时间做出修改或者删除
旅游
以分布式网络串联闲置GPU,这家创企称可
网·人工智能6月15日分布式计算初创公司MonsterAPI日前表示,采用加密货币挖矿设备可以满
三星正开发自有大型语言模型 已投入全部G
6月10日消息,据外媒报道,三星电子正开发自己的大语言模型,以供内部使用。几周前,就有消息称,在
数据中心热衷于AI GPU供应多元化 A
6月8日消息,据外媒报道,在ChatGPT等人工智能应用的推动下,相关厂商对AIGPU的需求明显
英伟达爆出又一重磅产品:含256个GPU
①英伟达周一宣布推出搭载256颗GH200超级芯片的新型DGXGH200人工智能超级计算机;②G
英伟达A100和H100 GPU订单增加
5月22日消息,据外媒报道,由OpenAI训练的人工智能聊天机器人ChatGPT掀起的生成式人工
当前页面更新时间:2024-07-23
知识本站内容和图片均来自互联网,仅供读者参考,请勿转载与分享,如有内容和图片有误或者涉及侵权请及时联系本站处理。
化妆品整形问答价格减肥美妆美容心理中药咨询医院养生知识健康景点景区酒店旅行旅游问题排名品牌期货原油培训大学听力口语语法托福雅思外教英语高考学校教育母婴美食植物宠物手机数码生活百科球星主播导演明星动漫综艺电视剧电影潮牌篮球足球体育游戏穿搭时尚球鞋潮流影视娱乐网红