以分布式网络串联闲置GPU，这家创企称可将AI模型训练成本降低90%

极客网·人工智能6月15日 分布式计算初创公司Monster API日前表示，采用加密货币挖矿设备可以满足训练AI模型对GPU处理能力不断增长的需求，其开发的系统可以扩展到数据中心之外的其他搭载GPU的设备（例如Macbook、游戏机甚至特斯拉汽车等），从而大幅降低开发和训练AI模型的成本。

(资料图片仅供参考)

Monster API利用采矿设备等GPU算力来训练AI模型

GPU通常用于挖掘比特币等加密货币，而挖矿是一种资源密集型的过程，需要强大的计算能力。

加密货币炒作一度导致市场上GPU短缺，随着价格飙升，企业和个人转向采用英伟达(Nvidia) 为游戏行业提供的GPU，并将其转变为加密挖矿设备专用的GPU。

然而随着加密货币热潮的消退，许多加密挖矿设备关闭甚至被废弃。这让Monster API创始人Gaurav Vij意识到，他们可以重新改变和调整这些设备的用途，以适应最新的计算密集型发展趋势，也就是训练和运行AI基础模型。

虽然这些GPU并不具备AWS或谷歌云等部署的专用AI设备的强大功能，但Gaurav Vij表示，它们能够训练优化的开源模型，其成本仅为使用云计算提供商使用的超大规模计算设备的一小部分。

Monster API联合创始人Saurabh Vij表示：“机器学习领域实际上正在与计算能力作斗争，因为需求已经超过了供应。大多数机器学习开发人员如今都依赖AWS、谷歌云、微软Azure来获取资源，最终花费了大量资金。”

分布式算力网络可以大幅降低AI基础模型训练成本

实际上，除了加密采矿设备之外，在PlayStation 5等游戏系统和较小的数据中心中也可以找到未使用的GPU。Saurabh Vij表示：“加密采矿平台采用GPU，而游戏系统也采用GPU，且GPU的功能每年都会变得更加强大。”

企业和个人的算力汇入分布式网络需要经历包括数据安全检查在内的一系列流程。需求方根据需求添加设备，扩展和缩小算力网络。供应方可以从出售闲置算力中获得了一部分收入。

Saurabh Vij强调，分布式计算系统将AI基础模型的训练成本降低到了将来可以由开源和非营利组织训练的程度，而不仅仅是财力雄厚的大型科技公司。“如果建立一个AI基础模型需要100万美元，那么像我们这样的去中心化网络只需要10万美元。”

极客网获悉，Monster API现在还提供“无代码”工具来微调模型，并向那些没有技术专长或资源的用户开放，让他们从头开始训练模型，进一步“民主化”计算能力和AI基础模型。

“微调非常重要，因为大量的开发者没有足够的数据和资金来从头开始训练模型。”他表示，通过优化，Monster API已将微调成本削减90%，使得每个模型的微调费用约为30美元。

开源模型训练可以帮助开发人员利用AI进行创新

虽然AI开发商面临迫在眉睫的监管，这可能会直接影响到这些训练模型和开源，但Saurabh Vij认为开源模型训练有其积极意义。Monster API已经认识到有必要在其分散的网络中管理潜在风险，并确保“可追溯性、透明度和问责制”。

“在短期内，也许监管机构会获胜，但我对开源社区非常有信心，它的发展非常非常快。在Postman (API开发平台)上有2500万注册开发人员，其中很大一部分正在构建生成式AI，这为所有人开辟了新的业务和新的机会。”他表示。

极客网了解到，通过训练低成本的AI模型，Monster API的目标是让开发人员最大限度能够利用机器学习进行创新。目前他们已经有了一些知名的AI模型（例如Stable Diffusion和Whisper）可以进行微调，此外用户还可以使用这些GPU算力从头开始训练自己的AI基础模型。

Saurabh Vij介绍称:“我们已经在Macbook上进行了文图生成实验，每分钟至少可以输出10张图像。我们希望在网络上接入数百万台Macbook，让用户在睡觉时也能使用他们的Macbook运行Stable Diffusion、Whisper或其他AI模型获利。

“最终，Playstation、Xbox、Macbook都将成为强大的计算资源，甚至是特斯拉汽车——因为特斯拉汽车也采用了强大的GPU，而且大多数时候停在车库中。”Saurabh Vij补充道。

以分布式网络串联闲置GPU，这家创企称可将AI模型训练成本降低90% 实测｜“360智脑”大升级后能图生图、文生视频、视频生文……看看你的工作是不是要被取代了 张勇对话西门子CEO博乐仁：AI时代不持续转型就会落伍 国内15款开源大模型齐齐上线，魔搭社区成中国AI模型开源第一门户 Gartner：中国企业平均已部署超过5个AI用例 引领AI时代的大模型创新！人工智能框架生态峰会即将召开 360发布认知型通用大模型“360智脑4.0” 全面接入360全家桶 亚马逊将使用人工智能技术来总结用户评论 Salesforce旗下风投部门将扩大生成式AI基金规模至5亿美元 西安交大与旷视科技联手共建人机混合增强智能全国重点实验室

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。