API:0代码微调大模型火了,只需5步,成本低至150块

明敏发自凹非寺量子位|公众号QbitAI

0代码微调一个大模型,成本不到20美元?

过程也非常简单,只需5步。

如LLaMA、GPT、StableLM等爆火的开源生成式模型,都能搞定。

这就是MonsterAPI,一个最新火起来的API平台。

有人觉得这个开源领域的新工作,能改写AI开发的游戏规则,加速AI应用的速度。

ALPEX交易平台将于8月5日19:30暂停ETH以及ERC-20代币的充提业务:据官方公告,为了迎接以太坊伦敦硬分叉升级,ALPEX数字资产和衍生品交易平台预计将于2021年08月05日19:30(GMT+8) 左右,暂停ETH以及ERC-20代币的充币和提币业务,用户请及时进行充值、提现。升级期间,用户交易不受影响; 若硬分叉后并未产生新的代币,ALPEX将尽快恢复ETH及其它ERC-20网络代币的充值、提现业务。以上预计时间仅作参考,ALPEX将根据实际区块时间调整充提暂停时间.[2021/8/3 1:32:17]

还有人兴奋提问,之后会接入GPT-3/GPT-4吗?

Loopring Pay上线 支持免费发送ETH和ERC20代币:路印协议宣布Loopring Pay上线。通过扩展Loopring协议和Relayer,不仅支持zkRollup DEX,还支持付款。通过在在Loopring.io前端上启用这些功能,允许用户免费即时发送ETH和ERC20代币(没有gas费和交易费),同时由于继承了zkRollup,因此该方案不会损失安全性,可达到与以太坊具有同等的安全性保证。[2020/6/8]

所以,它具体是怎么实现的?

五步零代码搞定

简单理解,MonsterAPI就是将微调步骤尽可能简易化,让开发者不用再手动进行一系列设置,同时也提供便宜的GPU资源及内存优化。

行情 | 过去24小时里ERC20代币中活跃地址数排名前五的代币是:HT,BNB,ZRX,MANA,USDC:据TokenGazer数据分析显示,过去24小时里ERC20代币中活跃地址数排名前五的代币是:HT,BNB,ZRX,MANA,USDC。其中,MANA活跃地址数排名第四。日前,Upbit交易所推出了MANA/KRW交易对,并同步推出了交易竞赛,MANA买/卖单总数排名前三的交易者将获得数额不菲的MANA奖励,数据显示,目前MANA在Upbit的交易占比已达70%以上,换手率也处于较高水准。同时昨日MANA也更新了市场竞价版本,优化了用户使用体验,以上可能是导致MANA活跃地址数增加的原因 。[2019/3/29]

具体过程如下:

第一步,选择一个模型进行微调。

公告 | Coinbase Pro新增四个ERC20代币:据Coinbase官方博客消息,Coinnase Pro平台增加了四个以太坊ERC20标准的代币,分别是CVC、DNT、LOOM及MANA。最初将允许包括美国(不包括纽约)、英国、欧盟、加拿大、新加坡和澳大利亚的进行交易。[2018/12/8]

比如LLaMA-7B、GPT-J-6B、StableLM-7B等,MonsterAPI提供了至少10个基础大模型。

第二步,选择或创建微调任务。比如指令微调、文本分类等,或者自定义任务。

第三步,选择一个HuggingFace数据集。

MonsterAPI可以无缝集成HuggingFace数据集,可选择范围很大;还可以根据任务类型推荐数据集。

并且不用自己手动操作,就能自动设置好格式。

第四步,设置超参数。

第五步,检查和提交。

在设置好如上所有步骤后,确定没有错误就可以提交了。

MonsterAPI表示可以通过WandB上的日志来监测任务。

在其博客中写道,用DataBricksDolly15k微调LLaMA-7B完成3个epouch,成本仅需不到20美元。

官网显示,注册用户后会赠送2500积分。会员分为三档,收费分别是每月9美元/29美元/39美元。

除了微调以外,MonsterAPI还提供各种生成式AI的API接口,并表示成本比其他方案低80%。

背后公司已获110万美元融资

消息显示,MonsterAPI背后公司拿下了110万美元的种子前资金。

这家AI初创公司给自己的定位是要做“GPU领域的爱彼迎”,把全世界分散的GPU资源实现灵活调度,让开发者们能够以更低的价格使用。

创始人是两兄弟GauravVij和SaurabhVij。

其中GauravVij还创立了一家CV公司,正是因为CV公司需要面临巨大的云计算资本,才启发了他们要做这样一个平台。

SaurabhVij之前是欧洲核研究中心的粒子物理学家,同时也研究分布式计算。

兄弟俩表示在经过多轮技术迭代后,他们优化了消费级GPU在机器学习任务上的性能,使得运行WhisperAI模型的成本相较于AWS平台降低了90%,所以他们就想着为什么不利用这个方法来帮助数以万计的开发者们。

同时他们透露公司的一个客户使用他们的分散的GPU计算资源,已经节省了30万美元。

参考链接:https://blog.monsterapi.ai/no-code-fine-tuning-llm/https://www.enterpriseai.news/2023/06/09/monster-api-launches-the-airbnb-of-gpus-with-1-1m-pre-seed/

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

链链资讯

[0:15ms0-4:701ms