以太坊價格 以太坊價格
Ctrl+D 以太坊價格
ads

ROM:幾行代碼,GPT-3變ChatGPT!吳恩達高徒、華人CEO震撼發布Lamini引擎

Author:

Time:1900/1/1 0:00:00

來源:新智元編輯:Aeneas好困

快速定制模型的LLM引擎Lamini來了,開發者狂喜!

ChatGPT雖好,但始終有門檻。通常,只有擁有AI博士學位的大型機器學習團隊,才能這樣訓練一個模型。

為了把這個門檻打下來,團隊構建了Lamini引擎,從此,每個開發者都能夠擁有從GPT-3訓練ChatGPT的超能力!

劃重點:可以商用!可以商用!可以商用!

項目地址:https://github.com/lamini-ai/lamini/

Lamini的開發團隊表示,你需要的只是幾行代碼,就可以用托管數據生成器倆訓練自己的LLM,包括權重和其他所有的內容。

此外,你也可以使用開源的LLM,用Lamini庫對生成的數據進行微調。以及訪問完整的LLM訓練模塊,使用從LoRa等速度優化,到虛擬私有云(VPC)部署等企業功能。

對此,英偉達科學家JimFan表示,LLaMa+自定義數據正在成為新的范式,而Lamini的推出也帶了一種全新的模式——FaaS,微調即服務。

LG、Hashed退出Klaytn區塊鏈管理委員會:金色財經報道,LG、Hashed退出Klaytn區塊鏈管理委員會。[2023/5/15 15:04:02]

MLOps的未來是「LMOps」。哪里有標準化,哪里就有機會。

OpenAI科學家,前特斯拉人工智能總監AndrejKarpathy也表示,LLM定制化的生態正在愈發火爆。

訓LLM就像prompt-tuning一樣簡單

寫一個prompt如此容易,但想要從基礎模型訓練出一個大語言模型,卻是如此困難。

因為需要花費大量時間,來找出微調模型失敗的原因,所以對數據集微調的迭代周期都是以月為單位的。

與之相反,微調prompt的迭代,只需要幾秒鐘,并且在幾個小時內,性能都能保持穩定。

這個過程只需要把有限數量的數據整合到prompt中就可以了,并不需要動輒幾TB的數據。

ChatGPT的誕生十分艱難,OpenAI的團隊花了幾個月的時間,在基礎的GPT-3模型上微調,并進行RLHF。這個門檻極高,只有大型的ML團隊才能完成這種訓練。

有500強企業的技術負責人這樣抱怨過:「我們團隊的10名機器學習工程師用了OpenAI的微調API,結果我們的模型反而變得更差了,怎么辦啊。」

火必宣布上線AIDOGE (ArbDoge AI) ,充幣業務將于今日17時開放:據官方消息,火必宣布上線AIDOGE (ArbDoge AI),其充幣業務將于今日17時(GMT+8) 開放。公告顯示,AIDOGE幣幣交易(AIDOGE/USDT)將于今日20時(GMT+8)開放;其提幣業務將于明日20時(GMT+8)開放。

據悉,AIDOGE是Arbitrum生態第一個Meme Token,將免費空投給此前完成ARB代幣Claim的社區用戶。AIDOGE作為一種通縮代幣,將被AIDOGE生態系統應用程序使用。[2023/4/18 14:11:01]

「我真的不知道該怎么充分利用數據,我已經用盡了所有從在線教程中能學到的prompt魔法了。」

這,就是研究者構建Lamini的原因:讓每個開發者可以直接從GPT-3訓練ChatGPT。

任意LLM,秒變ChatGPT!

Lamini是一個LLM引擎,可以讓不僅僅是機器學習專家的任何開發人員,都能在大型數據集中,把高性能的LLM訓練得像ChatGPT一樣好。

這個過程,只需要Laimini庫的幾行代碼即可。

值得注意的是,這個庫中的優化遠遠超出了現在開發者可以使用的范圍,從更具挑戰性的優化到更簡單的優化。

比如,你想從不同的角度生成一個廣告文案。

首先,從llama模塊導入LLM引擎:

fromllamaimportLLMllm=LLM(name="marketing")

接下來,需要定義輸入和輸出類型。注意,這里一定要包括上下文,因為可以有助于LLM在自然語言中進行理解。

Telegram將在TON鏈上推出用戶名拍賣平臺:金色財經報道,Telegram周四在官方頻道中表示,該消息傳遞應用程序即將在開放網絡(TON)區塊鏈上推出用戶名拍賣平臺。

Telegram的創始人Pavel Durov在8月透露了這個項目,他引用了最近TON拍賣其錢包用戶名的成功的靈感。他表示,如果我們將保留的用戶名、群組和頻道鏈接進行拍賣,擁有7億用戶的Telegram會多么成功。另外,Telegram生態系統的其他元素,包括頻道、貼紙或表情符號,以后也可以成為這個市場的一部分。(the block)[2022/10/21 16:34:37]

fromllamaimportType,ContextclassAdAspects(Type):tone:str=Context("toneofthemarketingcopy")product_features:list=Context("productfeaturestopromote")audience:str=Context("targetaudienceforthemessage")subject:str=Context("subjectortopicofthemessage")goal:str=Context("goalofthismarketingcampaignandmessage")classAdCopy(Type):title:str=Context("googleadtitletag")description:str=Context("googleaddescription")keywords:list=Context("keywordsforthesearchengine")

然后就可以開始提問了:

Coinbase將MXC、AURORA列入上幣計劃:8月22日消息,Coinbase將物聯網平臺MXProtocol代幣MXC、NEAR生態EVM擴容網絡Aurora代幣AURORA列入路線圖資產列表。據悉,Coinbase此前決定,為提高資產透明度,將提前列出已決定上線的資產,并移至路線圖。[2022/8/22 12:41:36]

語氣:大膽,但不傲慢

特色:亞洲醬料和香料、家常調料和套餐包,可以輕松在家烹飪。

aspects=AdAspects(tone="boldandbright,butnotarrogant",product_features=,audience="suburbanfamilies",subject="deliciousasianmealswithoutgoingtoarestaurant",goal="getsuburbanmomsanddadstotrybuytheirfirstomsompackorfreetastingkit")ad_copy=llm(input=aspects,output_type=AdCopy)print(f"Adcopy:{ad_copy}")模型輸出:

嘗試Omsom的美味亞洲醬料、香料、家常調料和套餐包。輕松為家人在家做出美味佳肴。

>title='DeliciousAsianMealsWithoutGoingtoaRestaurant|Omsom'description="TryOmsom'sdeliciousAsiansauces,aromatics,andhome-cookedseasoningsandmealpacks.Easilycookdeliciousmealsathomeforyourfamily."keywords=

比特幣全網未確認交易數量為2992筆:金色財經消息,數據顯示,目前比特幣全網未確認交易數量為2992筆,全網算力為217.84 EH/s,24小時交易速率為3.33交易/秒,目前全網難度為30.28 T,預測下次難度上調1.35%至30.69 T,距離調整還剩6天12小時。[2022/6/16 4:30:08]

如何創建自己的「ChatGPT」

基礎模型能理解一般的英語,但如果需要它們學習一些垂直語言和規則,prompt微調并不足夠,很多時候我們都需要構建自己的LLM。

利用用下面這個步驟,就能獲得像ChatGPT一樣遵循指令的LLM。

嘗試prompt-tuningChatGPT或其他模型

可以使用Lamini庫的API,在不同模型之間快速進行prompt-tuning,只需一行代碼,即可在OpenAI和開源模型之間切換。

Lamini庫已經優化了正確的prompt,這樣開發者就可以使用不同的模型,不必擔心如何為每個模型設置prompt的格式。

構建一個包含輸入-輸出對的大型數據集

這些數據集會向模型展示,它應該如何響應輸入,無論是遵循英文說明,還是以JSON響應。

研究者剛剛發布了一個只有幾行代碼的repo,使用Lamini庫,僅從100個數據點中,就能生成50k數據點。

而且因為使用Lamini庫來啟動Lamini引擎,所以這個過程根本不需要用到GPU。

在repo中,已經包含一個開源的70+k數據集。

項目地址:https://github.com/lamini-ai/lamini/

在大型數據集上微調基礎模型

除了數據生成器,研究者還發布了一個LLM,它使用Lamini對生成的數據進行了微調。以編程方式執行此操作的功能也會很快發布。

也可以把OpenAI的微調API作為起步。

在微調模型上進行RLHF

使用Lamini,就不再需要大型ML和人工標記團隊來運行RLHF。

部署到云端

只需點擊產品或功能中的API端點即可。

專為LLM打造的數據生成器

簡單來說,依照以下幾個步驟,就可以訓練自己的大語言模型了。

用于優化prompt微調和類型化輸出的Lamini庫。

用于微調和RLHF的高級Lamini庫,只需幾行代碼。

史上首個托管數據生成器,用于創建數據,來訓練遵循指令的LLM。注意,已獲得商業使用許可!

開源的指令跟隨LLM,使用上述工具,只需幾行代碼即可完成。

數據生成器工作原理

Lamini數據生成器是一個LLM管線,它采用原始的100多條指令的小集合,與預期的響應配對,生成50k+新的配對,靈感來自Stanford的Alpaca。這個生成管線使用Lamini庫來定義和調用LLM,以生成不同但相似的指令和響應對。

根據這些數據訓練后,你的LLM會遵循這些指示,因而得到改進。對于使用開源LLM的生成管線,研究者提供了一個很好的默認值,LaminiOpen和LaminiInstruct。

隨著每天新的LLM發布,研究者都會將默認值更新為性能最佳的模型。在目前的版本中,LaminiOpen用的是EleutherAI的Pythia,LaminiInstruct用的是Databricks的Dolly。

LaminiOpen會生成更多指令,而LaminiInstruct會生成這些指令的成對響應。

最終生成的數據集可供免費商業使用,已經通過CC-BY許可。

僅用一行代碼,就可以將Lamini庫的默認值換成其他開源或OpenAI模型。

研究者發現,OpenAI模型的平均表現更好,但它們的許可限制了將生成數據用于訓練類ChatGPT模型的商用。

對生成數據進行微調

在這個過程中,生成的數據會質量不一。

在微調之前,下一步就是將生成的數據過濾為高質量數據。

然后,Lamini會通過在這個過濾后生成的數據集上訓練基礎模型,來創建自定義LLM。

研究者已經發布了一個開源指令跟隨LLM,可以用Lamini來訓練Pythia基礎模型,生成的37k指令是從70k中篩選出來的。

顯然,Lamini庫的出現,讓迭代周期變得更快、更有效,有更多的人能夠構建模型,而不僅僅是試驗各種prompt。

團隊介紹

SharonZhou是Lamini的聯合創始人兼首席執行官。

個人主頁:https://sharonzhou.me/

她在哈佛大學獲得了計算機科學與古典文學聯合學士學位,并以最高榮譽獲得了碩士學位。

隨后,她在斯坦福大學獲得了計算機科學博士學位,師從吳恩達。

2022年,29歲的Zhou入選《麻省理工科技評論》「35歲以下科技創新35人」。

GregoryDiamos是MLPerf的聯合創始人。

他曾是百度硅谷AI實驗室的創始成員,對DeepSpeech和DeepVoice系統有貢獻。

參考資料:

https://lamini.ai/blog/introducing-lamini

Tags:MINMINIPROROMgemini郭家毅幾冠教練gemini在哪里直播平臺pros幣是不是正規幣Romeo Doge

比特幣價格
MPT:BuidlerDAO x KNN3:大型語言模型使用經驗

作者:@於方仁@CarolineSun 編排:@黑羽小斗 LLM 大型語言模型是利用海量的文本數據進行訓練海量的模型參數.

1900/1/1 0:00:00
MOMO:詳解Lens Protocol擴展解決方案Momoka:運作方式、基本構成與特點

原文作者:LensProtocol原文編譯:PengSUN,ForesightNews4月27日.

1900/1/1 0:00:00
BNB:熊市并未結束?12張圖解讀加密行業“迷之四月”

在經歷了表現不俗的2023年一季度后,加密行業并未繼續高歌猛進,4月份再次陷入低迷,有人認為熊市并未完全結束,但也有人認為或許只是暫時市場修正,并不會影響長期發展.

1900/1/1 0:00:00
人工智能:巴比特 | 元宇宙每日必讀:抖音發布11條AI生成內容的平臺規范,要求發布者對AI生成內容進行顯著標識,虛擬人需在平臺進行注冊

摘要:今日,抖音發布關于人工智能生成內容的平臺規范與行業倡議,分別對創作者、主播、用戶、商家、廣告主等平臺生態參與者提出了要求.

1900/1/1 0:00:00
FLO:Stable Diffusion 團隊放大招!新繪畫模型直出 AI 海報,像素級生成

來源:量子位 開源AI繪畫扛把子,StableDiffusion背后公司StabilityAI再放大招!全新開源模型DeepFloydIF,一下獲星2千+并登上GitHub熱門榜.

1900/1/1 0:00:00
加密貨幣:美國銀行危機再起 助推比特幣強勢反彈

隨著投資者擔憂美國銀行業危機進一步深化,比特幣引領加密市場強勢反彈。比推終端數據顯示,比特幣打破了連續五天的下跌趨勢,突破2.9萬美元,盤中一度觸及3萬美元,市值第二大加密貨幣以太坊上漲4.5%.

1900/1/1 0:00:00
ads