以太坊價格 以太坊價格
Ctrl+D 以太坊價格
ads
首頁 > BNB > Info

GPT:GPT-4震撼發布:多模態大模型,直接升級ChatGPT、必應,開放API,游戲終結了?

Author:

Time:1900/1/1 0:00:00

誰能革得了ChatGPT的命?現在看來還是OpenAI自己。

在ChatGPT引爆科技領域之后,人們一直在討論AI「下一步」的發展會是什么,很多學者都提到了多模態,我們并沒有等太久。今天凌晨,OpenAI發布了多模態預訓練大模型GPT-4。

GPT-4實現了以下幾個方面的飛躍式提升:強大的識圖能力;文字輸入限制提升至2.5萬字;回答準確性顯著提高;能夠生成歌詞、創意文本,實現風格變化。

「GPT-4是世界第一款高體驗,強能力的先進AI系統,我們希望很快把它推向所有人,」OpenAI工程師在介紹視頻里說道。

似乎是想一口氣終結這場游戲,OpenAI既發布了論文、SystemCard,把ChatGPT直接升級成了GPT-4版的,也開放了GPT-4的API。

另外,微軟營銷主管在GPT-4發布后第一時間表示:「如果你在過去六周內的任何時候使用過新的Bing預覽版,你就已經提前了解了OpenAI最新模型的強大功能。」是的,微軟的新必應早就已經用上了GPT-4。

接下來,就讓我們細細品味這場震撼發布。

GPT-4:我SAT考710,也能當律師

GPT-4是一個大型多模態模型,能接受圖像和文本輸入,再輸出正確的文本回復。實驗表明,GPT-4在各種專業測試和學術基準上的表現與人類水平相當。例如,它通過了模擬律師考試,且分數在應試者的前10%左右;相比之下,GPT-3.5的得分在倒數10%左右。

OpenAI花了6個月的時間使用對抗性測試程序和ChatGPT的經驗教訓對GPT-4進行迭代調整,從而在真實性、可控性等方面取得了有史以來最好的結果。

在過去的兩年里,OpenAI重建了整個深度學習堆棧,并與Azure一起為其工作負載從頭開始設計了一臺超級計算機。一年前,OpenAI在訓練GPT-3.5時第一次嘗試運行了該超算系統,之后他們又陸續發現并修復了一些錯誤,改進了其理論基礎。這些改進的結果是GPT-4的訓練運行獲得了前所未有的穩定,以至于OpenAI能夠提前準確預測GPT-4的訓練性能,它也是第一個實現這一點的大模型。OpenAI表示他們將繼續專注于可靠的擴展,進一步完善方法,以幫助其實現更強大的提前預測性能和規劃未來的能力,這對安全至關重要。

交通銀行香港子公司正與多家香港持牌加密公司合作:4月17日消息,據《華爾街日報》援引幾家加密貨幣公司透露,中國交通銀行股份有限公司香港子公司正與多家在香港獲得牌照的加密貨幣公司合作,并正在與其他受監管的公司就為其開立賬戶進行磋商。

4月14日,HashKey Group旗下合規交易平臺HashKey PRO已經與ZABank和交通銀行(香港)建立了伙伴關系,作為結算銀行,提供法幣的存款和提款服務。[2023/4/17 14:08:26]

OpenAI正在通過ChatGPT和API發布GPT-4的文本輸入功能。圖像輸入功能方面,為了獲得更廣泛的可用性,OpenAI正在與其他公司展開合作。

OpenAI今天還開源了OpenAIEvals,這是其用于自動評估AI模型性能的框架。OpenAI表示此舉是為了讓所有人都可以指出其模型中的缺點,以幫助OpenAI進一步改進模型。

有趣的是,GPT-3.5和GPT-4之間的區別很微妙。當任務的復雜性達到足夠的閾值時,差異就會出現——GPT-4比GPT-3.5更可靠、更有創意,并且能夠處理更細微的指令。為了了解這兩個模型之間的差異,OpenAI在各種基準和一些為人類設計的模擬考試上進行了實驗。

OpenAI還在為機器學習模型設計的傳統基準上評估了GPT-4。GPT-4大大優于現有的大型語言模型,以及大多數SOTA模型:

許多現有的機器學習基準測試都是用英語編寫的。為了初步了解GPT-4在其他語言上的能力,研究團隊使用AzureTranslate將MMLU基準——一套涵蓋57個主題的14000個多項選擇題——翻譯成多種語言。在測試的26種語言的24種中,GPT-4優于GPT-3.5和其他大語言模型的英語語言性能:

FTX現任CEO證實FTX過去在各種投資上花費大約50億美元:金色財經報道,FTX現任CEO John Ray證實,FTX過去在各種投資和收購上花費了大約50億美元,另外還有10億美元作為貸款和其他付款提供給內部人員。特別是收購和投資可能不再具有它們最初持有的相同價值。

Ray表示,FTX缺乏安全控制,允許Alameda借入FTX的資金且沒有任何有效限制,缺乏可靠的財務報表和獨立治理,這只是他發現的一些問題。[2022/12/13 21:40:40]

就像許多使用ChatGPT的公司一樣,OpenAI表示他們內部也在使用GPT-4,因此OpenAI也在關注大型語言模型在內容生成、銷售和編程等方面的應用效果。OpenAI還使用GPT-4輔助人們評估AI輸出,這也是OpenAI對其策略的第二階段。OpenAI既是GPT-4的開發者,也是使用者。

GPT-4:我能玩梗圖

GPT-4可以接受文本和圖像形式的prompt,新能力與純文本設置并行,允許用戶指定任何視覺或語言任務。

具體來說,它在人類給定由散布的文本和圖像組成的輸入的情況下生成相應的文本輸出。在一系列領域——包括帶有文本和照片的文檔、圖表或屏幕截圖上——GPT-4展示了與純文本輸入類似的功能。此外,它還可以通過為純文本語言模型開發的測試時間技術得到增強,包括少樣本和思維鏈prompt。

比如給GPT-4一個長相奇怪的充電器的圖片,問為什么這很可笑?

GPT-4回答道,VGA線充iPhone。

格魯吉亞和西亞的人均每日肉類消費,算平均數:

看起來,現在的GPT已經不會在計算上胡言亂語了:

派盾:孫宇晨一地址將1.64億枚USDC轉賬至Circle:10月14日消息,據派盾預警監測,標記為孫宇晨的0x611F開頭的地址將164,000,000枚USDC轉賬至Circle。此外,孫宇晨另一個以0x3Dd開頭的地址已從Aave Protocol V2 中提取約2000萬美元的TUSD并轉移到幣安。[2022/10/14 14:27:26]

還是太簡單,那直接讓它做題,還是個物理題:

GPT-4看懂了法語題目,并完整解答:

GPT-4可以理解一張照片里「有什么不對勁的地方」:

GPT-4還可以量子速讀看論文,如果你給它InstructGPT的論文,讓它總結摘要,就會變成這樣:

如果你對論文里的某一個圖感興趣呢?GPT-4也可以解釋一下:

接著來,問GPT-4梗圖是什么意思:

它給出了詳細的回答:

V神為以太坊合并辯護:PoS機制資產不是證券:7月13日消息,以太坊聯合創始人Vitalik Buterin周二在推特上為以太坊網絡向PoS過渡進行了辯護,回應有關使用此類共識機制的資產是一種證券的論點。

Swan Bitcoin執行主編Nick Payton周二表示,“你可以投票改變其屬性,這證明了它是一種證券。”他最后表示“Love, Bitcoin”,作為對PoW共識機制的認可。

Vitalik Buterin駁斥了這一說法,稱其為“徹頭徹尾、赤裸裸的謊言”,并補充說PoS不包括對協議參數的投票,PoW也不包括。(Forkast)[2022/7/13 2:09:46]

那么漫畫呢?

讓GPT-4解釋為什么要給神經網絡加層數,似乎有一點加倍的幽默感。

不過OpenAI在這里說了,圖像輸入是研究預覽,仍不公開。

研究人員用學術的Benchmark視角來解讀GPT-4的看圖能力,然而這已經不夠了,他們還能不斷發現該模型可以令人興奮地處理新任務——現在的矛盾是AI的能力和人類想象力之間的矛盾。

看到這里,應該有研究人員感嘆:CV不存在了。

可控性

與具有固定冗長、平靜語氣和風格的經典ChatGPT個性不同,開發人員現在可以通過在「系統」消息中描述這些方向來規定他們的AI的風格和任務。

系統消息允許API用戶在一定范圍內定制化實現不同的用戶體驗。OpenAI知道你們在讓ChatGPT玩Cosplay,也鼓勵你們這樣做。

局限性

廣告集團贊意協助dear BOY friend親愛男友簽約BAYC#9279作為代言形象:5月27日消息,廣告集團贊意宣布與Bored Ape Yacht Club#9279及#1131持有者達成合作,協助其推進在中國市場的品牌合作。男士理容生活潮牌公司dear BOY friend親愛男友已在贊意的協助下簽約BAYC#9279為代言形象,并發布BAYC #9279×dear BOY friend親愛男友聯名限定禮盒以及虛擬形象KINGBOY,未來會基于KINGBOY發布NFT數字藏品。此外,親愛男友還將建立Web3空間KING BOY SPACE,并持續推出數字藏品和虛擬資產。[2022/5/27 3:45:34]

盡管功能已經非常強大,但GPT-4仍與早期的GPT模型具有相似的局限性,其中最重要的一點是它仍然不完全可靠。OpenAI表示,GPT-4仍然會產生幻覺、生成錯誤答案,并出現推理錯誤。

目前,使用語言模型應謹慎審查輸出內容,必要時使用與特定用例的需求相匹配的確切協議。

總的來說,GPT-4相對于以前的模型已經顯著減輕了幻覺問題。在OpenAI的內部對抗性真實性評估中,GPT-4的得分比最新的GPT-3.5模型高40%:

GPT-4在TruthfulQA等外部基準測試方面也取得了進展,OpenAI測試了模型將事實與錯誤陳述的對抗性選擇區分開的能力,結果如下圖所示。

實驗結果表明,GPT-4基本模型在此任務上僅比GPT-3.5略好;然而,在經過RLHF后訓練之后,二者的差距就很大了。以下是GPT-4的測試示例——并不是所有時候它都能做出正確的選擇。

該模型在其輸出中可能會有各種偏見,OpenAI在這些方面已經取得了進展,目標是使建立的人工智能系統具有合理的默認行為,以反映廣泛的用戶價值觀。

GPT-4通常缺乏對其絕大部分數據截止后發生的事件的了解,也不會從其經驗中學習。它有時會犯一些簡單的推理錯誤,這似乎與這么多領域的能力不相符,或者過于輕信用戶的明顯虛假陳述。有時它也會像人類一樣在困難的問題上失敗,比如在它生成的代碼中引入安全漏洞。

GPT-4預測時也可能出錯但很自信,意識到可能出錯時也不會double-check。有趣的是,基礎預訓練模型經過高度校準。然而,通過OpenAI目前的后訓練過程,校準減少了。

風險及緩解措施

OpenAI表示,研究團隊一直在對GPT-4進行迭代,使其從訓練開始就更加安全和一致,所做的努力包括預訓練數據的選擇和過濾、評估和專家參與、模型安全改進以及監測和執行。

GPT-4有著與以前的模型類似的風險,如產生有害的建議、錯誤的代碼或不準確的信息。同時,GPT-4的額外能力導致了新的風險面。為了了解這些風險的程度,團隊聘請了50多位來自人工智能對齊風險、網絡安全、生物風險、信任和安全以及國際安全等領域的專家,對該模型在高風險領域的行為進行對抗性測試。這些領域需要專業知識來評估,來自這些專家的反饋和數據為緩解措施和模型的改進提供了依據。

預防風險

按照demo視頻里OpenAI工程師們的說法,GPT-4的訓練在去年8月完成,剩下的時間都在進行微調提升,以及最重要的去除危險內容生成的工作。

GPT-4在RLHF訓練中加入了一個額外的安全獎勵信號,通過訓練模型拒絕對此類內容的請求來減少有害的輸出。獎勵是由GPT-4的零樣本分類器提供的,它判斷安全邊界和安全相關prompt的完成方式。為了防止模型拒絕有效的請求,團隊從各種來源收集多樣化的數據集,在允許和不允許的類別上應用安全獎勵信號。

這些措施大大在許多方面改善了GPT-4的安全性能。與GPT-3.5相比,模型對不允許內容的請求的響應傾向降低了82%,而GPT-4對敏感請求的響應符合政策的頻率提高了29%。

訓練過程

與之前的GPT模型一樣,GPT-4基礎模型經過訓練可以預測文檔中的下一個單詞。OpenAI使用公開可用的數據以及已獲得許可的數據進行訓練。訓練數據是一個網絡規模的數據語料庫,包括數學問題的正確和錯誤解決方案、弱推理和強推理、自相矛盾和一致的陳述,以及各種各樣的意識形態和想法。

因此,當提出問題時,基礎模型的回應可能與用戶的意圖相去甚遠。為了使其與用戶意圖保持一致,OpenAI依然使用強化學習人類反饋(RLHF)來微調模型的行為。請注意,該模型的能力似乎主要來自預訓練過程——RLHF不會提高考試成績。但是模型的控制來自后訓練過程——基礎模型甚至需要及時的工程設計來回答問題。

GPT-4的一大重點是建立了一個可預測擴展的深度學習棧。主要原因是,對于像GPT-4這樣的大型訓練,進行廣泛的特定模型調整是不可行的。團隊開發了基礎設施和優化,在多種規模下都有可預測的行為。為了驗證這種可擴展性,他們提前準確地預測了GPT-4在內部代碼庫上的最終損失,方法是通過使用相同的方法訓練的模型進行推斷,但使用的計算量為1/10000。

現在,OpenAI可以準確地預測在訓練過程中優化的指標。例如從計算量為1/1000的模型中推斷并成功地預測了HumanEval數據集的一個子集的通過率:

有些能力仍然難以預測。例如,InverseScaling競賽旨在找到一個隨著模型計算量的增加而變得更糟的指標,而hindsightneglect任務是獲勝者之一。GPT-4扭轉了這一趨勢。

能夠準確預測未來的機器學習能力對于技術安全來說至關重要,但它并沒有得到足夠的重視,OpenAI表示正在投入更多精力開發相關方法,并呼吁業界共同努力。

OpenAI表示正在開源OpenAIEvals軟件框架,它被用于創建和運行基準測試以評估GPT-4等模型,同時可以逐樣本地檢查模型性能。

ChatGPT直接升級至GPT-4版

GPT-4發布后,OpenAI直接升級了ChatGPT。ChatGPTPlus訂閱者可以在chat.openai.com上獲得具有使用上限的GPT-4訪問權限。

要訪問GPT-4API,用戶可以注冊等待。OpenAI會邀請部分開發者體驗。

獲得訪問權限后,用戶目前可以向GPT-4模型發出純文本請求。至于價格方面,定價為每1k個prompttoken0.03美元,每1k個completiontoken0.06美元。默認速率限制為每分鐘40k個token和每分鐘200個請求。

GPT-4的上下文長度為8,192個token。OpenAI還提供了32,768個token上下文版本的有限訪問,該版本也將隨著時間自動更新(當前版本gpt-4-32k-0314,也支持到6月14日)。定價為每1Kprompttoken0.06美元和每1kcompletiontoken0.12美元。

以上,就是今天OpenAI關于GPT-4的所有內容了。令人不滿的一點是,OpenAI公開的技術報告中,不包含任何關于模型架構、硬件、算力等方面的更多信息,可以說是很不Open了。

不管怎樣,迫不及待的用戶大概已經開始測試體驗了吧。

最后,也想問一下讀者,看完GPT-4的發布,你有何感想。

Tags:GPTOPENPENNAIAIGPT價格Open Proprietary ProtocolOpenLeverageINAI

BNB
ETH:一文說透以太坊LSD:已成第二大加密市場領域,3月將迎來高光時刻

這是白話區塊鏈的第1871期原創?作者|VedantUtage編譯|火火出品|白話區塊鏈根據defillama數據,截至今日,存入流動性質押協議的加密資產總價值為141億美元.

1900/1/1 0:00:00
STA:解讀Stader:DVT混合節點,多鏈低市值LSD協議能否迎來春天?

一個共識,今年加密市場的核心敘事是LSD。于是,我們可以看到,很多協議產品都開始向LSD靠攏,比如FraxFinance推出了frxETH,MakerDAO即將推出ETHD,Yearn即將推出y.

1900/1/1 0:00:00
STACK:2周3倍,是時候了解一下Stacks的生態了

3月1日,Stacks原生TokenSTX在大盤情緒不太樂觀的情況下,逆勢拉盤上漲突破1美元,24小時漲幅達到17.41%.

1900/1/1 0:00:00
stETH:小而美的DeFi收益交易協議——Pendle

一、項目簡介 PendleFinance是一款部署在Ethereum和Arbitrum上的DeFi收益交易協議.

1900/1/1 0:00:00
SEQ:長推:淺析Arbitrum 新Sequencer 交易排序策略

Arbitrum提出了一種新的Sequencer交易排序策略介紹:Arbitrum目前使用的交易排序的方式是FCFS(先進先出).

1900/1/1 0:00:00
SSV:長推:數據分析LSD板塊的資金流向

本文試圖從整理鏈上數據和交易量數據去判斷LSD板塊的資金情況。第一個項目是SSV,過去兩個月SSV代幣已經漲了5倍左右,CEX持幣量從33%上漲到了39%,而DEX持有量下降,Funds持幣量從.

1900/1/1 0:00:00
ads