GPT-4全面被超越!全球最強大模型一夜易主
Anthropic剛剛官宣:Claude 3來了!
作為OpenAI最強競爭選手,此次它發(fā)布的新模型家族,以最強版Claude 3 Opus為代表,“已經(jīng)實現(xiàn)了接近人類的理解能力”——
在推理、數(shù)學、編碼、多語言理解和視覺方面,全面超越GPT-4在內(nèi)的所有大模型,直接重新樹立行業(yè)基準的那種。
淺看一下這份成績單,就十分扎眼~
幾項數(shù)學類評測都是用0-shot超越GPT-4的4-8 shot。
除此之外,此前就以長下文窗口見長的Claude,此次全系列大模型可提供 200K 上下文窗口,并且接受超過100萬Tokens輸入。
Gemini 1.5 Pro:嗯?
目前可以免費體驗第二強Sonnet,Opus最強版供Claude Pro付費用戶使用,但大模型競技場也可以白嫖。于是乎,網(wǎng)友們已經(jīng)開始瘋玩上了。(Doge)
另外,Opus和Sonnet也開放API訪問,開發(fā)者可以立即使用。
有人直接艾特奧特曼:好了,你現(xiàn)在可以發(fā)布GPT-5了。
不過奧特曼可能還在煩馬斯克的訴訟……
最新最強大模型發(fā)布
此次Claude 3家族共有三個型號:小杯Haiku、中杯Sonnet以及大杯Opus,成本和性能依次遞增。
首先,在性能參數(shù)上,Claude 3全系多方面全面提升。其中Opus在MMLU、GPQA、GSM8K等評估基準上領先于其他所有模型:
還有在視覺能力上,它能可以處理各種視覺格式,包括照片、圖表、圖形和技術圖表。
對于這樣性能結(jié)果,有專業(yè)人士表達了自己的看法。
比如愛丁堡大學博士生、 中文大模型知識評估基準C – Eval提出者之一符堯就表示,像MMLU / GSM8K / HumanEval這些基準,已經(jīng)嚴重飽和:所有模型的表現(xiàn)都相同。
他認為,真正區(qū)分模型性能基準的是MATH and GPQA。
另外,在拒絕回答人類問題方面,Claude 3也前進了一大步,拒絕回答的可能性顯著降低
在上下文以及記憶能力上,他們用大海撈針(Needle In A Haystack,NIAH)來評估衡量大模型從大量數(shù)據(jù)中準確召回信息的能力。
結(jié)果Claude 3 Opus 不僅實現(xiàn)了近乎完美的召回率,超過 99% 的準確率。而且在某些情況下,它甚至能識別出 “針 “句似乎是人為插入原文的,從而識別出評估本身的局限性。
還在生物知識、網(wǎng)絡相關知識等方面取得了進步,但出于負責任的考慮,仍處于AI安全級別2(ASL-2)。
其次,在響應時間上,Claude 3大幅縮短,做到近乎實時。
官方介紹,即將發(fā)布的小杯Haiku能夠在三秒內(nèi)閱讀并理解帶有圖表的長度約10k token的arXiv論文。
而中杯Sonnet能夠在智能水平更高的基礎上,速度比Claude 2和Claude 2.1快2倍,尤其擅長知識檢索或自動化銷售等需快速響應的任務。
大杯Opus的智能水平最高,但速度不減,與Claude 2和Claude 2.1近似。
官方對三款型號的模型也有清晰的定位。
大杯Opus:比別家模型更智能。適用于復雜的任務自動化、研發(fā)和制定策略;
中杯Sonnet:比其他同類模型更實惠。更適合規(guī)?;?。適用于數(shù)據(jù)處理、RAG、在中等復雜度工作流程中節(jié)省時間;
小杯Haiku:比同類模型更快速、實惠。適用于與用戶實時互動,以及在簡單工作流程中節(jié)省成本;
在價格方面,最便宜的小杯定價0.25美元/1M tokens輸入,最貴的大杯定價75美元/1M tokens輸入
對比GPT-4 Turbo,大杯價格確實高出不少,也能體現(xiàn)AnthropicAI對這款模型非常有信心。
第一手實測反饋
既如此,那就先免費來嘗嘗鮮~
目前官方頁面已經(jīng)更新,Claude展現(xiàn)了「理解和處理圖像」這一功能,包括推薦風格改進、從圖像中提取文本、將UI轉(zhuǎn)換為前端代碼、理解復雜的方程、轉(zhuǎn)錄手寫筆記等。
即使是模糊不清的有年代感的手記文檔,也能準確OCR識別:
底下寫著:你正在使用他們第二大智能模型Claude 3 Sonnet。
然鵝,可能是人太多的原因,嘗試了幾次都顯示“Failed”
不過,網(wǎng)友們也已經(jīng)po出了一些測試效果,比如讓Sonnet解謎題。
為其提供一些示例,要求它找出數(shù)字之間的關系,比如“1 Dimitris 2 Q 3”,意思是3是1和2相加的結(jié)果。
結(jié)果Sonnet成功解出-1.1加8等于6.9,所以“X”的值應該是6.9:
還有網(wǎng)友發(fā)現(xiàn)Sonnet現(xiàn)在也可以讀取 ASCII 碼了,直呼:這是GPT-4 ++的水平了。
在編程任務上,誰寫的代碼好先不說,Claude 3至少不會像GPT-4一樣偷懶。
還有體驗到了Opus的玩家,在線給模型挖坑,可opus硬是完美躲避不上當:
初看這效果,感覺還行。這時候應該艾特OpenAI:GPT-5在哪里?
好了,感興趣的朋友,可以戳下方鏈接體驗啦~