波多野结衣中文字幕一区二区三区,亚洲av无码专区国产乱码电影,亚洲国产精品久久亚洲精品,欧美激情精品久久久久久

壓軸大作!OpenAI推出o3模型系列:AGI評測最佳成績達(dá)到驚人的87.5%,人類水平的門檻為85%

壓軸大作!OpenAI推出o3模型系列:AGI評測最佳成績達(dá)到驚人的87.5%,人類水平的門檻為85%

仰瓊音 2024-12-21 科技前沿 21 次瀏覽 0個(gè)評論

  每經(jīng)編輯 杜宇

  當(dāng)?shù)貢r(shí)間12月20日周五,在為期12個(gè)工作日的線上新品發(fā)布活動(dòng)最后一日,OpenAI宣布了“壓軸大作”:o1的下一代模型o3,而且一開始就要推出兩個(gè)版本,一個(gè)正式的o3,還有一個(gè)相對較小的精簡版o3-mini。

  OpenAI的CEO Sam Altman在直播中提到,OpenAI本次12日的活動(dòng)第一天官宣了上線正式版o1、所謂滿血o1。活動(dòng)最后一天又有o3亮相,首尾都由介紹推理模型呼應(yīng),也算是一種精心設(shè)計(jì)。

  邏輯上說,o1的下一代應(yīng)該命名為o2,至于為什么新模型叫o3,之前報(bào)道稱,OpenAI是為了避免和名為O2的英國電信服務(wù)商沖突。Altman也確認(rèn)了這點(diǎn),說出于對O2的尊敬,并沒有起同樣的名字。

  直播中,Altman稱o3是“一個(gè)非常、非常聰明的模型”。OpenAi的評估結(jié)果也顯示,無論在軟件工程、編寫代碼,還是競賽數(shù)學(xué)、掌握人類博士級(jí)別的自然科學(xué)知識(shí)能力方面,o3都明顯高出o1一籌。同時(shí)測試顯示,o3在OpenAI實(shí)現(xiàn)通用人工智能(AGI)這一奮斗目標(biāo)上取得了突破,最高的測試成績達(dá)到了類人水平。

  今年9月,OpenAI發(fā)布o(jì)1的預(yù)覽版o1 preview時(shí)稱,o1是第一個(gè)具備真正通用推理能力的大模型,它的核心能力推理在測試化學(xué)、物理和生物學(xué)專業(yè)知識(shí)的基準(zhǔn)GPQA-diamond上得到了充分體現(xiàn)。據(jù)OpenAI評估,o1在該測試中全面超過了人類博士專家,準(zhǔn)確率達(dá)到78.3%,而人類專家的得分為69.7%。

  在12月20日的直播中,OpenAI展示了o3的測評表現(xiàn):

  根據(jù)OpenAI8月推出的SWE-bench Verified代碼生成評估基準(zhǔn),在軟件工程的能力測評中,o3的準(zhǔn)確度得分71.7,即準(zhǔn)確率71.7%,遠(yuǎn)超得分48.9的o1和得分41.3的o1 preview。也就是說,o3的準(zhǔn)確率比o1正式版高將近47%,比o1預(yù)覽版高將近74%。

  在競爭性編程網(wǎng)站Codeforces的競爭性代碼測評中,o3取得2727的Elo評分,o1評分1891,o1 preview評分1258。這個(gè)測評結(jié)果顯示,競爭性代碼方面,o3的評分比o1正式版高44%,是o1預(yù)覽版的兩倍多。

  經(jīng)過2024年AIME數(shù)學(xué)競賽的題目測試,o3的準(zhǔn)確度得分為96.7、即準(zhǔn)確率96.7%,大幅度超過了o1預(yù)覽版的56.7和o1的83.3%,僅錯(cuò)了一道題,相當(dāng)于一名頂級(jí)數(shù)學(xué)家的水平。從競賽數(shù)學(xué)的角度看,o3的準(zhǔn)確率比o1正式版高15%,比o1預(yù)覽版高近71%。

  以人類博士專家的測試考驗(yàn),在測試化學(xué)、物理和生物學(xué)專業(yè)知識(shí)的基準(zhǔn)GPQA-diamond上,o3的準(zhǔn)確度得分為87.7,即準(zhǔn)確率87.7%,o1和o1 preview分別得分78.0和78.3。o3的準(zhǔn)確率比o1高將近13%,比o1預(yù)覽版高12%。

  OpenAI周五還展示了,o3的推理能力已經(jīng)更加接近實(shí)現(xiàn)AGI。

  以100%為最高分的ARC-AGI評估結(jié)果顯示,o1的得分在25%到32%,而o3的最低成績?yōu)?5.7%,最高成績?yōu)?7.5%。從這個(gè)結(jié)果看,o3的最佳成績超過了標(biāo)志著達(dá)到人類水平的門檻85%。

  創(chuàng)始ARC-AGI標(biāo)準(zhǔn)的前谷歌高級(jí)工程師、AI研究員Fran?ois Chollet表示,OpenAI這些推理模型在AGI測試中取得進(jìn)步是“穩(wěn)健的”。

  Chollet周五在社交媒體X發(fā)帖,公布了同OpenAI合作進(jìn)行的ARC-AGI測試結(jié)果,稱“我們相信這代表了讓AI適應(yīng)新任務(wù)的重大突破?!?/p>

  與o3模型相比,o3Mini模型在性能與成本平衡方面表現(xiàn)出色,能夠以較低的成本提供高效的服務(wù)。

  在編碼評估方面,o3Mini模型展現(xiàn)出了出色的性能提升。在CodeForces的評估中,隨著思考時(shí)間的增加,o3Mini模型的表現(xiàn)不斷提升,逐漸超越了o1Mini模型。

  在中位思考時(shí)間下,o3Mini模型的性能甚至優(yōu)于o1模型,能夠以大約一個(gè)數(shù)量級(jí)的更低成本提供相當(dāng)甚至更好的代碼性能。這意味著開發(fā)人員可以在不增加過多成本的情況下,獲得更高效的編程輔助,提高開發(fā)效率,降低開發(fā)成本。

  在數(shù)學(xué)能力測試中,o3Mini模型在2024年數(shù)據(jù)集上表現(xiàn)出色。o3Mini低模型的性能與o1Mini相當(dāng),而o3Mini中位數(shù)模型則取得了比o1更好的性能。在處理諸如GPQA等困難數(shù)據(jù)集時(shí),o3Mini模型也能展現(xiàn)出一定的優(yōu)勢,實(shí)現(xiàn)了接近即時(shí)響應(yīng)的效果。

  此外,o3Mini模型支持函數(shù)調(diào)用、結(jié)構(gòu)化輸出、開發(fā)者消息等一系列功能,與O1模型相當(dāng)。在實(shí)際應(yīng)用中,o3Mini模型在大多數(shù)評估中實(shí)現(xiàn)了可比或更好的性能。

  在現(xiàn)場演示中,o3Mini模型的強(qiáng)大功能得到了直觀展示。例如,在一項(xiàng)任務(wù)中,模型被要求使用Python實(shí)現(xiàn)一個(gè)代碼生成器和執(zhí)行器。當(dāng)啟動(dòng)運(yùn)行該P(yáng)ython腳本后,模型成功啟動(dòng)了本地服務(wù)器,并生成了包含文本框的用戶界面。

  用戶在文本框中輸入編碼請求后,模型能夠迅速將請求發(fā)送至API,并自動(dòng)解決任務(wù),生成代碼并保存至桌面,隨后自動(dòng)打開終端執(zhí)行代碼。整個(gè)過程復(fù)雜且涉及大量代碼處理,但o3 Mini模型在低推理努力模式下依然表現(xiàn)出了極快的處理效率。

  雖然o3的測評看上去表現(xiàn)驚艷,但OpenAI應(yīng)該不會(huì)很快面向大眾上線這款新的超級(jí)推理模型。

  從12月20日開始,OpenAI允許安全研究人員可以注冊訪問o3 和 o3-mini的預(yù)覽。OpenAI的一名發(fā)言人稱,OpenAI計(jì)劃明年初正式發(fā)布這些新的o3模型。

  每日經(jīng)濟(jì)新聞綜合公開資料

你可能想看:

轉(zhuǎn)載請注明來自浮筒閥_自控截污裝置_樓宇雨污分流器,本文標(biāo)題:《壓軸大作!OpenAI推出o3模型系列:AGI評測最佳成績達(dá)到驚人的87.5%,人類水平的門檻為85%》

百度分享代碼,如果開啟HTTPS請參考李洋個(gè)人博客
每一天,每一秒,你所做的決定都會(huì)改變你的人生!

發(fā)表評論

快捷回復(fù):

評論列表 (暫無評論,21人圍觀)參與討論

還沒有評論,來說兩句吧...

Top