長期以來，研究人員對(duì)開源人工智能（Open-source AI）的定義一直存在分歧。近期，自詡為開源仲裁者的開源倡議組織(OSI)日前發(fā)布開源AI的新定義，希望能幫助立法者制定法規(guī)，保護(hù)消費(fèi)者免受AI風(fēng)險(xiǎn)的影響。

OSI邀請(qǐng)了70名研究人員、律師、政策制定者、活動(dòng)家以及Meta、谷歌和亞馬遜等大型科技公司的代表，共同為開源AI提可行的定義。

OSI聲稱，“一個(gè)開源AI系統(tǒng)可以用于任何目的，而無需獲得許可，且研究人員應(yīng)該能夠檢查該AI系統(tǒng)的組件并研究其工作原理。同時(shí)，研究人員還可以出于任何目的修改系統(tǒng)，包括更改其輸出，并與他人共享，用于任何目的?！贝送?，該標(biāo)準(zhǔn)還試圖為給定模型的訓(xùn)練數(shù)據(jù)、源代碼和權(quán)重定義一個(gè)透明度級(jí)別。”

按此標(biāo)準(zhǔn)，OpenAI和Anthropic對(duì)它們的模型、數(shù)據(jù)集和算法保密，使它們成為明顯的AI閉源系統(tǒng)。同時(shí)，Meta Llama和谷歌的免費(fèi)訪問模型也不是真正的開源AI模型，因?yàn)樵S可證限制了用戶對(duì)模型的使用，而且訓(xùn)練數(shù)據(jù)集也沒有公開。

AI模型構(gòu)建和共享平臺(tái)Hugging Face的應(yīng)用政策研究員Avijit Ghosh說，“眾所周知，企業(yè)在推廣營銷他們的模型時(shí)會(huì)濫用這個(gè)術(shù)語?！彼硎?，將模型描述為開源可能會(huì)使它們被認(rèn)為更值得信賴，即使研究人員無法獨(dú)立調(diào)查它們是否真的開源。

Mozilla高級(jí)顧問、OSI進(jìn)程的參與者Ayah Bdeir表示，開源定義的某些部分相對(duì)容易達(dá)成一致，包括需要揭示模型權(quán)重(幫助確定AI模型如何產(chǎn)生輸出的參數(shù))。審議的其他部分爭議更大，尤其是訓(xùn)練數(shù)據(jù)應(yīng)該如何公開的問題。

訓(xùn)練數(shù)據(jù)的來源缺乏透明度，導(dǎo)致大型AI公司遭到大量訴訟。從OpenAI等大型語言模型提供商到Suno等音樂生成器，這些公司除了表示它們包含“可公開訪問的信息”之外，沒有透露太多關(guān)于訓(xùn)練集的信息。

一些開源支持者認(rèn)為開源模型應(yīng)該公開他們所有的訓(xùn)練集。Bdeir表示，由于版權(quán)和數(shù)據(jù)所有權(quán)等問題，這一標(biāo)準(zhǔn)很難執(zhí)行。

最終，OSI主導(dǎo)的新的定義要求開源模型提供有關(guān)訓(xùn)練數(shù)據(jù)的信息，以達(dá)到“熟練人員可以使用相同或類似的數(shù)據(jù)重新創(chuàng)建實(shí)質(zhì)上等同的系統(tǒng)”的程度。雖然這并不是一個(gè)全面共享所有訓(xùn)練數(shù)據(jù)集的籠統(tǒng)要求，但它也比當(dāng)今許多專有模型甚至表面上的開源模型更進(jìn)一步。

Bdeir說：“堅(jiān)持一種在意識(shí)形態(tài)上原始的金本位制，而實(shí)際上這種制度任何人都無法有效實(shí)現(xiàn)，最終會(huì)適得其反?！彼a(bǔ)充說，OSI正在計(jì)劃制定某種執(zhí)行機(jī)制，該機(jī)制將標(biāo)記那些被描述為開源但不符合其定義的模型。

該組織還計(jì)劃發(fā)布一份符合新定義的AI模型清單。雖然沒有得到證實(shí)，但Bdeir預(yù)計(jì)，一些規(guī)模相對(duì)較小的模型將會(huì)出現(xiàn)在名單上，包括Eleuther的Pythia、Ai2的OLMo，以及開源團(tuán)體LLM360的模型。