忘記你對(duì)人工智能的了解。這不僅僅是科技巨頭和擁有大量工程師和研究生的大學(xué)。建立有用的智能系統(tǒng)的力量是你力所能及的.感謝令人難以置信的進(jìn)步?大型語(yǔ)言模型 (LLMS)--就像雙子座和Tg-1的動(dòng)力一樣--你可以創(chuàng)建由Ai驅(qū)動(dòng)的產(chǎn)品,這些產(chǎn)品過(guò)去需要一個(gè)工程師團(tuán)隊(duì)。在這一系列中,我們將從一個(gè)美味的用例開(kāi)始,揭示建立LOM驅(qū)動(dòng)的應(yīng)用程序的過(guò)程:創(chuàng)建一個(gè)個(gè)性化的AI膳食計(jì)劃。

作為我們旅行的一個(gè)例子,我們將構(gòu)建一個(gè)飲食規(guī)劃應(yīng)用程序。網(wǎng)上提供的膳食計(jì)劃并不短缺,包括根據(jù)不同需求定制的計(jì)劃(不同的目標(biāo)、基本健康狀況等)。問(wèn)題是,通常很難(有時(shí)是不可能的)找到專門(mén)為你量身定制的指導(dǎo),而不雇用健康專家。

讓我們看看一個(gè)現(xiàn)實(shí)的例子:32歲的軟件工程師莎拉正在為她的第一次馬拉松訓(xùn)練。她需要一個(gè)膳食計(jì)劃,不僅滿足她增加的熱量需求,而且也是由于她的乳糖不耐癥和對(duì)植物蛋白的偏好。傳統(tǒng)的膳食計(jì)劃應(yīng)用程序很難適應(yīng)這種定制的水平,這使它成為一個(gè)由lm驅(qū)動(dòng)的解決方案的完美應(yīng)用,它可以很容易地產(chǎn)生一個(gè)定制的計(jì)劃,調(diào)整大營(yíng)養(yǎng)素,并建議滿足莎拉所有需求的特定食物。

在本教程中,我們將致力于開(kāi)發(fā)一個(gè)模型,它可以吸收各種投入(年齡、身高、體重、活動(dòng)水平、飲食限制、個(gè)人喜好等)。)及制作一份特別為使用者量身定制的美味營(yíng)養(yǎng)餐計(jì)劃。

正確的成分:數(shù)據(jù)集的創(chuàng)建

我們將通過(guò)構(gòu)造一個(gè)特定于用例的數(shù)據(jù)集來(lái)為模型的質(zhì)量奠定基礎(chǔ)。我們將討論為什么數(shù)據(jù)如此重要,準(zhǔn)備數(shù)據(jù)集的各種方法,以及如何通過(guò)清理數(shù)據(jù)來(lái)避免常見(jiàn)的陷阱。

軟件工程是建模的一個(gè)極好的隱喻。我們以后會(huì)在這篇文章中大量使用它。然而,當(dāng)提到使用數(shù)據(jù)來(lái)修改模型性能時(shí),幾乎沒(méi)有比雕刻更好的比喻了。用實(shí)心材料制作雕塑的過(guò)程通常是粗糙的造型,然后是連續(xù)幾輪的精煉,直到材料"聚合"到藝術(shù)家的視野中。

這樣,建模就需要從1和0的無(wú)特征的塊開(kāi)始,然后慢慢地調(diào)整它,直到它按照建模者的意圖運(yùn)行。雕刻家可以在那里拾起各種各樣的鑿、拾或錘,然而,建模者的工具是數(shù)據(jù)。

這個(gè)特殊的工具非常通用.它可以通過(guò)主題內(nèi)容和實(shí)例的培訓(xùn),或通過(guò)與外部系統(tǒng)的連接,為模型注入新的知識(shí)和領(lǐng)域理解。?恢復(fù)增強(qiáng)一代 .它也可以通過(guò)在特定的邊緣情況下教授它以特定的方式進(jìn)行行為來(lái)調(diào)試。反過(guò)來(lái),它可以用來(lái)"放棄"在以前的訓(xùn)練中引入的某些行為。數(shù)據(jù)作為了解模型行為甚至用戶行為的實(shí)驗(yàn)工具也很有用。

有了這些應(yīng)用程序和更多的應(yīng)用程序,應(yīng)該可以清楚地看到,在建模方面,數(shù)據(jù)幾乎是一切。在本節(jié)中,我們將全面概述如何為您的用例創(chuàng)建數(shù)據(jù)集,包括:

· 了解數(shù)據(jù)在整個(gè)模型生命周期中的使用情況

· 定義你的要求

· 創(chuàng)建數(shù)據(jù)集

· 為模型培訓(xùn)準(zhǔn)備數(shù)據(jù)集

整個(gè)模型生命周期的數(shù)據(jù)

人們很容易相信,大型語(yǔ)言模型的力量完全取決于它的大小--參數(shù)越多越好。但這只是故事的一部分。雖然模型大小發(fā)揮了作用,但數(shù)據(jù)的質(zhì)量和戰(zhàn)略性使用才是真正的解鎖LLS的潛力所在。這樣想:你可以給主廚一大堆配料,但如果沒(méi)有正確的食譜和技術(shù),結(jié)果將不會(huì)是一個(gè)杰作。

讓我們來(lái)探索數(shù)據(jù)塑造LM思維的關(guān)鍵階段,把它從一張空白的表格轉(zhuǎn)變成一個(gè)強(qiáng)大而多才多藝的人工智能:

1.預(yù)備培訓(xùn):建立廣泛的知識(shí)基礎(chǔ)

預(yù)先訓(xùn)練就像把你的LMA送到一個(gè)"你可以吃到飽"的知識(shí)自助餐上。我們用大量的文本和代碼數(shù)據(jù)集來(lái)淹沒(méi)這個(gè)模型,使它暴露在互聯(lián)網(wǎng)的廣大范圍之外。這是語(yǔ)言語(yǔ)言學(xué)學(xué)習(xí)基本語(yǔ)言模式的地方,吸收了廣泛的概念,并發(fā)展了令人印象深刻的能力,以預(yù)測(cè)句子或代碼中接下來(lái)會(huì)發(fā)生什么。

2.監(jiān)督微調(diào):發(fā)展專門(mén)知識(shí)

一旦LMA有了堅(jiān)實(shí)的基礎(chǔ),它的時(shí)間磨練其技能的具體任務(wù)。在監(jiān)督微調(diào)(SFT)中,我們?yōu)槟Ｐ吞峁┝私?jīng)過(guò)仔細(xì)整理的快速響應(yīng)對(duì)數(shù)據(jù)集,引導(dǎo)它達(dá)到期望的行為。你想讓你的律師翻譯語(yǔ)言嗎?提供翻譯文本的例子。需要它來(lái)總結(jié)文件嗎?提供精心制作的摘要。SFT是我們從一個(gè)通才到一個(gè)專業(yè)的LMA的模子。

3.強(qiáng)化學(xué)習(xí):通過(guò)反饋改進(jìn)行為

強(qiáng)化學(xué)習(xí)(RL)主要是反饋和優(yōu)化。我們向法律管理人提供選擇,遵守其決定,并為符合我們目標(biāo)的反應(yīng)提供獎(jiǎng)勵(lì)。這個(gè)迭代過(guò)程幫助模型了解哪些響應(yīng)是最有利的,逐漸完善其行為并提高其準(zhǔn)確性。

4.背景學(xué)習(xí):適應(yīng)新信息

現(xiàn)實(shí)世界的對(duì)話充滿了驚喜,要求LLMS適應(yīng)新的信息。上下文學(xué)習(xí)允許LLMS處理會(huì)話中呈現(xiàn)的新信息,即使它不是初始培訓(xùn)數(shù)據(jù)的一部分。這種適應(yīng)性使LLMS更有活力,更有能力處理突發(fā)事件。

5.檢索增強(qiáng)生成:擴(kuò)大知識(shí)視野

有時(shí),LLMS需要獲得超出其培訓(xùn)數(shù)據(jù)范圍的信息。檢索增強(qiáng)生成(RAG)通過(guò)將LM連接到外部數(shù)據(jù)庫(kù)或知識(shí)庫(kù)來(lái)彌補(bǔ)這一缺口。這使模型能夠檢索最新信息,將其納入其答復(fù),并提供更全面和更深刻的答案。