DeepSeek開源AI模型的發(fā)布在技術(shù)界引起了很多興奮。它允許開發(fā)人員完全在本地構(gòu)建應(yīng)用程序，而無需連接到在線AI模型(例如Claude，Chatgpt等)。開源模型在構(gòu)建與生成AI集成的企業(yè)應(yīng)用程序時為新機會打開了大門。
在本文中，您將學(xué)習(xí)如何在個人機器上本地運行這樣的模型，并構(gòu)建全棧React和Nodejs驅(qū)動的應(yīng)用程序，而不僅僅是另一個聊天機器人。您將能夠使用此應(yīng)用程序來更快地分析簡歷并做出更明智的招聘決定。在構(gòu)建應(yīng)用程序之前，重要的是要了解開源LLM的好處。
開源大語模型的好處
開源模型與使用專有模型相對于使用專有模型提供了一些關(guān)鍵好處：
具有成本效益且無許可證
開源LLM具有成本效益，不需要特殊許可。例如，截至撰寫本文的日期，OpenAI的O1的成本為每百萬美元的產(chǎn)出代幣，開源DeepSeek R1的價格為2.19美元。
可自定義且可調(diào)
開源模型可以輕松地進行微調(diào)以滿足獨特的業(yè)務(wù)案例 - 允許構(gòu)建更多特定于領(lǐng)域的用例。這導(dǎo)致企業(yè)應(yīng)用程序中的優(yōu)化性能。
增強數(shù)據(jù)安全性和隱私
開源使應(yīng)用程序更加安全，因為寶貴的個人數(shù)據(jù)不需要上傳到第三方服務(wù)器，并且只能停留在本地機器或公司網(wǎng)絡(luò)上僅留在本地機器或公司網(wǎng)絡(luò)中。這提供了很高的數(shù)據(jù)安全性。此外，可以對開源模型進行微調(diào)以刪除所有數(shù)據(jù)偏差。
社區(qū)驅(qū)動，沒有供應(yīng)商鎖定
開源模型享有巨大的社區(qū)支持，并受益于功能開發(fā)的快速發(fā)展。另一方面，使用屬性模型使應(yīng)用程序供應(yīng)商鎖定并依賴供應(yīng)商公司提供功能更新。
借助此信息，您可以使用DeepSeek R1開源模型，Node.js和React構(gòu)建一個真實的應(yīng)用程序。
項目和建筑概述
您將構(gòu)建簡歷分析儀的應(yīng)用程序 - 它將幫助您了解上傳簡歷的好處和缺點。 DeepSeek R1 LLM將分析上傳的簡歷并提供反饋。您可以通過下面的插圖了解應(yīng)用程序的體系結(jié)構(gòu)。
建筑圖
基于React的用戶界面使用REST API與基于NODEJS的后端進行通信。然后，Nodejs后端將用戶請求發(fā)送到使用Ollama托管的DeepSeek R1。整個技術(shù)堆棧可以在單臺計算機上運行，就像您在整個文章中所做的那樣，也可以在更復(fù)雜的用例中托管多個容器。
先決條件
· 要運行該項目，您將需要一臺具有一些計算功率的計算機，最好是具有NVIDIA圖形卡的計算機。該項目已在NVIDIA 4090RTX基于Windows Machine和M2 MacBook Pro上開發(fā)和測試。
· 您需要在計算機上安裝NodeJ。該項目已建立在Nodejs版本22.3.0上。您可以使用命令驗證nodejs安裝node -v。
· 您還需要您選擇的編輯來完成代碼。 構(gòu)建應(yīng)用程序時已經(jīng)使用了Visual Studio代碼，通常建議使用。
在本地設(shè)置并運行DeepSeek
要在本地運行DeepSeek R1，請按照以下步驟操作：
1。從其官方網(wǎng)站安裝Ollama 。
2。安裝完成后，您將能夠使用ollama run計算機終端中的命令運行模型。
3。運行您選擇的DeepSeek模型。本教程是使用DeepSeek R1 8-Billon參數(shù)模型構(gòu)建的。您可以使用命令來運行它ollama run deepseek-r1:8b。
4。如果您的規(guī)范計算機比前提條件部分中提到的機器較低，則7b和1.5b參數(shù)模型也將起作用，但是生成的輸出質(zhì)量可能較低。
5。模型可能需要花費一些時間才能下載，因為它們需要下載。模型運行后，您應(yīng)該能夠在終端中提出一個問題并獲取輸出。您可以參考下面的插圖，以查看行動中的DeepSeek R1 8B模型。
Ollama DeepSeek R1
6。DeepSeekR1是一種推理模型，因此，它在給出可以產(chǎn)生的第一個答案之前就考慮了。正如上面插圖中強調(diào)的那樣，它在給我們提示的答案之前就在思考?？梢栽跇撕炛锌吹竭@種想法 。
克隆和運行nodejs后端
Ollama服務(wù)也可以通過API訪問。您將利用此API并構(gòu)建基于Nodejs的后端層。該層將從用戶中取上上載的PDF并從中提取文本。文本提取后，后端將通過Ollama API將文本饋送到DeepSeek R1模型，并恢復(fù)響應(yīng)。此響應(yīng)將發(fā)送給客戶端以顯示給用戶。
1。使用此URL從GitHub克隆后端項目。理想情況下，您應(yīng)該分配項目，然后克隆自己的本地副本。
2?？寺『螅\行項目，請使用CD轉(zhuǎn)到項目根目錄deepseek-ollama-backend。
3。一旦進入項目根，就通過給出npm install命令來安裝依賴項。安裝完成后，可以使用命令運行項目npm start。項目的核心是app.js 文件。檢查下面提供的代碼。
const express = require('express');
const multer = require('multer');
const pdfParse = require('pdf-parse');
const axios = require('axios');
const fs = require('fs');
const cors = require('cors');
const app = express();
app.use(cors());
app.use(express.json());
const upload = multer({
dest: 'uploads/',
fileFilter: (req, file, cb) => {
file.mimetype === 'application/pdf' ? cb(null, true) : cb(new Error('Only PDF files are allowed!'));
}
}).single('pdfFile');
app.post('/analyze-pdf', (req, res) => {
upload(req, res, async function(err) {
if (err) {
return res.status(400).json({ error: 'Upload error', details: err.message });
}
try {
if (!req.file) {
return res.status(400).json({ error: 'No PDF file uploaded' });
}
const dataBuffer = fs.readFileSync(req.file.path);
const data = await pdfParse(dataBuffer);
const pdfText = data.text;
fs.unlinkSync(req.file.path);
const response = await axios.post('http://127.0.0.1:11434/api/generate', {
model: "deepseek-r1:8b",
prompt: `Analyze this resume. Resume text is between two --- given ahead: ---${pdfText}---`,
stream: false
});
res.json({ success: true, message: 'Successfully connected to Ollama', ollamaResponse: response.data });
} catch (error) {
if (req.file && fs.existsSync(req.file.path)) {
fs.unlinkSync(req.file.path);
}
res.status(500).json({ error: 'Error processing PDF', details: error.message });
}
});
});
if (!fs.existsSync('uploads')) {
fs.mkdirSync('uploads');
}
const PORT = process.env.PORT || 3000;
app.listen(PORT, () => {
console.log(`Server is running on port ${PORT}`);
});
4?？蛻敉ㄟ^調(diào)用/analyze-pdf類型的API端點與后端進行交互POST?？蛻舳藢⒂脩魟h除的PDF文件作為有效載荷發(fā)送給此API。
5。服務(wù)器將該文件uploads臨時存儲在目錄中，并將文本提取在文件中。
6。然后使用Ollama的Localhost API端點提示DeepSeek R1 。
7。DeepSeek R1分析了簡歷的內(nèi)容并提供了反饋。然后，使用此分析使用該服務(wù)器對客戶端響應(yīng)res.json()。
克隆和運行React用戶界面
該項目的用戶界面將允許用戶上傳簡歷，將此簡歷發(fā)送到后端，然后將DeepSeek R1簡歷分析的結(jié)果顯示給用戶。它還將顯示內(nèi)部思想鏈或?qū)eepSeek R1的思考。
1。要開始，分叉然后從此Github URL中克隆該項目。如果您不打算進行許多自定義，則可以簡單地克隆它。
2?？寺№椖亢?，使用命令轉(zhuǎn)到根項目目錄cd deepseek-ollama-frontend。
3。在項目根部內(nèi)，使用npm install命令安裝必要的依賴項。安裝完成后，使用命令啟動項目npm run dev。
4。此React應(yīng)用的主要組成部分是重新分析儀。在您選擇的編輯中打開它并進行分析。
5。此組件提供了一個輸入字段供用戶上傳文件。
6。上傳的文件使用API端點發(fā)送到服務(wù)器。
7.服務(wù)器的響應(yīng)分為兩個部分的內(nèi)部思考和模型的實際響應(yīng)。
8。該AnalysisSection組件顯示模型的響應(yīng)以及包含ExpandableSection組件，該組件用于顯示DeepSeek R1的內(nèi)部思維。
9。導(dǎo)航到瀏覽器中的URL加載應(yīng)用程序。上傳您的簡歷(或任何樣本簡歷)，并觀察DeepSeek R1收到的分析。
結(jié)論
DeepSeek R1提供了一個獨特的機會，可以在內(nèi)部完全 構(gòu)建Genai-Power應(yīng)用程序，并根據(jù)您的需求對其進行自定義。
在本文中，您了解了使用開源Genai模型的好處。此外，您已經(jīng)使用DeepSeek R1，Node.js和React設(shè)置了一個真實的應(yīng)用程序。此設(shè)置使您可以使用AI完全離線執(zhí)行簡歷分析。您可以使用此工具在您的組織中雇用SMART，我建議您繼續(xù)基于本文獲得的知識并探索更多用例和應(yīng)用程序。
下載文檔
