創(chuàng)澤機器人 |
CHUANGZE ROBOT |
1. 講座為DeepSeek原理和應用系列研討的講座之一,讓大家可以決策是否需要自己部署DeepSeek系列模型,并了 解自己本地化部署DeepSeek的基本方法,同時了解更專業(yè)的企業(yè)級部署方法,有助于選擇DeepSeek一體機型號,并 能理解DeepSeek云服務的工作機制和原理,用好DeepSeek云服務的API調(diào)用方法。
2. 本講座的內(nèi)容分為四個主要部分:
① 首先,除了DeepSeek滿血版之外,還有各種各樣的蒸餾版和量化版,以及DeepSeek的不同專業(yè)模型。我們將介紹人工智能大模 型的基本概念,以及DeepSeek各個模型的特點與適用場景,對比不同規(guī)模模型的性能表現(xiàn),幫助大家選擇最適合自己需求的版本。
② 其次,對于普通用戶在自己的電腦上部署和體驗DeepSeek(蒸餾版)的情況,我們會評估和建議硬件要求,演示如何通過Ollama 命令行高效部署DeepSeek模型,解決下載過程中可能遇到的常見問題。為了提升在自己的電腦上安裝DeepSeek模型后,大家與 DeepSeek模型的交互體驗,我們還將介紹Open WebUI和Chatbox等前端展示工具的配置與使用方法。
③ 然后,對于專業(yè)級的企業(yè)部署DeepSeek,或把DeepSeek(蒸餾版和滿血版)部署在專業(yè)的昂貴的推理機上,本講座將探討基于 Transformers快速驗證和vLLM的高性能部署方案,并提供真實企業(yè)基于vLLM的部署DeepSeek-70b的相關數(shù)據(jù)和經(jīng)驗。
④ 最后,作為補充內(nèi)容,針對計算資源受限的場景,我們專門設計了"低成本部署"環(huán)節(jié),詳細講解Unsloth R1動態(tài)量化部署的三種實 現(xiàn)路徑:基于llama.cpp、KTransformers以及Ollama框架動態(tài)量化部署。
3. 在技術學習的道路上,優(yōu)質(zhì)學習資源至關重要。推薦大家參考《人工智能通識教程(微課版)》這本系統(tǒng)全面的入門教 材,結(jié)合B站“思睿觀通”欄目的配套視頻進行學習。此外,歡迎加入ai.kgc.cn社區(qū),以及“AI肖睿團隊”的視頻號和 微信號,與志同道合的AI愛好者交流經(jīng)驗、分享心得。
![]() |
機器人底盤 Disinfection Robot 消毒機器人 講解機器人 迎賓機器人 移動機器人底盤 商用機器人 智能垃圾站 智能服務機器人 大屏機器人 霧化消毒機器人 紫外線消毒機器人 消毒機器人價格 展廳機器人 服務機器人底盤 核酸采樣機器人 智能配送機器人 導覽機器人 |