定制报告-个性化定制-按需专项定制研究报告
行业报告、薪酬报告
联系:400-6363-638

《浙江大学:2025年DeepSeek的本地化部署与AI通识教育之未来(57页).pdf》由会员分享,可在线阅读,更多相关《浙江大学:2025年DeepSeek的本地化部署与AI通识教育之未来(57页).pdf(57页珍藏版)》请在薪酬报告网上搜索。
1、12025年3月9日星期日DeepSeek的本地化部署与AI通识教育之未来陈建海博导/副教授浙江大学通识人工智能(A)(理工农医)课程团队负责人浙江大学计算机科学与技术学院 基础教学中心副主任/支部书记浙江大学智能计算与系统实验室 负责人浙江大学人工智能教育教学研究中心2提纲vDeepSeek AI的新时代背景vDeepSeek的本地化部署实践vDeepSeek与AI通识教育之未来v总结3提纲vDeepSeek AI的新时代背景vDeepSeek的本地化部署实践vDeepSeek与AI通识教育之未来v总结4我们进入了一个怎样的时代人工智能的新时代农耕时代互联网时代大数据时代智能化互联网大数据引
2、来智能化信息技术革命浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心5生成式人工智能:AIGC盛行(文生文、文生图、文生视频.)由LumaAI大模型DreamMachine生成的视频浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教
3、育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心6过去、现在和未来-人机共存时代人机共存时代即将到来元宇宙世界现实世界未来世界数字分身过 去现 在未 来浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心7人工智能(AI)无处不在的时代智能图像理解智能美图新闻推荐智能搜索排序智能出行自动驾驶智能会话智
4、能助理机器翻译个性化推荐智能物流仓储机器人识别:语音、人脸、视频内容应用:安防、客服。BI:商业流程自动化互联网数据购买转化、商品推荐、定价、精准营营销、社交媒体营销券商股票:智能+量化交易、智能投顾、机器人理财银行、保险应用:针对性电话营销、贷款审批、信用卡欺诈医学:自动读片、辅助诊断、个性化诊断、基因排序教育:学习外语、智能选题浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人
5、工智能教育教学研究中心8人工智能(AI)无处不在的时代扫地机器人食堂扫脸付款门禁刷脸识别停车场门禁无人机自动驾驶人形机器人大语言模型.sora文生视频Stable Diffusion浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心9人工智能的起源、定义没有统一标准人的智能ArtificialIntelligence人工智能智能是智慧和才能的总称机器人工方法和
6、技术模拟1956年8月,达特茅斯会议人工智能诞生而后到今天发展了三大主义学派(1)正名篇:所以知之在人者谓之知,知有所合谓之智。所以能之在人者谓之能,能有所合谓之能。人工智能是以机器为载体用人工方法和技术模拟实现的人的智能(2)多元智能理论:语言智能、音乐智能、逻辑智能、空间智能、运动智能、人机智能、认知智能浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心1
7、0从人的智能到人工智能荀子正名篇:人的智能,智慧和才能的总称智慧知识所以能之在人者谓之能,能有所合谓之能。所以知之在人者谓之知,知有所合谓之智。才才能能力荀子正名篇心脚手肉骨肺肠胃脾眼鼻耳舌口脑脸头腿身体听觉看味觉吃触觉嗅觉视觉舔闻听拿撑撑血行、走跑、跳哭笑痛觉消化系统思考记忆想象臀呼吸系统血液系统人(主体)所固有的认识外界客观事物(客体对象)的本能为“知”,主体认知能力与客体事物相接触联通所产生的认知叫作“智慧”。人(主体)固有的能力叫作“能”,主体的能力与客体对象接触联通后所形成的能力为“才能”。“智”在内,往往在心里,常说“心智”,跟人的心脑心脑直接相关。“能”在外,“能力”一般是外在通
8、过某种形式表现出来的,跟身体架构整体有关。直觉浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心11多元智能理论(1983 年,哈佛大学发展心理学家霍华德加德纳(Howard Gardner)教授)语言智能语言智能音乐智能音乐智能逻辑智能逻辑智能空间智能空间智能运动智能运动智能人机智能人机智能认知智能认知智能浙江大学人工智能教育教学研究中心浙江大学人工智能教育
9、教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心12DeepSeek来了,它是谁?vDeepSeek全称 杭州深度求索(DeepSeek)人工智能基础技术研究有限公司,创始人:梁文锋 幻方量化基金,2023年7月17日成立,专注开发大模型及相关技术vDeepSeek高性能、低成本的国产开源大模型vDeepSeek大模型产品 DeepSeek-Math DeepSeek-Coder DeepSeek-Math
10、DeepSeek-VL、VL2 DeepSeek-V2、V2.5 DeepSeek-V3 DeepSeek-R1 DeepSeek-R1-Zero.1.DeepSeek简介浙江大学学子浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心13DeepSeek是什么高性能、低成本的、国产开源大模型!DeepSeek-R1发布开源,擅长处理复杂且在训练阶段大规模使用了
11、强化学习技术,在仅有极少标注数据的情况下,极大提升模型推理能力。DeepSeek-R1在数学、代码、自然语言推理等任务上,性能比肩OpenAl o1正式版。目前大模型主流榜单开源模型DeepSeek-V3 位列榜首,与世界上最先进的闭源模型不分伯仲。浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心14蒸馏小模型的性能超越 OpenAI o1-miniv基于D
12、eepSeek-V3训练DeepSeek-R1-Zero 和 DeepSeek-R1vDeepSeek-R1 的输出,蒸馏了 6 个小模型开源给社区v其中 32B 和 70B 模型在多项能力上实现了对标 OpenAI o1-mini 的效果。浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心15DeepSeek的惊天动地事迹2024.1.25:发布DeepSe
13、ek-Coder2024.1.5:发布第一个大模型:DeepSeek LLM2024.2.5:发布DeepSeekMath2024.3.11:发布DeepSeek-VL2024.5.7:发布DeepSeek-V22024.6.17:发布DeepSeek-Coder-V22024.9.5:DeepSeek V2.5(合并 DeepSeek Coder V2 和DeepSeek V2 Chat)2024.12.13:发布DeepSeek-VL22024.12.26:正式上线DeepSeek-V3首个版本并同步开源2025.1.31:DeepSeek-R1模型登陆英伟达NVIDIA NIM,同时:接
14、入亚马逊、微软.202520242025.2.5:DeepSeek-R1、V3、Coder 等系列模型,陆续上线国家超算平台.2025年1月:GitHub发布Janus-Pro多模态大模型,进军文生图2025.2.6日:中国电信、中国移动、中国联通三大运营商宣布接入DeepSeek近期:各行业开始研究部署.1.DeepSeek简介浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工
15、智能教育教学研究中心16DeepSeek是谁?咱们通俗说一说.基于 Llama、Qwen六个密集模型(1.5b、7b、8b、14b、32b、70b)大师徒弟蒸馏版训练DeepSeek-R1-ZeroDeepSeek-R1蒸馏满血版DeepSeek-V3671b浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心17DeepSeek破圈席卷全球1.DeepSeek
16、简介开源AI大模型和相关技术火爆全球,DeepSeek一度在140多个国家的应用商店下载排行首位。DeepSeek有史以来最快获得1亿注册用户的APP。浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心18DeepSeek多场景全面接入v三大基础运营商、超过15家芯片厂家、200多家企业(涉及云服务、网络科技、金融等领域)、多个手机厂商和车企,以及地方政府政务
17、系统等。v世界级的云计算巨头:微软、英伟达、亚马逊宣布接入DeepSeek。vDeepSeek的“朋友圈”瞬间扩大,引领大模型在AI领域的创新应用浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心19DeepSeek多场景全面接入(比如:钉钉)浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教
18、学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心20DeepSeek能做什么(ChatGPT 能的DeepSeek也能做)直接面向用户或者支持开发者,提供:智能对话、文本生成、语义理解、计算推理、代码生成补全等应用场景,支持联网搜索与深度思考模式,同时支持文件上传,能够扫描读取各类文件及图片中的文字内容。简历修改解题助手撰写产品痛点分析语法纠正写工作汇报关键字提取约会辅助论文语法检查AI绘画功能人群画像分析写行业报告礼品推荐论文格式检查英语情景对话练习影视脚本创作写商业计划
19、书访谈嘉宾推荐文献参考检查英语单词造句汇总视频会议要点学英语内容简要综述检查标点错误英语作文评价心理咨询模拟面试撰写行业调研分析外文翻译英语作文改写虚拟恋爱做Excel表设计用户访谈大纲英文润色学习计划和课程推荐问诊疾病写小说制作用户体验地图列出SEO关键词文本扩充分析财务情况论文提纲生成撰写特性体验测试大纲图片搜索个性化护肤品推荐生成邮件、公文解释概念网络舆情分析段落创作定制化风格写代码写代码自动回复邮件个性化健康建议生成代码框架计划行程识别和过滤色情内容生成真人演讲进行用户访谈撰写数据分析报告改写文案宠物科学喂养计划AI修图AI时间管理产品取名视频时间轴标记房屋装修建议AI写简历快速生成影
20、评AI会议记录预测市场趋势和风险分析社会政治事件撰写标题分解复杂句式优化设计创意减肥健身计划交通规划生成图片优化电商listing面试问题准备撰写营销文案家庭情感咨询模拟人类行为撰写广告策划案头脑风暴找代码Bug生命基因科学分析生成音乐和声音美食制作程序代码解释协助运营社交媒体社区建设公益指导历史科普训练为AI客服询问多路径中的最佳选择AI摆烂聊天社会服务过滤垃圾短信设计旅游攻略撰写和分析法律合同文字转表格工业制造建议ChatGPT的100个功能浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教
21、学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心21提纲vDeepSeek AI的新时代背景vDeepSeek的本地化部署实践vDeepSeek与AI通识教育之未来v总结浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心22什么是DeepSeek的本地化部署vDeepSe
22、ek的本地化部署是指将人工智能系统(如模型、算法及服务)部署在用户指定的本地服务器或基础设施中,而非依赖云端服务,旨在实现数据主权掌控、文化适配优化和合规性保障的技术方案。其核心是通过技术与场景的深度结合,满足特定区域、行业或机构的个性化需求。2.DeepSeek的部署本地云端(远端、部门外部)普通电脑服务器基础设施单位使用个人使用部署浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大
23、学人工智能教育教学研究中心23本地化部署的优点v 1.数据隐私安全v 2.法律合规性数据主权:满足GDPR、HIPAA等法规对数据存储位置的要求(如数据不得跨境传输)。行业合规:适应金融、政务等行业的本地化数据监管政策,避免法律纠纷。v 3.性能优化与低延迟实时响应:本地处理消除网络延迟,提升高频交互场景(如客服、实时翻译)的体验。资源独占:硬件资源专用于模型推理,避免云服务多租户环境下的资源争抢。v 4.高度定制化模型微调:可根据企业垂直领域(如法律、医疗)调整模型参数,提升专业场景的准确性。系统集成:灵活对接内部数据库、ERP等系统,实现个性化功能。版本控制:自由选择或回滚模型版本,避免云
24、服务强制更新导致的兼容性问题。v 5.长期成本效益减少云服务依赖:避免持续支付API调用费用,尤其在高频使用场景下成本优势显著。硬件自主规划:可按需选择服务器配置,平衡性能与预算,长期摊销硬件投入。v 6.稳定性和可靠性规避云服务风险:不受供应商服务中断、API限制或政策变动影响,保障业务连续性。灾备可控:可自主设计备份和容灾方案,提升系统鲁棒性。v 7.技术自主性避免供应商锁定:掌握核心技术栈,减少对第三方平台的依赖,保障长期战略灵活性。知识产权保护:模型与数据的本地化管控降低知识产权外流风险。敏感数据保护:数据无需上传至第三方云端,避免传输和存储过程中的泄露风险,适合医疗、金融、政府等敏感
25、领域。完全控制:企业自主管理数据访问权限,降低外部攻击或内部滥用风险。符合安全审计:本地环境更容易满足严格的安全审计要求(如ISO 27001)。缺点:成本高浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心24DeepSeek的连接官网简单使用v连接官网 https:/ 首次使用注册一个账户 手机号或邮箱地址注册账户聊天界面1.DeepSeek简介浙江大学人
26、工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心25基于ollama的本地run(macos或者linux)v安装ollama的包 pip install ollamav基于ollama运行DeepSeek 运行1.5b模型 ollama run deepseek-r1:1.5b 运行7b模型 ollama run deepseek-r1:7b 运行8b模型 olla
27、ma run deepseek-r1:8b.1.DeepSeek简介浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心26DeepSeek 手机版的扫码安装和简单使用(手机里面使用)浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育
28、教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心27DeepSeek的部署v Deepseek系列模型包括V3(671b)、R1(660b)和基于DeepSeek-R1蒸馏的模型,如下表。v 教育和科学领域任务需求,包括智能问答系统、学习辅助工具、数据分析助手、论文摘要生成等任务,可以基于deepseek搭建和部署本地的小模型环境。模型版本模型版本显存显存VRAM(GPU)内存内存RAM(CPU)本地存储本地存储运行机器运行机器R1-1.5b4GB+8GB+5GB个人普通机R1-7b12GB+16GB+10GB个人普通机R1-8b16
29、GB+32GB+15GB个人普通机R1-14b24GB+64GB+30GB专用服务器R1-32b48GB+128GB+60GBGPU服务器R1-70b80GB+256GB+120GBGPU服务器V3R1-671B(MoE)4*A100 GPUs(320GB VRAM)512GB500GB+高端GPU服务器v DeepSeekR1蒸馏版均可进行本地化部署。v 小规模的1.5b-8b的可部署在普通机,其余需要GPU。v 全量版MoE671b:无法直接本地部署,但有压缩的动态量化版本实现本地化,需高端GPU服务器。2.DeepSeek的部署浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究
30、中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心28DeepSeek部署的前期准备-机器环境vTO-C(个人)v机器:个人笔记本、台式机v选择版本:1.5b、7b、8bv配置要求:内存:建议16GB以上 CPU 性能越好,有带GPU更好 根据配置选择部署的大模型版本:1.5b、7b、8b、14b或更高版本 普通电脑1.5b的效果不错v操作系统:Windows、Linux、MacOSv软件:python及相关的包、库等
31、。2.DeepSeek的部署vTo-B(单位)v单位:服务器或基础设施(带GPU)v选择版本:14b、32b、70bv配置要求:内存:建议64GB以上 CPU 性能越好,有带GPU更好 根据配置选择部署的大模型版本 操作系统:Linuxv软件:python及相关的包、库等。浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心29Ollama的本地化部署-下载和安
32、装【速度超级快】windows下DeepSeek的部署http:/浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心30DeepSeek本地服务的安装下载完成后开始安装正在安装安装完成后的运行浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人