2025年终，中国迎来属于本人的“ChatGPT时辰”。DeepSeek-R1模子的出色才能激发了普遍存眷，从科技圣地硅谷到海内各个角落，不分年纪、职业，从科技创业者到各行各业的从业者，无论是老手小白仍是技巧年夜咖，无不沉迷在对DeepSeek的摸索与休会之中。面临“效劳器忙碌”的挑衅，用户们更是解锁了DeepSeek的多样“弄法”：经由过程Web/APP端，一般用户只要简略登录即可收费享用效劳，随时随地休会AI的魅力；资深玩家则可请求性价比超高的API，以OpenAI o1价钱3%的优惠（每百万输出tokens仅需16元）自在定制需要；而对寻求私密与把持的极客玩家，当地安排计划将DeepSeek装置在团体电脑或效劳器，享用完整掌控的丝滑休会，无惧官方宕机。当地安排须要设置哪些硬件？相较于那些只能等候DeepSeek“效劳器忙碌”失掉缓解的用户，曾经实现DeepSeek当地安排的人们早已领先一步，开端享用着年夜模子带来的各种上风与方便。对一般用户而言，想要实现这一安排，则需具有必定设置的硬件支撑，这详细涵盖了高机能处置器以确保盘算效力、充分的内存资本以保证多义务处置流利，以及充足的存储空间来包容宏大的模子数据及运转时期的常设数据。GPU在DeepSeek训推中表演着至关主要的脚色，可能明显放慢训推速率，晋升年夜模子的收敛速率跟正确性。值得一提的是，差别参数版本的DeepSeek实在对GPU的请求不尽雷同，参数范围越年夜，须要的GPU机能越强。对装备RTX 3060自力显卡的体系，倡议抉择7b或8b模子，14b模子固然也能运转，RTX 5090D显卡，则更合适抉择14b、32b模子，乃至能够实验70b模子。中关村在线应用的是索泰GEFORCE RTX 5090 D 32GB。来尝鲜尝尝它的机能。同时，在AI模子练习中，CPU固然不像GPU那样承当重要的盘算任务，但在处置较小的数据集跟简略的盘算义务，如数据预处置、模子评价等方面施展着要害感化。在安排年夜模子的时间应抉择高机能的CPU，比方Intel Core i7或更高机能的处置器，或许AMD Ryzen 7及以上的处置器。这些处置用具备多中心跟多线程的特征，可能同时处置多个盘算义务，从而明显进步练习速率。中关村在线应用的是英特尔Core i9-14900K。同样主要的是存储，在DeepSeek练习与推理进程中，存储的读写速率对进步训推的后果也十分主要。为了放慢数据读写速率，推举抉择SSD作为存储介质。在这里中关村在线抉择的是致态TiPro9000固态硬盘。作为PCIe 5.0 SSD，致态TiPro9000固态硬盘相较于PCIe 4.0 SSD最凸起的改良之处在于其次序读写速率实现翻倍。中关村在线也对致态TiPro9000停止Crystal Disk Mark实测，表现持续读取速率高达14641.21MB/s，比14000MB/s标称值超过600多MB/s；持续写入速率高达13656.46MB/s，比12500MB/s标称值更是超过1100多MB/s。别的，作为存储常设文件的部件，内存巨细直接影响到盘算性能够同时处置的义务数目跟数据量。在DeepSeek训推进程中，内存的巨细对进步练习速率跟效力至关主要。在这里倡议抉择32GB或许更高容量的内存。中关村在线应用48GB内存。以下为中关村在线搭建的硬件平台规格参数。简略两步搞定DeepSeek当地安排DeepSeek当地安排的方法有良多，此前笔者也实验“Ollama+Chatbox”的安排方法，Ollama用于运转DeepSeek，而Chatbox是与DeepSeek对话的前端，安排起来也较为简略。感兴致的网友能够存眷《Deekseek效劳器忙碌？快来尝尝当地安排！装置指南双手送上！》。为了更为直不雅地检查DeepSeek年夜模子的相干才能，本次中关村在线实验应用LM Studio安排，应用起来也非常简略。起首，下载并装置LM Studio软件。用户须要拜访LM Studio的官方网站，网址为https://lmstudio.ai/。接上去，依据所应用的操纵体系，抉择响应的下载选项。中关村在线应用的是Windows体系，于是点击“Download LM Studio for Windows”停止下载。下载实现后，双击装置顺序并依照软件默许的设置停止装置即可。全部装置步调也非常流利，并不须要过剩的操纵。装置结束后，能够经由过程右下角“齿轮”抉择设置言语。其次，将DeepSeek模子下载到当地。各人可从多个网站或社区下载DeepSeek-R1年夜模子，抉择时需斟酌本身需要。更为便捷的是，LM Studio软件内置了DeepSeek模子下载功效。只要点击主界面左侧的缩小镜图标进入年夜模子搜寻页，输入“DeepSeek”即可检索到多个差别参数范围的年夜模子。模子参数越年夜，内容越丰盛且正确，但对硬件请求也越高。随后，直接拔取并下载所需的DeepSeek模子，下载实现后，即可在当地情况中运转DeepSeek。在此次测试环节中，中关村在线胜利下载并安排了多种参数范围的DeepSeek-R1模子，详细包含7B、8B、14B及32B等版本。笔者也实验与32B版本对话，输入“春天到了，请帮我天生一篇赋，重要描述春日美景”，在很短的时光内，DeepSeek便给出响应的答复，其天生机能达36.73tokens/s。硬件设置给力！畅享当地DeepSeek！在首轮测试中，中关村在线应用“帮我天生代码，一样平常花销记账所用”成绩对7B、8B、14B及32B等版本停止测试，测试成果表现，7B版本DeepSeek年夜模子的天生速率到达112.97 tokens/s；8B版本天生速率为111.42 tokens/s；14B版本则为66.14 tokens/s；32B版本到达37.47 tokens/s。值得一提的是，参数范围越小，其天生的速率越快。在对照一些当地安排案例，以及云端安排DeepSeek之后，笔者发明，本次安排的DeepSeek仍是相称给力的。特殊值得一提的是，本次测试应用的致态TiPro9000固态硬盘采取了长江存储的新一代晶栈Xtacking 4.0闪存架构，比拟上一代，年夜幅增添了垂纵贯道的数目，实现了更高的存储密度，开释闪存闪存潜能，并在出产本钱、良品率跟品德等方面到达更完善的平衡。为了验证致态TiPro9000固态硬盘的机能，中关村在线还专门测试别的一款一般固态硬盘，用对照的方法，进一步验证存储的读写机能对年夜型模子练习与推理的影响。在应用同样的测试场景下，一般硬盘搭配索泰GEFORCE RTX 5090 D测试成果表现，7B版本DeepSeek年夜模子的天生速率到达110.82 tokens/s；8B版本天生速率为108.26 tokens/s；14B版本则为61.88 tokens/s；32B版本到达31.93 tokens/s。其速率低于基于致态TiPro9000固态硬盘搭建的测试情况，而且跟着参数范围的增添，天生速率差距连续拉年夜。值得留神的是，本次测试重要为推理测试，而在练习阶段，年夜模子须要海量的数据停止豢养，不只对容量提出磨练，还对读写才能提出新请求。写在最后在数字化时期，数据已成为中心出产因素，而存储则是其弗成或缺的基石。面临海量数据的存储挑衅，怎样无效承载这些数据成为亟待处理的成绩。跟着AI时期的邻近，林林总总的AI利用将频仍拜访数据，这对硬盘的读写机能提出了更高请求。因而，具有年夜容量、高速读写才能以及高度保险牢靠的存储装备将成为市场的首选。开源年夜模子DeepSeek的敏捷走红，预示着它无望成为一款高出各行各业、吸引普遍用户群体的景象级利用。这象征着，不只企业会基于DeepSeek停止定制化开辟，团体用户群体也将深刻发掘其潜伏代价。鉴于此，中关村在线以为，为了确保DeepSeek可能效劳于如斯宏大的用户基本，不只须要DeepSeek自身停止效劳器扩容，以及各年夜云效劳跟算力供给商推出DeepSeek相干效劳，团体用户当地安排也将成为主流抉择，独一的挑衅在于数据的按期更新。当地安排也将对电脑的设置提出磨练。特殊是在显卡的抉择上，中关村在线倡议NVIDIA的GeForce RTX 30系列或更高版本的显卡，以及AMD的Radeon RX 6000系列或更高版本的显卡都是不错的抉择。对存储计划的抉择，中关村在线推举采取PCIe 5.0尺度的产物，尤其是本次安排中表示杰出的致态TiPro9000固态硬盘。它以其出色的速率机能、低发烧量以及团体亮眼的综合表示，成为团体电脑进级的幻想之选。