勾引 av 显卡可能没那么报复了？中国公司给硅谷好好上了一课。
发布日期：2025-01-04 09:49 点击次数：122
我是万万没思到勾引 av，就在西方还千里浸在圣诞假期，豪恣 " 过年 " 的时候，我们中国企业给东说念主家放了个新年二踢脚，给东说念主家脑瓜子崩得嗡嗡得。
前有宇树科技的机器狗视频让大众惊呼，还要啥波士顿能源。
紧接着又来了个国产大模子 DeepSeek，以致有股作念空英伟达的滋味。
具体咋回事儿，咱给你唠显豁咯。
前几天， DeepSeek 刚刚公布最新版块 V3 ，精良，与大洋此岸阿谁自称 Open ，却越来越 Close 的公司居品不同，这个 V3 是开源的。
不外开源还不是他最报复的标签， DeepSeek-V3 （ 以下简称 V3 ）还兼具了性能海外一流，技能力给力，价钱击穿地心三个特色，这一套不明释连招打得业内大模子厂商们王人有点昏头昏脑了。
V3 一发布， OpenAI 首创成员 Karpathy 平直看嗨了，以致发出了灵魂发问，难说念说大模子们根蒂不需要大畛域显卡集群？
我测度老黄看到这头皮王人得发麻了吧。
同期， Meta 的 AI 技能官亦然直呼 DeepSeek 的效果伟大。
著名 AI 评测博主 Tim Dettmers ，平直吹起来了，暗示 DeepSeek 的料理优雅 " elegant " 。
而在这些技能出生的东说念主，看着 V3 的成绩送去歌咏的时候，也有些东说念主急了。
比如奥特曼就搁那说，复制相比浮浅啦，很难不让东说念主以为他在内涵 DeepSeek 。
更有利旨兴味的是，作念到这些的公司既不是什么大厂，也不是纯血 AI 厂商。
DeepSeek 公司华文名叫深度求索，他们正本和 AI 没任何关系。
就在大模子爆火之前，他们其实是私募机构幻方量化的一个团队。
而深度求索能够终了弯说念超车，既有点势必，也好像有点运说念的意旨兴味。
早在 2019 年，幻方就投资 2 亿元搭建了自研深度学习本质平台 " 萤火虫一号 " ，到了 2021 年依然买了足足 1 万丈英伟达 A100 显卡的算力储备了。
要知说念，这个时候大模子没火，万卡集群的倡导更是还没出现。
而恰是凭借这部分硬件储备，幻方才拿到了 AI 大模子的入场券，最终卷出了当今的 V3 。
你说好好的一个量化投资畛域的大厂，干嘛要跑来搞 AI 呢？
深度求索的 CEO 梁文锋在罗致采访的时候给大众聊过，并不是什么看中 AI 远景。
而是在他们看来， " 通用东说念主工智能可能是下一个最难的事之一 " ，对他们来说， " 这是一个若何作念的问题，而不是为什么作念的问题。 "
等于抱着这样股 " 莽 " 劲，深度求索才搞出了此次的大新闻，底下给大众具体讲讲 V3 有啥超过的场地。
最初等于性能强悍，咫尺来看，在 V3 眼前，开源模子果真没一个能打的。
还牢记客岁年中，小扎的 Meta 推出模子 Llama 3.1 ，那时就因为性能优秀况且开源，一时期被捧上神坛，限度在 V3 手里，基本是全面落败。
而在多样大厂手里的闭源模子，那些大众近朱者赤的什么 GPT-4o 、 Claude 3.5 Sonnet 啥的， V3 也能打得有来有回。
你看到这，可能以为不外如斯，也等于追上了海外跨越水平嘛，值得这样吹吗？
粗暴的还在背面。
大众能够王人知说念了，当今的大模子等于一个通过大王人算力，让模子吃多样数据的真金不怕火丹经过。
在这个真金不怕火丹期，需要的是大王人算力和时期往里砸。
是以在圈子里有了一个新的计量单元 " GPU 时 " ，也等于用了些许块 GPU 花了些许个小时的本质时期。
GPU 时越高，意味着耗尽的时期、财富老本就越高，反之就物好意思价廉了。
前边说的此前开源模子王者， Llama 3.1 405B ，本质周期耗尽了 3080 万 GPU 时。
可性能更强的 V3 ，只花了不到 280 万 GPU 时。
以钱来换算， DeepSeek 搞出 V3 版块，能够只花了 4000 多万东说念主民币。
而 Llama 3.1 405B 的本质时期， Meta 光是在老黄那买了 16000 多个 GPU ，保守测度至少王人花了十几亿东说念主民币。
至于另外的那几家闭源模子，动辄王人是几十亿上百亿大撒币的。
你别以为 DeepSeek 靠的是什么歪门邪说念，东说念主家是正经八百的有技能傍身的。
为了搞明晰 DeepSeek 的技能咋样，我们有利有关了语核科技首创东说念主兼 CTO 池光耀，他们主力发展企业向的 agent 数字东说念主，早等于 DeepSeek 的铁粉了。
池光耀告诉我们，此次 V3 的更新主如若 3 个方面的优化，差异是通讯和显存优化、推理大众的负载平衡以及FP8 搀杂精度本质。
各个部分若何终了的咱也就未几说了，总体来说，大的合座结构没啥变化，更多的像是我们搞基建的那一套传统艺能，把工程作念得更高效、更合理了。
chatgpt 文爱
最初， V3 通过通讯和显存优化，极大幅度减少了资源陶然率，普及了诈欺效用。
而推理大众（ 具备推理技艺的 AI 系统或算法，能够通过数据分析得出论断 ）的负载平衡就更阴私了，一般的大模子，每次启动，必须把通盘大众王人等比例放进工位（ 显存 ），但委果回应用户问题时，十几个大众内部只用到一两个，剩下的大众占着工位（ 显存 ）摸鱼，也干不了别的事情。
而 DeepSeek 把大众分红热点和冷门两种，热点的大众，复制一份放进显存，料理热点问题；冷门的大众也不摸鱼，老是能被分派到问题。
FP8 搀杂精度本质则是在之前被许多团队尝试无果的方进取拓展了新的一步，通过镌汰本质精度以镌汰本质时算力支拨，但却神奇地保持了回应质地基本不变。
也恰是这些技能上的改良，才获得了大模子圈的一致好评。
通过一直以来的技能更新迭代， DeepSeek 收成的答复亦然相称惊东说念主的。
他们 V3 版块推出后，他们的价钱依然是低到百万次几毛钱、几块钱。
而一启动提到一样开源的 Claude 3.5 Sonnet ，每百万输入输出，至少王人得要几十块以上。。。
更要命的是，这对 DeepSeek 来说依然是老例套路了。
早在客岁初，DeepSeek V2 模子发布后，就靠着一手廉价，被大众叫作念了AI 界拼多多。
他们还进一步激发了国内大模子公司的价钱战，诸如智谱、字节、阿里、百度、腾讯等大厂纷繁降价。
池光耀也告诉我们，他们公司早在客岁 6 、 7 月份就启动用上了 DeepSeek ，那时也有国内其他一些大模子厂商来找过他们。
但和 DeepSeek 价钱差未几的，模子 " 又太笨了，跟 DeepSeek 不在一个维度 " ；如果模子技艺和 DeepSeek 差未几，阿谁价钱 " 基本王人是 10 倍以上 " 。
更夸张的是，由于技能 " 遥遥跨越 " 带来的降本增效，哪怕 DeepSeek 卖得这样低廉，阐明他们首创东说念主梁文峰所说，他们公司如故赢利的。。。是不是有种近邻比亚迪搞 998 ，照样财报飘红的滋味了。
不外关于我们无为用户来说， DeepSeek 似乎也有点偏门了。
因为他的刚烈主如若在推理、数学、代码主张，而多模态和一些文娱化的畛域不是他们的所长。
况且脚下，尽管 DeepSeek 说我方如故赢利的，但他们团队上高下下王人有股极客味，是以他们的买卖化比起其他厂商就有点弱了。
但不论若何说， DeepSeek 的告成也默契了，在 AI 这个赛说念还存在的更多的可能。
按曩昔的筹划，思玩转 AI 背面莫得个金主爸爸砸钱买显卡，根蒂就玩不转。
但当今看起来，掌抓了算力并不一定等于掌抓了一切。
我们不妨期待下畴昔，更多的优化出现，让更多的小公司、初创企业王人能参加 AI 畛域，差评君总嗅觉，那才是委果的 AI 海浪才对。
撰文：八戒
好意思编：焕妍勾引 av
