权巅:从党政一肩挑开始 第672节
“但这件事很难讲清楚,因为学术界和产业界在这个问题上有分歧。”
陈捷微微颔首示意:
“你就当我是一个门外汉,按你觉得最自然的方式讲就行。”
梁文风点了点头:
“那我打个比方。”
“当前全球主流的大模型训练范式,本质上是在用海量数据和海量算力,去蛮力拟合一个极其复杂的函数。”
“参数越多、数据越多、训练时间越长,模型越聪明,这是目前的共识。”
“美国人工智能的路线就是这个逻辑,参数量从十五亿暴涨到上万亿,算力需求每一代翻十倍以上。”
“但这条路有一个是工程极限。”
“当需要几万张顶级GPU协同工作,训练周期长达数月,电费以千万美元计的时候,全世界能跑得起这种实验的机构,就只剩下五六家了。”
“美国有谷歌、脸书、微软,华国有……”
他微微摇头:
“按目前这条路走下去,我们能叫得上名号的选手,可能凑不齐一只手。”
陈捷安静地听着。
梁文风继续道:
“但算法领域有一个长期被低估的方向。”
“不去追求参数量的无限膨胀,而是追求单位参数的信息密度最大化。”
“同样是一个七十亿参数的模型,如果训练方法足够精妙,数据筛选足够精准,架构设计足够巧妙,它能展现出的智能水平,可能不输一个参数量大十倍但训练方式粗放的模型。”
“这就好比下围棋。”
他换了一种更直观的说法:
“一个天赋异禀的棋手,从小只接受最精华的棋谱训练,对每一步棋都深入理解,融会贯通,可能比一个看了一百万盘棋但走马观花的人下得更好。”
“质量胜过数量,深度胜过广度。”
“如果这条路走通了,意味着不需要一万张A100来训练一个顶尖模型,可能一千张甚至几百张就够了。”
“算力门槛降低一个数量级,受制裁的冲击就从致命变成可控。”
梁文风说到这里顿了顿:
“但这条路在学术界的主流声音里,一直是被边缘化的。”
“因为主流叙事被硅谷定义了,美国人工智能的护城河也建立在算力壁垒上,我的训练规模你追不上,所以我永远领先你一步。”
“整个产业的利益格局,都在鼓励暴力堆算力的叙事,打压算法效率优先的叙事。”
“因为后者一旦成功,前者的商业根基就动摇了。”
陈捷一直认真听着,等梁文风说完,他才才开口:
“所以梁总的意思是,算法效率这条路,技术上可行,但它需要打破一个由硅谷巨头主导的话语体系和利益格局。”
陈捷微微前倾身体:
“美国对华国的科技遏制,不是一时冲动,也不是某一任总统的个人偏好,它是一个长期的,结构性的战略选择。”
“从中兴、华为到芯片,到今天的生物医药,打击的靶心一直在移动,但逻辑始终不变,就是遏制华国在核心技术领域的追赶速度。”
“你刚才说的GPU禁令,我认为不是如果的问题,而是什么时候的问题。”
“并且它不会是一次性的,会是分阶段、逐步收紧的。”
“先限制最高端的型号,然后扩展到次高端,最后可能连中端推理芯片都会纳入管控。”
“在这种背景下,我们今天在武河搭建的这套算力基础设施,如果底层完全依赖英伟达的硬件,那它就是一座建在沙子上的城堡。”
“禁令一来,沙子被抽走,城堡就塌。”
“所以我的思路是双轨并行。”
“短期内,利用现有的存量算力,通过成本优势吸引产业集聚,这是第一条轨。”
“但与此同时,必须培育一批走算法效率路线的团队,让他们在低算力约束的条件下探索智能的上限,这是第二条轨。”
“第一条轨解决的是今天的问题,第二条轨解决的是明天的问题。”
“如果明天禁令真的落地了,第一条轨会受冲击,但第二条轨上的团队,因为从一开始就不依赖天量算力,反而可能成为穿越封锁的主力。”
陈捷将目光投向梁文风:
“我今天在这个论坛上讲的那些东西,它们的真正价值不在于让更多团队用更多的卡去跑更大的模型,而是在于降低实验的门槛,让更多有想法的人,用更少的资源,去探索更聪明的方法。”
梁文风嘴角微微动了一下,然后道:
“陈市长,如果按照您说的双轨思路,那第二条轨上,武河具体能做什么?”
陈捷笑了一下:
“武河能做三件事,第一是设一个研究方向的甄选机制,算法效率这条路上有很多分支,比如稀疏化、蒸馏、混合专家架构、数据筛选算法、训练范式的创新,但不是每个方向都值得投入,需要找到那些最有可能在短期内产生突破的技术路径,集中资源支持。”
“第二是建一个低门槛的实验环境,不是给他们一万张卡,而是给他们有限的资源,比如一百到五百张卡的规模,然后看他们在这种约束条件下,能做出什么成果。”
“约束本身就是创新催化剂,历史上很多最精妙的算法突破,都不是在算力充裕的环境里产生的,而是在资源极度匮乏的条件下逼出来的。”
“第三就是打通从论文到产品的转化通道,学术界有很多关于算法效率的优秀论文,但大部分停留在论文里,没有被工程化验证。”
“原因也很简单,验证需要钱,需要算力和工程团队,而做学术的人通常不具备这些条件。”
“如果武河能搭建一个从理论验证到工程落地的完整链路,让那些发了论文的研究者,有一个地方可以把自己的想法跑通,那对全国的人工智能研究者来说,这里就不只是一个算力基地,而是一个创新转化的平台。”
陈捷讲完这三点后,从茶几上拿起水杯喝了一口,然后将杯子放回去:
“梁总,我工作这些年,有一个很深的体会,真正好的制度设计,不是要消灭所有约束,而是要让约束的方向对。”
“算力不够是约束,但如果这个约束倒逼出了更高效的算法,那它就不是枷锁,而是磨刀石。”
“反过来讲,如果无限制地给每个团队最顶配的硬件,让他们可以肆无忌惮地浪费算力,可能到最后谁也逼不出真正的效率革命。”
梁文风微微颔首。
“所以,”陈捷继续道,“我在想一件事,论坛结束之后,在武河设立一个专门的项目,我暂且叫它约束条件下的智能突破测试。”
“面向全国征集团队,给他们一个固定的、有限的算力预算,比如等价于一百张A100运行三个月的总算力,然后看谁能用这些资源,在一个特定任务上做出最接近甚至超越千卡训练的效果。”
梁文风的眼睛亮了一下:
“这个测试我很喜欢,您刚才说的那个一百张卡跑三个月的约束,量级刚好卡在一个合适的位置上。”
“太少了,什么都做不了,团队没有参与动力,太多了,大家还是会走回暴力堆算力的老路。”
“一百张卡三个月,说多不多,说少不少,逼着团队每一步都必须精打细算,比如数据怎么选?架构怎么设计?学习率怎么调?哪些参数可以共享?哪些计算可以跳过?”
“每一个环节都容不得浪费,必须追求极致的效率。”
陈捷微微点头:
“而且还有一个附带效应。”
“什么?”
“参加这个挑战的团队,他们摸索出来的那些省算力的方法和技巧,会自然而然地沉淀为一套方法论。”
“这套方法论在今天看来可能只是一些工程上的优化技巧,但在某一天,如果真的出现GPU供应被掐断的极端情况,它就变成了在绝境中求生存的关键能力储备。”
“平时练的是效率,战时用的是韧性。”
梁文风在椅子上微微调整了一下坐姿,语气比之前多了几分坦率:
“陈市长,我做量化做了十一年,赚了不少钱,在圈子里也算有一些名气。”
“但这些年我一直在想一个问题,量化交易本质上是一个零和博弈,我赚的每一分钱都来自市场上另一个参与者的亏损。”
“这件事本身不创造任何社会价值。”
“所以我这两年一直在考虑,把一部分精力和资源,投入到一些真正能改变世界的事情上。”
“大模型就是其中一个方向。”
“但说实话,在今天之前,我一直没有找到一个合适的切入方式。”
“我在燕京租了一个小集群,养了一个研究团队在跑一些探索性的实验,但方向一直不够聚焦。”
他看着陈捷:
“今天和您聊的这些,让我看到了一种可能性,不再从硅谷定义的范式里追赶,而是从约束出发,走出一条不一样的路。”
陈捷没有接话,只是安静地等着他说完。
梁文风继续道:
“这个测试项目如果做起来,我愿意参与,我可以把我的研究团队搬一部分过来,在光谷超算中心开展一些算法效率方面的实验性工作。”
“当然,具体形式可以再商量。”
陈捷点了点头,语气平和:
“梁总,你的这个意向我很欢迎。”
“但有一点我需要提前跟你讲清楚,武河不是一个只讲情怀的地方,我们提供的是公平的环境和低成本的生产要素,不会对任何一家企业或团队做特殊的许诺。”
上一篇:开局停职?我转投纪委调查组
下一篇:返回列表
