权巅:从党政一肩挑开始 第669节
陈捷环顾一圈,然后开口:
“各位朋友们,大家好,我是陈捷。”
“刚才陈三一主任把我们超算中心的数据都介绍清楚了,两位教授也把未来的技术趋势讲得非常透彻。”
“我接下来要讲的东西很简单,就是一件事,你们为什么要来武河。”
“我知道在座很多人的第一反应可能是,武河?做人工智能?靠谱吗?”
台下有几个人不自觉地微微笑了一下。
陈捷也笑了笑:
“这个怀疑很正常,换作是我,我也会这么想。”
“人工智能是燕京、港城和沪城的菜,关武河什么事?”
“但今天我想换一个角度来聊这件事。”
“我不谈情怀,不谈战略愿景,就谈一个最俗的东西,钱。”
众人都认真听着陈捷的话。
“在座做过大模型预训练的朋友,心里都有一本账。”
“一个七十亿参数的模型,从零开始做一轮完整的预训练,按照目前市面上主流云厂商的A100实例报价,算力成本大概是多少?”
他没有等人回答,自己给出了数字:
“按照某头部云厂商的官方标价,大约是四百万到六百万人民币。”
“如果你要做一个更大的模型,比如六百五十亿参数的,成本翻十倍以上。”
“如果你在训练过程中发现了方向偏差,需要推倒重来,那就是再烧一遍同样的钱。”
“对在座的大企业来说,几百万可能是一笔实验经费,但对那些只有五到二十人的初创团队来说,这是全部身家。”
“很多优秀的技术团队,不是没有好的想法,不是没有好的算法,而是根本烧不起这个训练过程。”
“他们拿着种子轮的几百万融资,租了几张卡,跑了一个小模型的验证实验,就已经花掉了一大半的钱。”
“这就导致大模型这条路,正在变成只有巨头和资金充沛的公司才玩得起的游戏。”
“创新本来应该是最小的单元在做最大胆的尝试,但现在,算力成本这道门槛,把大量本应诞生的创新挡在了门外。”
会场里不少人微微点头。
“武河要做的事情很简单。”陈捷继续开口,“把算力的价格打下来,不是打到市场价的八折、七折,而是打到三分之一甚至四分之一。”
“怎么做到呢?”
陈捷伸出食指:
“第一,光谷超算中心是国家投资建设的重大科技基础设施,它的建设成本已经由国家财政承担了。”
“武河市要做的不是回收投资成本,而是让这个设施产生最大的社会效益。”
“所以我们的定价逻辑和商业云厂商完全不同,他们要追求利润最大化,我们追求的是利用率最大化。”
“目前超算中心的算力利用率只有百分之四十三,也就是说超过一半的算力每天闲置在那里,什么都没干,但电费照付,维护成本照花。”
“与其让它空转,不如以极低的价格租出去,让你们的模型跑起来,让这些算力真正产生价值。”
他看向了幻方量化创始人所在那桌的方向,伸出第二根手指:
“第二,电力成本。”
“北汉省的工业电价在全国排名倒数第五,平均每度电不到五毛钱。”
“算力说到底是电力的转化,同样一张卡,在港城跑一个月和在武河跑一个月,光电费差异就有百分之三十以上。”
“超算中心用的是专线供电,电价更低,这个成本优势不是政策补贴出来的,是自然禀赋。”
“第三,网络。”
“到今年年底,武河到黔州国家枢纽节点的骨干直连光缆将全线贯通,到庆州的线路也会在明年一季度通车。”
“我们正在和省通信管理局一起推进武河到燕京方向的算力直连,目标是将时延压到五毫秒以内。”
“这是什么概念?一次网页请求的响应时间通常在五十到一百毫秒。”
“五毫秒的网络时延,意味着你在燕京的办公室里提交一个训练任务到武河的集群,感受上和用本地机房几乎没有区别。”
下方许多人都陷入沉思,根据陈捷的讲话在下意识做了一番理论换算。
陈捷的声音还在继续:
“有人可能会问,便宜是便宜了,但排队怎么办?我的任务提交进去,要等多久才能跑上?”
“还有,现在超算中心的利用率不到一半,算力是充裕的,短期内不存在排队问题,但随着更多团队入驻,需求会增长,到那时候怎么办?”
“我们的做法是两条腿走路。”
“一是扩容,光谷科学岛二期正在建设中,规划了专门面向人工智能训练的GPU集群扩展区域,首期扩容方案将在明年上半年完成部署。”
“二是调度,陈三一主任的团队自研了一套异构算力调度系统,可以根据任务特征自动匹配最优的硬件配置,将算力浪费降到最低。”
“这套系统的细节,下午的技术分论坛上三一会专题介绍。”
陈捷把核心优势讲完后,语气稍稍放缓:
“以上是钱的账,下面说另一件事,做模型训练,除了算力,还需要什么?”
“数据。”
他顿了顿:
“高质量、有标注、真实场景的数据,是所有模型训练团队梦寐以求的东西。”
“你们中有人在做智能客服,有人在做知识问答,有人在做文本生成,也有人在做多模态理解。”
“无论做什么方向,数据质量和场景贴合度,直接决定了模型的上限。”
“武河市政府每天产生海量的政务交互数据,这些数据涵盖了市民生活的方方面面,是真实世界中最鲜活、最复杂、最多样的对话和文本语料。”
“我们正在研究建立一套公共数据授权运营机制,在严格脱敏和隐私保护的前提下,将一部分经过处理的政务数据,以授权使用的方式,向在武河注册的人工智能企业开放,供模型训练使用。”
“这不是免费午餐,有严格的使用规范、保密协议和安全审计机制。”
“但对你们来说,它意味着不再需要花几百万去采购数据,或者用低质量的网络爬虫数据凑合。”
“政府提供靶场,你们负责在靶场上练出真本事。”
陈捷这番话说出来,台下那些做自然语言处理方向的人,表情出现了明显变化。
数据是制约他们的最大瓶颈之一。
市面上能买到的公开数据集,要么质量参差不齐,要么场景覆盖面太窄。
而那些真正有价值的高质量数据,几乎全部锁在各大互联网巨头的数据库里,中小团队根本无从获取。
现在有一个地方政府说,我可以把政务数据开放给你用。
这个诱惑力,不亚于把算力价格打到四分之一。
“最后说一件事。”
“我知道在座很多人的顾虑,我说的东西能兑现吗?今天签了备忘录,明天换了领导班子,政策还算不算数?”
“这个问题我回答不了。”
他很坦率地摊手:
“我不可能向各位做出超越我任期的承诺,但我可以告诉大家,武河市正在制定《武河市优化营商环境条例》,这不是一份政策文件,是一部地方立法。”
“政策可以调整,但法律一旦生效,就具有跨越任何个人任期的稳定性。”
“我们把对企业的承诺写进法律里,把政府的权力边界写进法律里,把违约责任写进法律里。”
“这就是武河能给各位的,制度性承诺。”
说完这句话,陈捷环视全场:
“我要说的,总结就是便宜的算力,充足的资源,优质的数据,以及一个正在用法律为你们的安全感兜底的城市。”
“如果这些东西对各位有吸引力,欢迎来武河看看。”
“如果暂时没有吸引力,也欢迎大家先把资料包带回去研究研究,货比三家。”
他微微欠了欠身:
“谢谢各位。”
掌声响起的时候,比开场致辞时明显热烈了一个档次。
陈捷走下讲台,回到了自己的座位上。
方鹤年重新站到主持位置:
“感谢陈书记的介绍,下面进入圆桌对话环节,有请四位嘉宾上台。”
圆桌对话的四位嘉宾分别是腾讯首席技术官周凌飞、中科院计算技术研究所副所长张维平、幻方量化创始人梁文风,以及华中科技大学人工智能与自动化学院院长曹宜。
四人在讲台中央的圆桌旁落座,方鹤年担任主持人。
“各位在听完刚才关于光谷超算中心和武河市产业政策的介绍之后,最关心的一个问题是什么?”
周凌飞第一个接话:
上一篇:开局停职?我转投纪委调查组
下一篇:返回列表
