首页 > 官场商战> 权巅:从党政一肩挑开始

权巅:从党政一肩挑开始 第669节

  陈捷环顾一圈,然后开口:

  “各位朋友们,大家好,我是陈捷。”

  “刚才陈三一主任把我们超算中心的数据都介绍清楚了,两位教授也把未来的技术趋势讲得非常透彻。”

  “我接下来要讲的东西很简单,就是一件事,你们为什么要来武河。”

  “我知道在座很多人的第一反应可能是,武河?做人工智能?靠谱吗?”

  台下有几个人不自觉地微微笑了一下。

  陈捷也笑了笑:

  “这个怀疑很正常,换作是我,我也会这么想。”

  “人工智能是燕京、港城和沪城的菜,关武河什么事?”

  “但今天我想换一个角度来聊这件事。”

  “我不谈情怀,不谈战略愿景,就谈一个最俗的东西,钱。”

  众人都认真听着陈捷的话。

  “在座做过大模型预训练的朋友,心里都有一本账。”

  “一个七十亿参数的模型,从零开始做一轮完整的预训练,按照目前市面上主流云厂商的A100实例报价,算力成本大概是多少?”

  他没有等人回答,自己给出了数字:

  “按照某头部云厂商的官方标价,大约是四百万到六百万人民币。”

  “如果你要做一个更大的模型,比如六百五十亿参数的,成本翻十倍以上。”

  “如果你在训练过程中发现了方向偏差,需要推倒重来,那就是再烧一遍同样的钱。”

  “对在座的大企业来说,几百万可能是一笔实验经费,但对那些只有五到二十人的初创团队来说,这是全部身家。”

  “很多优秀的技术团队,不是没有好的想法,不是没有好的算法,而是根本烧不起这个训练过程。”

  “他们拿着种子轮的几百万融资,租了几张卡,跑了一个小模型的验证实验,就已经花掉了一大半的钱。”

  “这就导致大模型这条路,正在变成只有巨头和资金充沛的公司才玩得起的游戏。”

  “创新本来应该是最小的单元在做最大胆的尝试,但现在,算力成本这道门槛,把大量本应诞生的创新挡在了门外。”

  会场里不少人微微点头。

  “武河要做的事情很简单。”陈捷继续开口,“把算力的价格打下来,不是打到市场价的八折、七折,而是打到三分之一甚至四分之一。”

  “怎么做到呢?”

  陈捷伸出食指:

  “第一,光谷超算中心是国家投资建设的重大科技基础设施,它的建设成本已经由国家财政承担了。”

  “武河市要做的不是回收投资成本,而是让这个设施产生最大的社会效益。”

  “所以我们的定价逻辑和商业云厂商完全不同,他们要追求利润最大化,我们追求的是利用率最大化。”

  “目前超算中心的算力利用率只有百分之四十三,也就是说超过一半的算力每天闲置在那里,什么都没干,但电费照付,维护成本照花。”

  “与其让它空转,不如以极低的价格租出去,让你们的模型跑起来,让这些算力真正产生价值。”

  他看向了幻方量化创始人所在那桌的方向,伸出第二根手指:

  “第二,电力成本。”

  “北汉省的工业电价在全国排名倒数第五,平均每度电不到五毛钱。”

  “算力说到底是电力的转化,同样一张卡,在港城跑一个月和在武河跑一个月,光电费差异就有百分之三十以上。”

  “超算中心用的是专线供电,电价更低,这个成本优势不是政策补贴出来的,是自然禀赋。”

  “第三,网络。”

  “到今年年底,武河到黔州国家枢纽节点的骨干直连光缆将全线贯通,到庆州的线路也会在明年一季度通车。”

  “我们正在和省通信管理局一起推进武河到燕京方向的算力直连,目标是将时延压到五毫秒以内。”

  “这是什么概念?一次网页请求的响应时间通常在五十到一百毫秒。”

  “五毫秒的网络时延,意味着你在燕京的办公室里提交一个训练任务到武河的集群,感受上和用本地机房几乎没有区别。”

  下方许多人都陷入沉思,根据陈捷的讲话在下意识做了一番理论换算。

  陈捷的声音还在继续:

  “有人可能会问,便宜是便宜了,但排队怎么办?我的任务提交进去,要等多久才能跑上?”

  “还有,现在超算中心的利用率不到一半,算力是充裕的,短期内不存在排队问题,但随着更多团队入驻,需求会增长,到那时候怎么办?”

  “我们的做法是两条腿走路。”

  “一是扩容,光谷科学岛二期正在建设中,规划了专门面向人工智能训练的GPU集群扩展区域,首期扩容方案将在明年上半年完成部署。”

  “二是调度,陈三一主任的团队自研了一套异构算力调度系统,可以根据任务特征自动匹配最优的硬件配置,将算力浪费降到最低。”

  “这套系统的细节,下午的技术分论坛上三一会专题介绍。”

  陈捷把核心优势讲完后,语气稍稍放缓:

  “以上是钱的账,下面说另一件事,做模型训练,除了算力,还需要什么?”

  “数据。”

  他顿了顿:

  “高质量、有标注、真实场景的数据,是所有模型训练团队梦寐以求的东西。”

  “你们中有人在做智能客服,有人在做知识问答,有人在做文本生成,也有人在做多模态理解。”

  “无论做什么方向,数据质量和场景贴合度,直接决定了模型的上限。”

  “武河市政府每天产生海量的政务交互数据,这些数据涵盖了市民生活的方方面面,是真实世界中最鲜活、最复杂、最多样的对话和文本语料。”

  “我们正在研究建立一套公共数据授权运营机制,在严格脱敏和隐私保护的前提下,将一部分经过处理的政务数据,以授权使用的方式,向在武河注册的人工智能企业开放,供模型训练使用。”

  “这不是免费午餐,有严格的使用规范、保密协议和安全审计机制。”

  “但对你们来说,它意味着不再需要花几百万去采购数据,或者用低质量的网络爬虫数据凑合。”

  “政府提供靶场,你们负责在靶场上练出真本事。”

  陈捷这番话说出来,台下那些做自然语言处理方向的人,表情出现了明显变化。

  数据是制约他们的最大瓶颈之一。

  市面上能买到的公开数据集,要么质量参差不齐,要么场景覆盖面太窄。

  而那些真正有价值的高质量数据,几乎全部锁在各大互联网巨头的数据库里,中小团队根本无从获取。

  现在有一个地方政府说,我可以把政务数据开放给你用。

  这个诱惑力,不亚于把算力价格打到四分之一。

  “最后说一件事。”

  “我知道在座很多人的顾虑,我说的东西能兑现吗?今天签了备忘录,明天换了领导班子,政策还算不算数?”

  “这个问题我回答不了。”

  他很坦率地摊手:

  “我不可能向各位做出超越我任期的承诺,但我可以告诉大家,武河市正在制定《武河市优化营商环境条例》,这不是一份政策文件,是一部地方立法。”

  “政策可以调整,但法律一旦生效,就具有跨越任何个人任期的稳定性。”

  “我们把对企业的承诺写进法律里,把政府的权力边界写进法律里,把违约责任写进法律里。”

  “这就是武河能给各位的,制度性承诺。”

  说完这句话,陈捷环视全场:

  “我要说的,总结就是便宜的算力,充足的资源,优质的数据,以及一个正在用法律为你们的安全感兜底的城市。”

  “如果这些东西对各位有吸引力,欢迎来武河看看。”

  “如果暂时没有吸引力,也欢迎大家先把资料包带回去研究研究,货比三家。”

  他微微欠了欠身:

  “谢谢各位。”

  掌声响起的时候,比开场致辞时明显热烈了一个档次。

  陈捷走下讲台,回到了自己的座位上。

  方鹤年重新站到主持位置:

  “感谢陈书记的介绍,下面进入圆桌对话环节,有请四位嘉宾上台。”

  圆桌对话的四位嘉宾分别是腾讯首席技术官周凌飞、中科院计算技术研究所副所长张维平、幻方量化创始人梁文风,以及华中科技大学人工智能与自动化学院院长曹宜。

  四人在讲台中央的圆桌旁落座,方鹤年担任主持人。

  “各位在听完刚才关于光谷超算中心和武河市产业政策的介绍之后,最关心的一个问题是什么?”

  周凌飞第一个接话:

首节 上一节 669/1115下一节 尾节 目录txt下载

上一篇:开局停职?我转投纪委调查组

下一篇:返回列表

推荐阅读