奥飞寺的克雷西

量子比特|公众号QbitAI

人工智能无疑是当今的重要话题，通过大模型、垂直应用、智能代理等多种方式推动数字经济的发展。

然而，服务AI的基础设施——算力和数据是限制人工智能发展的瓶颈，成为进一步讨论的话题。

为什么这个瓶颈仍然存在？怎么破呢？

我们在成立一年的北电数字智能——的所作所为中看到了一些答案

一座汇聚国内算力、“开箱即用”的“AI工厂”在北京浮出水面。

“AI工厂”剑指算力焦虑

无论是对于单个从业者还是整个行业来说，有效算力的缺乏都是亟待解决的痛点。

从需求端来看，以大模型为代表的生成式人工智能的蓬勃发展、“百模型大战”的激烈以及推理时代的到来，无疑将带来算力需求的巨大增长。

中国工程院联合十几家机构在《科学》子刊《智能计算》上联合发表的报告指出，人工智能所需的算力每100天翻一番。据此计算，预计未来5年新增人口将超过100万。次。

而且，人工智能时代，对算力的需求不仅仅是FLOPS的数量，算力需求的结构也发生了很大的变化。

AIGC时代，算力结构从CPU+加速器转向以GPU为主的大规模并行计算，智能算力占比快速提升。

但目前，国产芯片尤其是高端芯片在计算性能、功耗、卡间通信速度等诸多方面与业界先进产品存在代际差距。

非芯片因素也在限制算力的高效利用，比如节点间网络传输能力不足、配套软件生态不完善等等。

在这样的现实下，国内智能算力大部分无法得到高效利用，引发了业界的第二次算力焦虑。

产生这种焦虑的根本原因是用户对多核的能力，特别是国产计算能力没有清晰的认识，可以概括为几个方面：

国内大规模多核集群能力不足，无法支持贴近生产环境的大规模算力适配和评估。也就是说，单片机测试只能提供卡与计算节点互联的预估数据，而没有加速比的数据；现有平台主要采用指数评价指标，无法与用户业务场景对接。从业务场景到底层芯片的适配链路尚未完全打通，这意味着实际用户无法了解和判断多核集群是否能够满足自身需求；国内缺乏多核异构服务平台，缺乏多核异构、混合训练、推理任务的尝试。一般来说，需求方并不了解供应商能够提供的服务以及对其实际业务的支持程度。供应商缺乏一个展示其能力、能做什么的平台，同时也缺乏一个公平、明确的评价和标准。

为了打破这种认知，解决算力焦虑的困惑，一个名为“Spark智能计算”的AIDC品牌应运而生。

“星星之火，可以燎原”。选择“Spark”这样的名字，是因为解决方案提供商希望这个品牌能够燎原，实现全国复制。

提出这一计划的人是北电数智——北京电控旗下一家专门从事人工智能的高新技术企业。

北电数字认为，计算能力是人工智能时代新的生产力形式：

农业时代，地球是算力；

机器时代，电力、蒸汽动力是计算能力；

人工智能时代，算力与煤、水、电一样，是生产力的首要形式。

为了把算力变成像电力一样的生产力因素，我们不能再专注于芯片、服务器、机柜的简单堆叠。相反，我们必须从“算力仓库”转型为拥有相应设备的“AI工厂”。新的质的生产关系。

这也是北电数智在构建Spark智能计算时的新思路。

具体来说，Spark智能计算通过提供水、电、煤等普惠算力，支撑人工智能技术的创新和应用。

另一方面，以“AIDC即服务”为理念，提供基础模型、行业模型、一站式工具链等支撑服务，让企业快速、轻松地构建自己想要的应用或重构现有产品实现生产方式的创新。

目前，“星火智能计算”品牌首个标杆项目——北京数字经济计算中心已开工建设，未来将以此为模板向全国推广。

为了更好地助力算力升级，北电数字还有两款核心产品全面解决行业算力焦虑：

先进的AI异构计算平台，针对当前高端计算资源短缺的情况，配置最符合国内市场需求的多核异构解决方案；宝塔大模型适配平台向下广泛适配芯片，使芯片与大模型广泛解耦适配；两款产品“一身两侧”，从不同维度解决算力焦虑。

Advance·AI异构计算平台作为全栈国产算力迭代验证平台，可实现多种算力的统一管理和调度。同时，率先推出按效果计费。用户无需了解底层细节即可按需应用，实现多种算力之间的平滑迁移。

为了更好地利用算力，Spark智能计算还在统一通信、编译优化等技术上取得了突破。前向AI异构计算平台可使国产芯片性能提升2-3倍，吞吐量提升6-7倍。

Advance AI异构计算平台在为用户提供算力支持的同时，还打造了“芯片模型场景”的全新评估模型，帮助打破厂商与用户之间的信息不对称，帮助芯片厂商破局。让国产芯片从“能用”走向“好用”。

这意味着，在为用户提供算力支持的同时，也将推动国产芯片的整体提升，带来更多源算力。

宝塔·大模型适配系统赋能模型端和应用端，支持模型部署和管理，对算力进行精细化运营管理，进一步支撑人工智能应用。

让高质量数据流通起来

如果说算力短缺是AI大厦上的一朵“乌云”，那么数据短缺则是另一朵值得一提的乌云。

北电数字首席科学家、复旦大学计算机科学与技术学院特聘教授窦德静在公开演讲中表示，数据的规模和质量决定了人工智能的“上限”。 —— 无论是训练还是推理，都需要高质量的数据来支持。

以Meta发布的最新开源大型模型Llama 3.1为例。其第三代模型在超过16,000 个H100 GPU 上消耗了15T 代币的训练数据，是第二代的7 倍。这也使其成为第二代车型。相同参数规模下性能飞跃。

在我国，数据供给端的现状也面临着与算力同样的焦虑。总量丰富，但优质数据烟囱较多。

据IDC预计，2022年至2027年，中国数据量将从23.88ZB增长至76.6ZB，位居全球第一。然而，可用的高质量语料数据集仍然相对匮乏。

在数量本已稀缺的情况下，高价值数据面临“供给不了、流动不了、用不上”的困境，难以发挥价值，使得本已有限的数据资源更加紧张。

另一方面，数据整合程度也严重不足。大量数据分散在产业侧或垂直系统，没有结构化，无法直接用于大型模型训练。

其背后的深层次原因是缺乏成熟的技术和可信机制来支撑数据安全。拥有数据的企业“不知道、不敢、不能、不会”让数据自由流动。这种“四无”的情况进一步造成了今天数据集的短缺，并造成了无限循环。

因此，建立可信、安全的数据机制是当务之急。

为此，北电数智推出了又一重要产品————红湖·可信数据空间，让数据要素充分汇聚、场景充分开放。

红湖·可信数据空间是围绕“可信”构建的多层次解决方案，旨在盘活数据，提供优质的可信数据服务，打造“安全共享、可信流通”的数据环境。

从技术角度来看，红湖可信数据空间配备了可信数据沙箱，利用“逻辑数据仓库”等技术导入、修改和删除数据，并利用隐私计算+区块链技术保证数据安全和安全。透明度。防泄漏，保证数据可追溯和透明，实现“全链条可控”。

这种方式使数据可信、可控、可用、可审计、加密保护，从而营造多方互信、数据流通协议的数据共享和应用环境。

有了这样全流程可控的安全措施，数据所有者才敢于将自己的数据资源投入市场流通，吸引更多的数据所有者参与其中。

随着前期的数据投入，数据供给生态也将趋于成熟，数据共享的形式将变得更加完善和便捷，流动的优质数据将为行业发展注入更多新鲜血液。

同时，北电数智本身也给行业带来了优质数据，在医疗、教育、文化等行业布局了垂直模型矩阵，让人工智能企业更好地找到落地场景。

那么，北电数智是谁，它是如何针对人工智能行业的痛点研发出如此全面的解决方案的呢？

人工智能时代的“发电厂”，产业链的“串珠人”

北电数智是北京电控集团旗下高新技术企业。其专注于人工智能，定位为全栈人工智能服务商。

在北电数字智能成立之前，GPT-3.5恰逢GPT-3.5发布。彼时，人工智能新时代全面开启，人工智能竞争日趋激烈。顺应时代发展和市场需求，北电数字智能应运而生。

北电数智成立之初承接的第一个项目是北京数字经济算力中心，定位于向大众提供智能算力，实现普惠算力。

换句话说，这个算力中心就像一座“发电厂”，让算力像水、电、煤一样赋能整个人工智能产业从基础到应用。

北电数智战略与营销负责人杨震表示，这就是北电数智与数字化企业的区别。北电数智的首要任务是支持人工智能产业，让人工智能公司或个人开发者能够快速使用和享受人工智能。

在整个人工智能产业中，杨震认为，北电数智扮演着产业链“串珠者”的角色。 —— 如果产业链上已有珠子，则串起来；如果没有，就创建它们。

比如国产芯片的加速、行业模式中垂直模式的布局、以及上面提到的可信数据空间，都是这个产业链上的“珍珠”。

除了提供算力产品外，北京数字经济算力中心还专门设计了交流展示空间，让相同或不同领域的人工智能从业者进行碰撞和交流，推动更全面、更深层次的创新。

未来，这个计算中心的开放空间也将作为“计算科技园”向公众开放，让更多人了解人工智能时代生产变革的力量。

总之，北电数科将以智能计算中心为支撑，连接芯片、服务器、大模型、AI应用、产业投资等上下游技术、产品和服务，推动人工智能产业的成长和繁荣带动区域经济产业升级。

截至目前，北电数智已拥有10余家AI产业生态合作伙伴，覆盖AI辅助药物研发、通用机器人/实体智能、无人驾驶、AI智能体等明星赛道。

– 超过-

量子比特QbitAI·今日头条签约

关注我们，第一时间了解前沿技术动态

版权声明：本文转载于网络，版权归作者所有。如有侵权，请联系本站编辑删除。