《数字经济洞察周报》2023年第15期 | 科技部启动国家超算互联网部署工作 原创

本周,科技部启动国家超算互联网部署工作。昆仑万维正式发布千亿级大语言模型—“天工”。

行业政策

科技部启动国家超算互联网部署工作

2023年4月17日,科技部高新司在天津组织召开国家超算互联网工作启动会,主要探讨国家超算互联网建设路径,加快构建超算自主生态体系,落实超算互联网行动方案,并发起成立国家超算互联网联合体。

《数字经济洞察周报》2023年第15期 | 科技部启动国家超算互联网部署工作

图片来源:锐科技官方公众号

超算互联网,是用互联网思维运营超算,将全国众多超算中心通过算力网络连接起来,构建一体化算力服务平台,其建设重要目标是紧密连接供需方,通过市场化的运营和服务体系,实现算力资源统筹调度,降低超算应用门槛,并带动计算技术向更高水平发展,推动自主核心软硬件技术深度应用,辐射带动自主可控产业生态的发展与成熟。

科技部将通过超算互联网建设,打造国家算力底座,促进超算算力的一体化运营,助力科技创新和经济社会高质量发展。按照计划,到2025年底,国家超算互联网将可形成技术先进、模式创新、服务优质、生态完善的总体布局,有效支撑原始科学创新、重大工程突破、经济高质量发展、人民高品质生活提高等目标达成,成为支撑数字中国建设的“高速路”。

企业动态

昆仑万维正式发布千亿级大语言模型—“天工”

2023年4月17日,由昆仑万维和奇点智源联合研发的千亿级大语言模型—“天工”正式发布,并同时启动邀请测试,“天工”通过自然语言与用户进行问答式交互,具备知识问答、文案撰写、代码生成等功能,最多支持1万字以上文本对话,实现20轮以上问答交互。

“天工”大语言模型功能演示

《数字经济洞察周报》2023年第15期 | 科技部启动国家超算互联网部署工作

图片来源:昆仑万维官方公众号

“天工”算力基于国内最大的GPU集群之一,规模优势使得“天工”可通过海量数据进行更充分的训练,从而积累更强的理解能力和记忆力;采用双千亿模型—千亿预训练基座模型和千亿RLHF模型,这使其具备更高级自主学习和智能涌现能力;蒙特卡洛搜索树算法使「天工」可以提供更加人性化的交互体验,使得「天工」在复杂任务和场景中能够快速且准确地响应指令,输出高质量回答。

腾讯云发布新一代HCC高性能计算集群

近日,腾讯云面向大模型训练发布新一代HCC高性能计算集群。该集群搭载NVIDIA H800 Tensor Core GPU,能够提供高性能、高带宽、低延迟的智算能力支撑,适用于AIGC大模型、自动驾驶、NLP、推荐系统等分布式AI训练以及制药、蛋白质方针、分子动力学等场景。

腾讯云新一代集群通过对单机算力、网络架构和存储性能进行协同优化,能够为大模型训练提供高性能、高带宽、低延迟的智算能力支撑。总体来说,具有以下特点:

计算层面

采用最新一代腾讯云星星海自研服务器,搭载NVIDIA H800 Tensor Core GPU,单卡算力高达1979TFlops。

网络层面

基于自研星脉高性能计算网络,带来业界最高的3.2T RDMA通信带宽,单集群高达十万卡级别的组网规模,提供业界领先的集群构建能力,集群算力提升20%。

存储层面

腾讯云自研存储架构,具备TB级吞吐能力和千万级IOPS,支持不同场景下对存储的需求,COS+GooseFS、CFS Turbo等高性能存储方案,满足大模型场景下高性能、大吞吐和海量存储要求。

腾讯太极机器学习平台自研的训练框架AngelPTM,也已通过腾讯云TACO提供服务,帮助企业加速大模型落地。

打造面向AIGC的高性能智算网络

《数字经济洞察周报》2023年第15期 | 科技部启动国家超算互联网部署工作

图片来源:腾讯云官方公众号

行业会议

 

华为第20届全球分析师大会

2023年4月19日,华为第20届全球分析师大会在深圳开幕。本届大会以“跃升数字生产力,加速迈向智能世界”为主题,与全球行业与产业分析师、财经分析师、意见领袖及媒体等,共同探讨前沿趋势、产业发展策略、行业数字化方向。

华为副董事长、轮值董事长、CFO孟晚舟在大会上发表“初心如磐,奋楫笃行,共赢数字化未来”的主题演讲。

“数字化”是共识度最高、也是当前确定性最高的趋势。数字化已经成为越来越多国家、企业和组织的共同话题。数字技术,将驱动生产力从“量变到质变”,并逐步成为经济发展的核心引擎。跃升数字生产力正当时。

《数字经济洞察周报》2023年第15期 | 科技部启动国家超算互联网部署工作

图片来源:华为官方公众号

华为将在联接、计算、存储、云等方面保持投入,为客户提供极简架构、极高质量、极低成本、极优体验的“4极”数字基础设施。

在联接产业,从人到物,从家庭到工厂,从地上交通到地下矿道,行业场景要求联接无处不在、无时不快。华为将持续推动建设5.5G时代领先的数字基础设施,构建千亿物联、万兆体验的网络能力;在计算产业,未来算力触手可及、随需随用。华为将围绕多场景、多样性的需求,不断提高通用计算、人工智能计算的算力;在云产业,华为自身在数字化转型中沉淀的技术、工具和经验,将持续开放在华为云上,与此同时,全球伙伴的优秀实践也将逐步承载在华为云上,支撑好企业“上云”“用云”。

数字化转型的三个洞见

1.战略驱动是根本:数字化本质上是战略选择和战略规划成功的数字化转型,都是由战略驱动,而非技术驱动。

2.数据治理是基础:只有通过对数据的科学治理,数据在企业内部的流动才具有意义,不同维度的数据汇聚在一起,才能创造新的价值。

3.数据智能是方向:数据正在成为生产力。   

《数字经济洞察周报》2023年第15期 | 科技部启动国家超算互联网部署工作

图片来源:华为官方公众号

华为战略研究院院长周红博士在第20届华为全球分析师大会期间做主题为“建设智能世界的假设与愿景-从经验、知识到智能”的主题演讲。

在过去的一年中,我们与学术界、产业界科学家进行广泛交流,探讨迈向智能世界需要解决的两大核心问题:未来通信和未来计算

《数字经济洞察周报》2023年第15期 | 科技部启动国家超算互联网部署工作

图片来源:华为官方公众号

华为在计算领域所做的一些探索

1、AI for Industry:通过行业大模型促进价值创造

华为在视觉、语言文字、图网络、多模态等专用L0基础大模型之上,形成L1行业专用大模型,来降低开发门槛、提升泛化能力,解决应用碎片化的问题,推动从“作坊式”走向工业化升级,帮助电力、煤矿、交通、制造等重要行业,提升作业效率、提升安全性。

《数字经济洞察周报》2023年第15期 | 科技部启动国家超算互联网部署工作

图片来源:华为官方公众号

2、AI for Science:极大帮助提升科学研究的能力

气象领域,通过构造新型的、地理信息3D Transformer编码结构,以及层次化时域聚合方法,推出盘古气象大模型,通过更精准、高效的学习与推理机制,从大自然历史运转出来的数据中提取出全球气象先验知识,代替传统科学计算的超大规模偏微分方程的时序求解,从而实现快速完成全球未来1小时到7天的天气预报,预测精度比欧洲中期天气预报中心高20%以上。制药领域,药物靶点发现是药物研发过程的关键问题。华为专家与北大教授一起提出基于元动力学的靶点发现和构象搜索算法,加速小分子遍历蛋白质的过程,对同样的构象搜索,传统方法需要37天,华为只需要6个小时,提升150倍效率。

《数字经济洞察周报》2023年第15期 | 科技部启动国家超算互联网部署工作

图片来源:华为官方公众号

在软件编程上,除用传统AI在大量已有代码中进行检索和推荐外,华为也在发展科学的模型驱动和形式化方法。也通过新的AI计算模式,来研究定理自动证明问题。比如拓扑斯理论有助于探索范畴证明、同余推理系统、自动理论导出,提升定理证明器的水平,希望解决形式验证中的状态爆炸问题和自动模型抽象问题,增强形式验证能力。

《数字经济洞察周报》2023年第15期 | 科技部启动国家超算互联网部署工作

图片来源:华为官方公众号

来源:至顶网至顶智库频道

0赞

好文章,需要你的鼓励

2023

04/20

15:32

分享

点赞