“大模型训练需要大量数据,因此对算力的要求很高。”在日前召开的首届“AI Tech Day(人工智能科技日)”峰会上,中国工程院院士、清华大学计算机科学与技术系教授郑纬民介绍,自去年12月份以来,大模型需要的AI芯片涨价一倍,国外芯片“一卡难求”。尽管国内数十家公司在AI芯片研制和生产方面取得了很大进步,但国产芯片尚未受到市场的广泛青睐。
对此,与会专家呼吁,解决算力难题,应重塑大模型算力生态,助力国产AI芯片系统练好“内功”。
“如果基于国外芯片编写的软件能够很容易移植到我们的国产芯片系统上来,用户就会感觉到国产芯片好用。”郑纬民认为,但由于生态建设不完备,目前国产芯片在大模型训练相关软件移植方面表现不太顺畅,因此需要进一步加强底层研发,做好包括编程框架、并行加速、通信库在内的软件研发工作。
“为了发展AI芯片的生态体系,一些国际大企业甚至可以放弃一些高利润的项目和方案。”英博数科CEO周韡韡介绍,营造生态需要发动整个行业的创新力量,例如国际企业曾通过主动开源部分软件的底层代码、让利给基于芯片的软件开发者,形成以AI芯片为核心的算力体系。
相较于芯片本身的硬件性能提升,郑纬民认为,通过营造生态,提升国产AI芯片的“包容力”更加急迫。“如果算力生态做得非常好,即使国产芯片的硬件性能只有国外性能的60%及以上,大家也会喜欢用。”郑纬民说,但如果算力生态没做好,新型软件跑不起来、软件移植不顺畅,即便硬件性能达到国外的120%,照样难以转变为有效算力。
为凝聚行业力量、改变当前的大模型算力生态,英博数科联合百川智能、中国计算机学会、清华大学等单位共同成立北京AI创新赋能中心技术委员会。作为该技术委员会的顾问,清华大学电子工程系教授汪玉表示:“在大模型领域,我们将同时从软件侧和硬件侧方面开展联合优化。在打造通用型人工智能服务平台的同时,推动高性能计算领域智能芯片和高模态电路关键技术的研发。”
“大模型兴起之前建设的算力,相对而言利用率较低,跟不上现阶段大模型对算力指数级发展的需求。”艾瑞咨询产业数字化研究院负责人徐樊磊介绍,为提升整体算力效率和满足差异化需求,应建立支撑大模型万亿量级参数计算的“智算中心”。“智算中心”可利用现有高质量数据中心,通过提升组网能力、协同能力、软硬件适配能力等实现部署。当前,“万卡”级别的智算中心正在主要节点城市发展起来。
与会专家认为,推动现有算力融合创新将进一步提升当前算力使用效率。“1万块卡(AI芯片)应该怎么连?是不是每块卡和其他9999块直连?如果这样,中间的连接将需要1万乘以9999个连接卡,成本将非常高。”郑纬民说,通过最有效的连接支持模型并行、数据并行等不同的要求,是融合创新的关键。
大模型背后运行的是更加复杂的网络架构和智能算法。如何在降本增效的同时,促进大模型算力使用门槛的降低?“‘云’模式是打通供需不对称、达成算力普惠的有效路径。”周韡韡表示,通过共享、共融集结现有算力,万卡平台及配备高效网络交互机制的大模型训练与推理平台,可以开放给大企业、小微企业共用。通过搭载数据迁徙、训练数据库等工具,云平台等基础生态的搭建有望让算力像水和电一样随取随用。(记者 张佳星)
广西中医药研究院中药资源团队在开展全国第四次中药资源普查和广西第一次林草种质资源普查中,发现石山油桐、美脉假糙苏、线叶度量草、广西割舌树、洞生香草、广西肺筋草6种高等植物新物种。
2023年我国公民具备科学素质的比例达到14.14%,这一最新调查数据意味着什么?对我国经济和社会发展有何重要意义?与世界主要发达国家20%~30%的公民科学素质水平相比,我国公民科学素质仍有不小差距,未来提升公民科学素质,还有哪些挑战?
从国家知识产权局获悉,《2023年中国专利调查报告》近日发布。报告显示,2023年,我国发明专利产业化率达39.6%,较上年提高2.9个百分点,连续五年稳步提高。
绿色是生命的象征、大自然的底色,良好生态环境是美好生活的基础、人民共同的期盼。
中国科协16日发布第十三次中国公民科学素质抽样调查结果。结果显示,2023年我国公民具备科学素质的比例达到14.14%,比2022年的12.93%提高了1.21个百分点,我国公民科学素质呈现提速增长趋势。
施工人员在做桥梁前移施工准备。呼兰河上,桥墩破冰器分外醒目;庆安制梁场的智能化保温棚内,一榀榀桥梁在蒸汽中凝固成型;哈伊高铁全线建成通车后,将不断满足广大群众的出行需求,为加快建设我国向北开放新高地贡献力量。
近日,中国科学院理化技术研究所研究员王树涛、副研究员时连鑫团队研发出新一代针对黏性渗出液,如糖尿病足渗出液的单向导液伤口敷料。该研究为高黏性渗出液引起的伤口愈合困难问题提供了可行的解决方案,在医用敷料、渗液管理等领域具有广阔应用前景。
作为一种新兴的林业信息化科技创新手段芯片,智慧林业需要加强顶层设计,统筹指导与管理。回顾智慧林业的发展历程,我们不难发现,智能化革新已经成为现代林业发展的重要标志。
习指出“科技创新能够催生新产业、新模式、新动能,是发展新质生产力的核心要素”,同时强调“强化企业科技创新主体地位”。从内涵及本质要求来看,新质生产力由“技术革命性突破、生产要素创新性配置、产业深度转型升级而催生”。
在15日举行的2024春季核能可持续发展国际论坛上,中国核能行业协会副理事长兼秘书长张廷克介绍,截至目前,我国商运核电机组共55台,总装机容量5703万千瓦,仅次于美国、法国,位居全球第三;在建及已核准核电机组38台,总装机容量4480万千瓦。
最近几年,每隔一段时间,在北京大学生物医学前沿创新中心从事博士后研究的张冲就会发一个朋友圈。出于对新发现的严谨,团队决定与突变印记领域资深学者、杜克-新加坡国立大学医学院教授Steven G. Rozen联系,进一步扩大合作。
这是我国自主设计建造的首艘大洋钻探船“梦想”号。我国深海探测将以“梦想”号为重要平台,构建深海地质地球物理探测和钻探技术装备体系,为人类认识、保护、开发海洋作出新的更大贡献。
创造一个超大深冷“冰箱”,提供20K(开尔文,20K即零下253摄氏度)以下甚至2K(零下271摄氏度)的超低温环境,并保证百瓦级到万瓦级连续稳定工作——大型低温制冷装备凭借这一能力,被称作“超级低温工厂”。
本工作中,研究团队在前期光热电探测器相关工作的基础上,在具有长波红外吸收能力的柔性聚酰亚胺衬底上构建了碲基热电异质结薄膜,制备出可集成、柔性、可穿戴长波红外光热电探测器。
4月13日至14日,第十三届“吴文俊人工智能科学技术奖”颁奖典礼暨2023中国人工智能产业年会在苏州举行,展示了我国人工智能的发展前沿。
中国工程院院士、鹏城实验室主任高文凭借在图像处理、模式识别、多媒体、虚拟现实、计算机视觉、大规模人工智能系统等领域的贡献,荣获吴文俊人工智能最高成就奖。
不只是北京正负电子对撞机,上海光源、高能同步辐射光源等大科学装置的运转也离不开大型低温制冷装备。
随着石岛湾高温气冷堆核电站示范工程建成并投入商运,我国高温气冷堆产业链已初步形成,具备产业化推广条件。
4月13日至14日,第十三届“吴文俊人工智能科学技术奖”颁奖典礼暨2023中国人工智能产业年会在苏州举行,展示了我国人工智能的发展前沿。
4月12日,由该院自主研制的130吨级可重复使用液氧煤油发动机圆满完成两次起动地面点火试验。至此,这台发动机已完成15次重复试验和30次点火起动,累计试验时长突破3900秒,重复试验次数突破我国液体火箭主发动机试验次数纪录,为后续可重复使用运载火箭首飞奠定基础。