您尚未登录/注册
首页>教育
为了减少你等待AI回复的时间,这群大学生激烈比拼优化算子
吴越AI 2026-11-11 00:28:07

学习强国 AI 博主

全网超百万粉丝

读完需要

6
分钟

速读仅需 2 分钟

11 月 7 日,北京工业大学报告厅,举行了一场特别的比赛——中国电信星辰杯·高校 AI 算子开发挑战赛决赛答辩。

这场赛事由中电信人工智能科技(北京)有限公司与华为联合主办,AtomGit承办,共有 177 所高校、539 支队伍报名,28 支队伍晋级决赛。

选手要在昇腾芯片上开发和优化算子,让指定的计算任务执行得又快又准。

这场决赛持续了很久,分为线上开发评测、代码评审和现场答辩三个环节。按照赛程,选手在 10 月 9 日至 31 日提交代码,11 月 1 日至 2 日进行代码审核,随后进入线下答辩。

决赛的题目是,Sparse FlashAttention 反向算子。

看到这,你是不是有点懵,感觉这个东西非常学术。但算子确实很重要,重要到不管你是用豆包还是用 Deepseek 千问,都离不开它。

所以到底什么是算子?这样的比赛又有什么意义?

1

   

算子和反向算子,究竟在算什么?

算子,可以简单理解成程序里的一项计算功能。它拿到数据,按照规定的规则算出结果,再交给下一步。

AI 训练和回答问题时,要反复进行大量计算,算子写得更高效,同样的设备就能更快完成相应的工作。

拿超市结账来打个比方。

你买了 3 盒牛奶,每盒 4 元,还买了 2 包饼干,每包 5 元。程序先分别算出牛奶花了 12 元、饼干花了 10 元,再把两项加起来,得到总价 22 元。这里既有乘法,也有加法,每种运算都可以由相应的算子完成。

大模型里的计算要复杂得多,但也可以这样去理解。我们输入的文字,会先被表示成一组组数字,再经过许多步骤的处理,最后产生回答。每个算子负责其中一项具体运算,前一步的结果交给后一步,整个过程就能继续往下走。

算出正确结果之后,还有速度的问题。

芯片的计算能力再强,数据没有送到也得等。数据太多时,需要分批搬入,计算任务也需要分给不同的计算单元。如果有的忙不过来,有的已经闲下来,就会浪费时间。开发者做算子优化,其中一部分工作就是重新安排这些事情,让数据搬运和计算尽量接得上,减少等待。

这次决赛题目里的“反向”,则和模型怎样学习有关。

还是拿刚刚的结账来举例。假设我们想教一个程序,根据购买数量估算总价。训练时给它一条记录,买 3 盒牛奶,正确总价是 12 元。

程序一开始猜每盒 3 元,于是算出总价 9 元。从输入数量到算出价格,这一遍过程叫前向计算。

现在,程序知道自己估低了,但接下来应该怎么改?反向计算会提供调整所需的信息。在这个例子里,它能帮助判断,当前应当把每盒的估计价格往上调。

这里“每盒多少钱”就是一个需要学习的数值,在模型里叫作参数。反向计算得到的梯度,描述的是这个数值稍微变一点,误差会朝哪个方向变化、变化多快。训练程序拿到这些信息,再决定怎样调整参数。

所以,前向计算负责算出结果,反向计算为改进模型提供依据。大模型有大量需要学习的数值,反向算子承担其中一部分计算。我们日常让训练好的 AI 回答问题,通常主要进行前向计算。训练模型时,则需要先算一遍结果,再通过反向计算帮助它继续调整。

理解了前向和反向,再回到这次决赛。选手要优化的,是大模型处理上下文时的一项训练计算。

比如,你给 AI 一句话,“桌上有一本书,我把它翻开了。”模型要判断“它”指什么,就需要利用前面关于“书”的信息。前后文之间的联系,在模型里也需要通过计算来处理。

模型会给不同位置的信息分配不同的分量,让当前位置能够结合上下文进行计算。这个机制叫“注意力”,对应题目里的英文 Attention。它是大模型处理文字时常用的一种计算机制。

一句话很短,涉及的信息有限。如果换成几万字的材料,需要处理的位置关系就多了,计算也会变得更费时。

一种减少计算量的办法,是按照规则选出部分位置,把后续主要计算集中在这些位置上。题目里的 Sparse,中文叫“稀疏”,说的就是这种做法。

Flash Attention 则是一种提高这类计算效率的方法。它会把计算分成小块,尽量减少中间结果的反复保存和读取。就像前面算账的例子,有些小计临时重新算一遍,比先记下来、需要时再找出来还省事。

这样,整道题就能接起来理解了。模型需要处理上下文之间的关系,开发者希望把这一步做得更高效。而题名最后的“反向”,说明比赛优化的是训练中计算调整信息的那个环节。

选手需要保证这些信息算得准确,再让计算尽量少花时间。

它的直接意义,是提高模型训练的效率,芯片和算力虽然可以采购,但是在同样的设备和预算下完成更多训练和试验,还要看代码怎么写,减少不必要的数据搬运和中间结果读写,就有机会省下时间。星辰杯这道题考的,就是怎样在达到规定精度的前提下,让反向算子跑得更快。

2

   

这场算子赛,能为国产 AI 带来什么?

进入决赛的 28 支队伍,需要围绕同一道题接受评测。根据筹备方案,现场邀请 10 位评委,包括 5 位高校教师、2 位华为代表和 3 位电信代表。

线上比赛依托 CANNjudge 进行。这是用于运行参赛代码、检查计算结果和记录性能的平台。选手可以根据评测反馈继续修改代码,再次提交。

按照决赛方案,平台评测之后还要经过三重验证。机器审核检查代码中的违规和作弊问题,技术助教人工复核代码质量,随后在实验环境中再次运行,检查结果能否复现。

所谓复现,就是别人按相同条件运行这份代码,也能验证它是否算得对、是否达到报告中的性能水平。审核完成后,将形成代码验证合规报告,作为确认线上成绩的依据。

现场答辩每队有 10 分钟汇报、5 分钟问答。选手需要讲清楚自己改了哪里、为什么这样改、怎样验证效果。一个方案在某组输入上表现好,换一组数据后是否仍然有效,也需要有测试结果支撑。最终成绩中,线上成绩占七成,现场评分占三成,两部分加权后确定名次。

赛事设置 28 个获奖名额,总奖金 70 万元,其中一等奖奖金 20 万元。

一等奖由上海交通大学 a120240127 队获得。队伍围绕赛题的内存与访存瓶颈,在索引统计算法、流水线调度、片上缓存复用和同步机制上做了系统性优化,在保证精度的前提下, 使 AI Core 平均读命中率由 91.45% 提升至 92.70% 。在精度与基准实现对齐的前提下,其决赛线上成绩 94.63 分位列第一,10 个公开 Case 中 7 个排名第一。

答辩之后,11 月 8 日还安排了高校算子人才座谈会。根据议程,选手将了解星辰 Lab 的研究工作,与技术专家交流大模型开发问题,并听取实习渠道和人才政策介绍。

星辰 Lab 即星辰通用人工智能实验室,是星辰基础大模型的核心研发单位。公开颁奖计划安排在 12 月的中国电信生态大会上。

对于中国大模型行业来说,让模型在国产芯片上稳定、高效地训练和运行,需要大量具体的软件开发工作。同一套设备,数据怎样搬运、计算怎样分配、中间结果怎样保存,都会影响训练速度和资源消耗。

算子优化做得扎实,硬件的计算能力才能得到更充分的利用,企业研发和使用大模型的成本也才有进一步压缩的空间。

这类比赛把其中一部分真实问题带进了高校。学生需要理解模型的计算原理,也需要熟悉芯片的运行特点,还要用测试结果证明自己的方案有效。

这些能力可以延续到大模型训练、性能优化和国产硬件适配等工作中。赛后的技术交流与实习机会,则为学生继续参与实际研发提供了入口。

从更长的时间看,中国 AI 行业需要持续积累的,也包括这些能够把算法落到硬件上的工程经验。

一批学生学会开发和验证算子,之后进入不同的实验室和研发团队,就有机会把经验用到更多模型、更多任务中。

高校因此获得更贴近实际需求的实践内容,企业也能接触到经过具体项目锻炼的年轻开发者。这样的联系持续建立起来,国产大模型的发展就能获得更扎实的软件支持和人才储备。

【版权声明】本文内容来源于吴越AI,版权归原作者及原媒体所有。本站仅作信息分享,不构成任何商业用途;如涉版权问题,请联系本站删除。

发布时间:2026-11-10 13:54:58


(第1/1页/共6345字/2阅)
首页>教育
相关教育:
北京联合大学,多少分能上?这话得拆开问
土耳其胆子也太大了,新教材把中国多省圈进“突厥世界”,这事没那么简单
2027高考:口腔医学专业:学什么|就业|薪资|适合谁
北师大原副校长的这句“反问”,为何让台下170多位学者陷入沉默
2027美国数学会新增会士揭晓,有多名华人;港校两人,南大、上交及哈尔滨高校等校友当选
*社区管理员带你玩转QQ家园
网友评论:
更多评论(0)
您的评论:

[热点教育]
读研报 | 急调之后,乐观不只是安抚
临床CRO龙头盈利修复可期,东吴证券维持泰格医药“买入”评级
Q3收入增长稳健,盈利韧性突出,浙商证券维持晨光股份“买入”评级
甲骨文推200亿美元AI融资计划,股价应声下跌
苹果上财季营收1145亿美元创新高:iPhone增长17%,存储芯片涨价压制利润空间
[精彩推荐]
卡塔尔冲刺赛惊魂!后方车手超车失误,世界冠军当场起飞,连人带车翻滚
一顿升职宴,两张体验券,三个好兄弟,到底是真心还是算计?
大爷还怪贴心的《走马上任》
开口瞬间就被打动,难怪粉丝都说听完心里暖暖的|王牌对王牌第 8 季
徐浩,退休6年后被查