作者: 布尔大学士
作者简介: 工学博士,做通俗易懂的科研分享,工位悟道!坚持日更!您的支持是我不断更新的动力~
描述: 令牌聚合块 (Token-Aggregation Block ,TAB): 实际意义:①传统聚类方法的局限性:聚类方法在实现细粒度长距离信息交互,但聚类质心特征更新会降低模型推理速度,利用聚类中心促进长距离信息传播,会引入无关信息。 ②Transformer的不足:在处理图像超分辨率时,常将图像划分为小区域以降低计算复杂度,这种方式限制长距离相似令牌(特征)的使用。 实现方式:①组内自注意力(IASA)在内容特征相似令牌(特征)之间实现精细信息交互。 ②内容感知令牌聚合(CATA)模块,根据跨长距离特征相似性,形成更精确分组。 涨点以后如何写作?:【此部分 请务必看视频 视频更为详细】