各种算子对比 算子名称 是否有高分辨率特征引导 亚像素 计算开销 dysample × ✓ 很小 sapa ✓ ✓ 很大 fade ✓ × 大 indexnet ✓ × 很大 CARAFE × × 很大 dysample,FADE,SAPA 在Segmentation上mIoU的表现差不多,但是FADE的bIoU非常高 首先, 2024-07-27
DCNv1-v4 Deformabl Convolutionv1-v4比较 CNN在视觉识别任务上取得了显着的成功。尽管如此,它们仍然存在上述两个缺点。它们对几何变换建模的能力主要来自于广泛的数据增强、大的模型容量和一些简单的手工制作的模块(例如,用于小平移不变性的最大池化)。 DCNv1 论文:https://openaccess.thecvf.com/content_ICCV_2017/papers/ 2024-07-26
代码欣赏1 代码欣赏-1 代码来自 lucidrains/segformer-pytorch 这个仓库(Lucidrains 的代码写的太漂亮了,我的 VIT 代码也是抄他的) 本仓库是用于复现 Segformer 的,只写了模型部分,Segformer 的模型结构图如下: 先不看赏析的代码,如果是自己写代码,那我们该如何优美地设计模块? 整个模型分为 Encoder 与 Decoder,那 2024-07-24
环境踩坑日记1 配置环境踩坑日记(1) 本期的主角是Efficient-Segmentation-Networks: Lightweight models for real-time semantic segmentationon PyTorch这个仓库,我想使用这个仓库的 SegNet 在 CamVid 上跑的结果,于是想要复现这个仓库,下面分析这个仓库的 README 写的问题 前情提要:原仓库说环 2024-07-23
外微分 外微分 引入外微分的目的是将Stocks公式,Green公式和Gauss公式用一种方式描述,我们先从Green公式考虑: 对于一个第二型曲面积分: ∬Df(x,y)dxdy=∬D−f(x,y)dydx{\iint }_{D}f\left( {x,y}\right) {dxdy} = {\iint }_{D} - f\left( {x,y}\right) {dydx} ∬Df(x,y)dx 2024-06-10
增删pth文件特定block 增删pth文件特定block 我在不同任务上测试不同上下采样算子效果的时候,经常要重新训练网络,在之前无论多大的模型我都是从头开始训练,但是这样非常耗时间,本文介绍如何在预训练好的模型文件中替换某一个特定的 block(算子)进行训练 简单替换: 该方式适用于简单的 block 替换,比如我们想把原分类网络从 5 分类变为 10 分类,我们可以这样做: 123model = torch 2024-06-09
Actor-Critic算法 Actor-Critic 在 REINFORCE 算法中,每次需要根据一个策略采集一条完整的轨迹,并计算这条轨迹上的回报。由于采样方式的方差比较大,学习效率也比较低。我们可以借鉴时序差分学习的思想,使用动态规划方法来提高采样的效率,即从状态 sss 开始的总回报可以通过当前动作的即时奖励 r(s,a)r(s,a)r(s,a) 和下一个状态 s′s's′ 的值函数来近似估计 演员-评 2024-06-07
8086转移指令 8086转移指令 8086的控制转移指令可以由如下表表示: 本文重点解析JMP,CALL与INT指令 补充内容 PTR指令: PTR是一个伪指令(pseudo-instruction),用于指示编译器或汇编器如何解释后续的内存操作数的类型和大小。举例:PTR用于指定操作数是字节(BYTE)、字(WORD)、双字(DWORD)等不同大小,从而帮助汇编程序正确生成访问内存所需的有效 2024-05-26
Gymnasium-1 Gymnasium入门 Gymnasium 是一个为所有单代理强化学习环境提供 API 的项目,并包括常见环境的实现:cartpole、pendulum、mountain-car、mujoco、atari 等 该 API 包含四个关键函数:make、reset、step 和 render。 Gymnasium 的核心是 Env,一个高级 Python 类,代表强化学习理论中的马尔可夫决策 2024-05-22
DQN-2 DQN的改进算法 Double DQN 普通的 DQN 算法通常会导致对Q 值的过高估计(overestimation)。原因在与 Q 网络的自举(bootstrapping): 传统 DQN 优化的 TD 误差目标为: r+γmaxa′∈AQw−(s′,a′)r+\gamma \max_{a'\in A}Q_{w^-}(s',a') r+γa′∈Ama 2024-05-21