tokenpocket钱包官网下载安装|lsk

作者: tokenpocket钱包官网下载安装
2024-03-07 19:43:13

LSK理论、系统及应用目标规划简介_icplsk-CSDN博客

LSK理论、系统及应用目标规划简介

最新推荐文章于 2024-03-06 13:27:54 发布

VIP文章

chenfeng_public

最新推荐文章于 2024-03-06 13:27:54 发布

阅读量1.7k

点赞数

文章标签：

自然语言处理

神经网络

人工智能

搜索引擎

自然语言

本文链接：https://blog.csdn.net/chenfeng_public/article/details/20115527

版权

1. LSK理论和系统简介

理论：语言语义知识全息网络模型-简称LSK网络模型，是一种对语言、语义、知识三者统一表达、演算并应用的一整套理论、模型和方法。

系统：以该理论为核心，实现了对信息和知识的表达、描述、解析、理解、生成、查询、转换、推理、自学习的全过程结合在一起的完整体系，初步形成一个模拟大脑思维对于语言能表述的知识和问题进行理解、存储、查询、推理、解决问题的人工智能系统框架。

2. 目标

用这套模型和理论，构建实现统一的信息服务平台，为人类提供自然语言处理和知识处理的多种智能应用，如：机器翻译，机器问答，智能客服、智能助手、语义搜索、情报检索、辅助教学、行业专家系统等。

各种应用处理均统一采用自然语言接口。

3. 具体说明

3.1. 前期研发

已研发三年时间，理论和模型已经完善，并构建起了原型系统，实现了上述方面的理论各方面的验证。

3.2. 要点说明

人类通过自然语言进行信息沟通交流。自然语言有着数百种多种多样不同的外在表现形式（语种、方言等），但内在一定蕴涵并遵循着同样的语义信息结构，因此持不同语言的人们之间才有沟通的基础。但一直以来的难点就是无法给出一个全面、完善、优美的语义模型，这涉及到大脑里边的数百亿神经细胞以及它们之间的连接究竟是如何来表达语言语义信息以及知识的。LSK很大程度上借鉴了这一机制。

另一个方面来看，语义、信息和知识其实是同构的，并无明确的界限，也可以说人们传递的信息和知识就是用一种内在的语义模型描述，然后通过外在的语言形式即声音和文字来传递的。比如，小王说“我们去海南玩了，那里很美”，如果对于这句话分析正确的话将得到【小王去海南玩】【海南很美】等内在语义信息，这些信息本质上和已知的【海南是一个岛屿，是一个旅游胜地】等知识是一样的，唯一的差别是对不同的人来说其重要性不同而已，【知识】更概括而更重要，【信息】更具体而更随意。【海南是一个岛屿】是一条知识，【小王去过海南】何尝不是一条知识呢。虽然对于无关的人来说这后者信息不重要，听听可能就丢弃遗忘了。而对于小王自己和关心小王的人来说，这些是重要信息，也是一种知识，需要存储起来甚至永远铭记，并对今后产生持久影响。

基于这种原则，LSK建立起一个有效的模型和完整的理论，对语言-语义-知识三者进行统一表达。

具体地，LSK对目前自然语言处理领域的多种模型如：语言生成学、关系数据模型、产生式表达模型、面向对象模型、语义网络模型、神经网络模型等多种传统的模型进行了统一。传统的这些模型都是试图从各自看到的一个方面来概括语义和知识表达的整体，最终都因为表达不了丰富而灵活多变的信息和知识，一直不能真正突破。

假如说以前关于自然语言的理论对信息的划分和建模都比较片面，是一种“管中窥豹”的话。LSK采用多层次多维度的信息表达，尽量构建起对人类语言和信息表达这个“豹子”更完整的描述，建立起它的骨骼，肌肉，神经，内脏，皮毛结构的完整模型，形成一个有机整体。这样才能真正接近大脑对语言信息的表达理解以致进行各种方面的处理。

结合概率理论：该模型是将规则和概率结合在一起。不同于目前主流的简单化的只在字符串层面的统计概率分析（丢失了很多重要信息），而是多个层级上描述和处理概率。事实上，大脑就是一个概率机器，只是概率应用的范围不是那么单一，是对多层次，多特征的各种各样信息进行【综合概率】的评判和分析。

对结果的评估是多因素参与得出的，可以排除局部信息噪音和歧义，得到最优化的理解结果。

单个信息和规则都不起绝对的决定作用，没有绝对的规则不能被违背，高层的规则可以压制低层的规则使之可以被违背。比如，【说话】

最低0.47元/天解锁文章

优惠劵

chenfeng_public

关注

踩

觉得还不错?

一键收藏

知道了

LSK理论、系统及应用目标规划简介

1. LSK理论和系统简介理论：语言语义知识全息网络模型-简称LSK网络模型，是一种对语言、语义、知识三者统一表达、演算并应用的一整套理论、模型和方法。系统：以该理论为核心，实现了对信息和知识的表达、描述、解析、理解、生成、查询、转换、推理、自学习的全过程结合在一起的完整体系，初步形成一个模拟大脑思维对于语言能表述的知识和问题进行理解、存储、查询、推理、解决

复制链接

扫一扫

LSK-应用链白皮书1

08-03

1.简介Lisk 是下一代平台，允许使用易于使用，功能齐全的生态系统开发和分发基于JavaScript 的分散应用程序。通过 Lisk，开发人员可以在定制的加密

pytorch代码实现注意力机制之LSK

DM_zx的博客

09-05

773

注意力机制之LSK选择性注意力

参与评论

您还未登录，请先

后发表或查看评论

icp是什么意思？

HBxiaosong的博客

11-04

1701

互联网经营必须保证客户的信誉。电信主管部门应当自收到ICP经营许可证(互联网经营许可证)的申请材料之日起15日内，完成对材料的初步审查。对ICP申请材料不齐备的，书面通知申请者补齐，ICP申请者将材料补齐后，电信主管部门应当在15日内向ICP申请者发出受理ICP经营许可证申请通知书。互联网有偿信息服务，包括在线销售、游戏会员、网站广告、付费新闻、网页制作、在线支付、广告招商、会员收费、企业合作、项目投标等需要办理ICP许可证。ICP证，全称:《增值电信业务经营许可证》，是网站经营的许可证。

MSK调制原理及框图

Next_FSE的博客

06-20

2万+

MSK调制原理及框图

频率调制方式中2FSK是最简单的一种，在2FSK调制方式中按相位是否连续分为两种；同时，两个频率信号之间如果频率差值为1/2的码元速率，此时两个信号之间的相互关系数为0，表示两个信号正交。

MSK这种调制方式属于2FSK中的一种，MSK首先需要满足的条件是连续相位的2FSK调制方式，也就是说如果2FSK信号相位连续，此时如果两个载波频率

吴恩达机器学习笔记四（lecture 4）(多特征值，梯度下降与Normal equation)

11-25

1713

线性回归处理多个特征值（Linear Regression with multiple variables）

1、多特征值线性回归的假设函数形式

2、梯度下降

3、标准方程法（Normal equation）

4、梯度下降和Normal equation的比较

假设

运动目标跟踪（十八）--阶段性总结

最新发布

weixin_53500185的博客

03-06

335

哈希表在头文件“utash.h”中已经有了，只需简单学习用法即可例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考。

AI技术在室内定位的应用

jgtx8888的博客

03-01

1187

通过在室内布置信标节点，用户携带的移动设备可以接收到信标信号并计算出与信标的距离，进而确定自身位置。同时，一些新型的机器学习算法还可以处理复杂环境下的干扰问题，提高定位系统的鲁棒性。其中，AI技术在室内定位领域的应用越来越广泛，为我们的生活和工作带来了诸多便利。（2）提高鲁棒性：随着物联网技术的不断发展，室内定位系统将面临越来越多的干扰和挑战。随着AI技术的不断发展和普及，其在室内定位领域的应用将越来越广泛。（2）复杂环境下的定位精度：在复杂环境下，AI技术可能难以保证高精度的定位效果。

如何用ChatGPT+GEE+ENVI+Python进行高光谱，多光谱成像遥感数据处理？

2301_78164062的博客

03-01

1279

如何用ChatGPT+GEE+ENVI+Python进行高光谱，多光谱成像遥感数据处理？

应用Steffensen加速方法求解函数的MATLAB代码

09-17

### 回答1：

Steffensen加速方法是一种改进的牛顿迭代法，可以用于求解不等式约束优化问题。下面是一个使用Steffensen加速方法求解函数的MATLAB代码：function [x,iter] = Steffensen(f,x0,tol,maxiter)

% Steffensen's Method for solving nonlinear equations

% Inputs

% f: function

% x0: initial guess

% tol: termination criterion

% maxiter: maximum number of iterations

% Outputs

% x: solution

% iter: number of iterationsiter = 0;

x = x0;

while (iter

xold = x;

fx = f(x);

fp = f(x+fx);

x = x - (fx^2)/(fp - fx);

iter = iter+1;

if (abs(x-xold)

break;

end

### 回答2：

Steffensen加速方法是一种用于求解函数的迭代逼近法，可以用MATLAB编写。下面是一个使用Steffensen加速方法求解函数的MATLAB代码示例。

```matlab

function [root, numIterations] = Steffensen(f, x0, tolerance, maxIterations)

% 输入参数：

% f: 待求解函数

% x0: 初始猜测值

% tolerance: 迭代终止的容差

% maxIterations: 最大迭代次数

% 初始化变量

x = x0;

numIterations = 0;

% 开始迭代

while numIterations < maxIterations

numIterations = numIterations + 1;

% 计算f(x)和f(x + f(x))

fx = f(x);

fxFx = f(x + fx);

% 使用Steffensen加速方法更新x的值

if abs(fx) < tolerance

break; % 当函数的值足够接近零时，跳出循环

end

x = x - (fx^2) / (fx - fxFx);

end

root = x;

% 输出结果

if numIterations >= maxIterations

disp('达到最大迭代次数，解未收敛。');

else

fprintf('使用Steffensen加速方法求解得到的根为: %f\ 在 %d 次迭代后收敛。\n', root, numIterations);

end

```

此代码中，"f" 应该是一个匿名函数或自定义函数，表示待求解函数。"x0" 是初始猜测值，"tolerance" 是迭代终止标准，即函数值小于此值时认为收敛。"maxIterations" 是最大迭代次数，用于避免无限迭代。

函数使用一个循环实现迭代，其中计算 f(x) 和 f(x + f(x))，然后根据 Steffensen 加速方法更新 x 的值。如果函数的值足够接近于零，循环终止。最后，函数返回计算得到的根以及迭代次数。如果达到最大迭代次数仍未收敛，则输出解未收敛的提示信息。

### 回答3：

Steffensen加速方法是一种用于求解函数的迭代算法，能够有效提高求解速度。下面是一个MATLAB代码示例，用于应用Steffensen加速方法求解函数。

```matlab

function [root, iter] = steffensen(func, x0, tol, max_iter)

% 初始化迭代参数

root = x0;

iter = 0;

error = tol + 1;

% 开始迭代

while error > tol && iter < max_iter

% 计算当前迭代点的函数值和函数的一阶导数

f = func(root);

f_prime = (func(root + f) - f) / f;

% 利用Steffensen加速方法计算下一个迭代点

next_root = root - (f / f_prime);

% 计算迭代误差

error = abs(next_root - root);

% 更新迭代参数

root = next_root;

iter = iter + 1;

end

% 输出结果

if iter == max_iter && error > tol

fprintf('未收敛至指定精度。\n');

else

fprintf('迭代次数：%d\n', iter);

fprintf('根的估计值：%f\n', root);

end

```

该函数接受四个输入参数：func为要求解的函数句柄，x0为初始迭代点，tol为迭代的收敛精度，max_iter为最大迭代次数。输出结果包含估计的根和迭代次数。

需要注意的是，在使用该代码时需要事先定义好要求解的函数，并将其传递给`steffensen()`函数。

希望对你有所帮助！

“相关推荐”对你有帮助么？

非常没帮助

没帮助

一般

有帮助

非常有帮助

提交

chenfeng_public

CSDN认证博客专家

CSDN认证企业博客

码龄17年

暂无认证

原创

164万+

周排名

204万+

总排名

1722

访问

等级

积分

粉丝

获赞

私信

关注

热门文章

LSK理论、系统及应用目标规划简介

1723

您愿意向朋友推荐“博客详情页”吗？

强烈不推荐

不推荐

一般般

推荐

强烈推荐

提交

最新文章

2014年1篇

最新文章

2014年1篇

被折叠的条评论

为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

祝福语

请填写红包祝福语或标题

红包数量

个

红包个数最小为10个

红包总金额

元

红包金额最低5元

余额支付

当前余额3.43元

前往充值 >

需支付：10.00元

取消

确定

下一步

知道了

成就一亿技术人!

领取后你会自动成为博主和红包主的粉丝

规则

hope_wisdom 发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值

ICCV 2023 | 南开大学提出LSKNet：遥感旋转目标检测新SOTA - 知乎

ICCV 2023 | 南开大学提出LSKNet：遥感旋转目标检测新SOTA - 知乎切换模式写文章登录/注册ICCV 2023 | 南开大学提出LSKNet：遥感旋转目标检测新SOTACV技术指南前言最近关于遥感物体检测的研究主要集中在改进旋转包围框的表示方法上，但忽略了遥感场景中出现的独特的先验知识。这种先验知识是非常重要的，因为微小的遥感物体可能会在没有参考足够长距离背景的情况下被错误地检测出来，而不同类型的物体所要求的长距离背景可能会有所不同。本文将这些先验因素考虑在内，并提出了 Large Selective Kernel Network (LSKNet)。LSKNet 可以动态地调整其大空间感受野，以更好地建模遥感场景中各种物体的测距的场景。本文转载自PaperWeekly作者 | 李宇轩单位 | 伦敦大学学院仅用于学术分享，若侵权请联系删除欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。CV各大方向专栏与各个部署框架最全教程整理【CV技术指南】CV全栈指导班、基础入门班、论文指导班全面上线!!论文题目：Large Selective Kernel Network for Remote Sensing Object Detection论文链接：https://arxiv.org/pdf/2303.09030.pdf代码链接：https://github.com/zcablii/LSKNet最近关于遥感物体检测的研究主要集中在改进旋转包围框的表示方法上，但忽略了遥感场景中出现的独特的先验知识。这种先验知识是非常重要的，因为微小的遥感物体可能会在没有参考足够长距离背景的情况下被错误地检测出来，而不同类型的物体所要求的长距离背景可能会有所不同。在本文中，我们将这些先验因素考虑在内，并提出了 Large Selective Kernel Network (LSKNet)。LSKNet 可以动态地调整其大空间感受野，以更好地建模遥感场景中各种物体的测距的场景。据我们所知，这是首次在遥感物体检测领域探索大选择性卷积核机制的工作。在没有任何附加条件的情况下，我们 LSKNet 比主流检测器轻量的多，而且在多个数据集上刷新了 SOTA！HRSC2016（98.46% mAP）、DOTA-v1.0（81.64% mAP）和 FAIR1M-v1.0（47.87% mAP）。Introduction近期很少有工作考虑到遥感图像中存在的强大的先验知识。航空图像通常是以高分辨率的鸟瞰视角拍摄的。特别是，航空图像中的大多数物体可能是小尺寸的，仅凭其外观很难识别。相反，这些物体的成功识别往往依赖于它们的背景，因为周围的环境可以提供关于它们的形状、方向和其他特征的宝贵线索。根据对主流遥感数据集的分析，我们确定了两个重要的前提条件：▲ 图1. 成功地检测遥感目标需要使用广泛的背景信息。感受野有限的探测器可能很容易导致错误的探测结果。CT: Context1. 准确检测遥感图像中的物体往往需要广泛的背景信息如图 1(a) 所示，遥感图像中的物体检测器所使用的有限范围的背景往往会导致错误的分类。例如，在上层图像中，由于其典型特征，检测器可能将T子路口归类为十字路口，但实际上，它不是一个十字交路口。同样，在下图中，由于大树的存在，检测器可能将十字路口归类为非路口，但这也是不正确的。这些错误的发生是因为检测器只考虑了物体附近的有限的上下文信息。在图 1(b) 中的船舶和车辆的例子中也可以看到类似的情况。▲ 图2. 按照人类的标准，不同的物体类型所需要的背景信息范围非常不同。红框是目标GT标注。2. 不同类型的物体所需的上下文信息的范围非常不同如图 2 所示，在遥感图像中进行准确的物体检测所需的背景信息量会因被检测物体的类型而有很大不同。例如，足球场可能需要相对较少的额外环境信息，因为它有独特的可区分的球场边界线。相比之下，环岛可能需要更大范围的上下文信息，以区分花园和环形建筑。交叉口，特别是那些部分被树木覆盖的交叉口，由于相交道路之间的长距离依赖性，往往需要一个非常大的感受野。这是因为树木和其他障碍物的存在会使人们难以仅仅根据外观来识别道路和交叉口本身。其他物体类别，如桥梁、车辆和船舶，也可能需要不同规模的感受野，以便被准确检测和分类。因为这些图像往往需要广泛和动态的背景信息，我们提出了一种新的方法，称为 Large Selective Kernel Network (LSKNet)。我们的方法包括动态调整特征提取骨干的感受野，以便更有效地处理被检测物体的不同的广泛背景。这是通过一个空间选择机制来实现的，该机制对一连串的大 depth-wise 卷积核所处理的特征进行有效加权，然后在空间上将它们合并。这些核的权重是根据输入动态确定的，允许该模型自适应地使用不同的大核，并根据需要调整空间中每个目标的感受野。据我们所知，我们提出的 LSKNet 是第一个研究和讨论在遥感物体探测中使用大的和有选择性的卷积核的模型。尽管我们的模型很简单，但在三个流行的数据集上实现了最先进的性能。HRSC2016（98.46% mAP）、DOTA-v1.0（81.64% mAP）和 FAIR1M-v1.0（47.87% mAP），超过了之前公布的结果。此外，我们实验证明了我们模型的行为与上述两个先验假设的一致性。Method▲ 图3. LSK Block 图示▲ 图4. LSK Module 的概念图LSKNet Architecture 图 3 展示了一个 LSKNet Bolck 的图示，是主干网中的一个重复块，其灵感来自 ConvNeXt, PVT-v2, VAN, Conv2Former 和 MetaFormer。每个 LSKNet 块由两个剩余子块组成：大核选择（LK Selection）子块和前馈网络（FFN）子块。LK 选择子块根据需要动态地调整网络的感受野。前馈网络子块用于通道混合和特征细化，由一个全连接层、一个深度卷积、一个 GELU 激活和第二个全连接层组成的序列。核心模块 LSK Module（图 4）被嵌入到 LK 选择子块中。它由一连串的大内核卷积和一个空间内核选择机制组成。 Large Kernel Convolutions & Spatial Kernel Selection 根据 Introduction 中所说的先验（2），建议对一系列的多个尺度的背景进行建模，以进行适应性选择。因此，我们建议通过明确地将其分解为一连串具有大的卷积核和不断扩张的 depth-wise 卷积来构建一个更大感受野的网络。其序列中第i个深度卷积的核大小 k、扩张率 d 和感受野 RF 的扩展定义如下：核的大小和扩张率的增加确保了感受野有足够快的扩展。我们对扩张率设定了一个上限，以保证扩张卷积不会在特征图之间引入空隙。所提出的设计有两个优点。第一，它明确地产生了具有各种大感受野的多个特征，这使得后来的内核选择更加容易。第二，顺序分解比简单地应用一个较大的核更有效更高效。为了提高网络关注检测目标的最相关的空间背景区域的能力，我们使用了一种空间选择机制，从不同尺度的大卷积核中空间选择特征图。图 4 显示了 LSK 模块的详细概念图，在这里我们直观地展示了大选择核是如何通过自适应地收集不同物体的相应大感受野而发挥作用的。 LSK Module 的 pytorch 代码如下：class LSKmodule(nn.Module):

def __init__(self, dim):

super().__init__()

self.conv0 = nn.Conv2d(dim, dim, 5, padding=2, groups=dim)

self.convl = nn.Conv2d(dim, dim, 7, stride=1, padding=9, groups=dim, dilation=3)

self.conv0_s = nn.Conv2d(dim, dim//2, 1)

self.conv1_s = nn.Conv2d(dim, dim//2, 1)

self.conv_squeeze = nn.Conv2d(2, 2, 7, padding=3)

self.conv_m = nn.Conv2d(dim//2, dim, 1)

def forward(self, x):

attn1 = self.conv0(x)

attn2 = self.convl(attn1)

attn1 = self.conv0_s(attn1)

attn2 = self.conv1_s(attn2)

attn = torch.cat([attn1, attn2], dim=1)

avg_attn = torch.mean(attn, dim=1, keepdim=True)

max_attn, _ = torch.max(attn, dim=1, keepdim=True)

agg = torch.cat([avg_attn, max_attn], dim=1)

sig = self.conv_squeeze(agg).sigmoid()

attn = attn1 * sig[:,0,:,:].unsqueeze(1) + attn2 * sig[:,1,:,:].unsqueeze(1)

attn = self.conv_m (attn)

return x * attn方法在我们的实验中，我们报告了 HRSC2016、DOTA-v1.0 和 FAIR1M-v1.0 数据集上的检测模型结果。为了保证公平性，我们遵循与其他主流方法相同的数据集处理方法和训练方式（如 -Net, Oriented RCNN, R3Det...）。▲ 表1. LSKNet-T和ResNet-18作为骨干网在DOTA-v1.0上的不同检测框架的比较。LSKNet-T骨干网在ImageNet上进行了100次预训练。与ResNet-18相比，轻量级的LSKNet-T在各种框架中取得了明显更高的mAP。在不同检测框架下，使用我们的 LSKNet 骨干，模型更轻量，对检测模型性能提升巨大！（表 1）▲ 表2. 在DOTA-v1.0的O-RCNN框架下，LSKNet-S和其他（大核/选择性注意）骨干的比较，除了Prev Best是在RTMDet下。所有骨干网都在ImageNet上进行了100次预训练。我们的LSKNet在类似的复杂度预算下实现了最佳的mAP，同时超过了之前的最佳公开记录。在相同检测框架的不同骨干网络（大卷积核和选择性机制的骨干网络）中，在相似模型复杂的的前提下，我们的 LSKNet 骨干 mAP 更强！（表 2）▲ 表3. 在HRSC2016数据集上与最先进的方法比较在 HRSC2016 数据集上，性能超越之前所有的方法！（表 3）▲ 表4. 在多尺度训练和测试的DOTA-v1.0数据集上与最先进的方法进行比较在 DOTA-v1.0 数据集上，性能超越之前所有的方法！（表 4）在此数据集上，（近期的方法在性能上近乎饱和，最近的 SOTA 方法 RVSA 用了极为重量的模型和在庞大的数据集上做预训练才勉强突破 0.81 的 mAP，RTMDet 则是在 COCO 预训练，36epoch 加 EMA 的微调方式，而其他主流方法都是 ImageNet 预训练和 12epoch w/o EMA 微调，才达到 81.33 的性能。）我们的方法在模型参数量和计算复杂度全面小于其他方法的前提下，性能刷新了新的 SOTA！▲ 表5. 在FAIR1M-v1.0数据集上与最先进的方法比较。*: 结果参考了FAIR1M论文[51]。在近期中国空天院提出的 FAIR1M-v1.0 数据集上，我们也刷新了 mAP。Ablation Study消融实验部分，为了提高实验效率，我们采用 LSKNet-T 骨架在 ImageNet 上做 100 个 epoch 的骨干预训练。▲ 表6. 分解的大核的数量对推理的FPS和mAP的影响，给定的理论感受野是29。将大核分解成两个深度方向的核，实现了速度和精度的最佳表现。▲ 表7. 当大卷积被分解成两个连续的depth-wise卷积时，LSKNet的关键设计组件的有效性。CS：通道选择（类似于SKNet）；SS：空间选择（我们的）。LSKNet在使用一个合理的大的感受野和空间选择时取得了最佳性能。▲ 表8. 对我们提出的LSK模块的空间选择中的最大和平均池化的有效性进行消融实验。在同时使用最大和平均池化时，获得了最好的结果。Analysis▲ 图5. 使用ResNet-50和LSKNet-S的O-RCNN检测框架的Eigen-CAM可视化。我们提出的LSKNet可以对长范围的上下文信息进行建模，从而在各种困难的情况下获得更好的性能。图 5 所示，LSKNet-S 可以捕捉到更多与检测到的目标相关的背景信息，从而在各种困难情况下有更好的表现，这证明了我们的先验（1）。▲ 图6. DOTA-v1.0中物体类别的预期感受野和GT框面积的比率：Rc。不同物体类别所需的相对范围有很大的不同。为了研究每个物体类别的感受野范围，我们定义物体类别预期感受野和 GT 框面积的比率：Rc。此数值越大，说明目标需要的额外感受野越大。图 6 中结果表明，与其他类别相比，桥梁类别需要更多的额外上下文信息，这主要是由于它与道路的特征相似，并且需要语境线索来确定它是否被水所包围。相反，球场类别，如足球场，由于其独特的纹理属性，特别是球场边界线，需要最少的上下文信息。这与我们的常识相吻合，并进一步支持先前的观点（2），即不同的物体类别所需的上下文信息的相对范围有很大不同。▲ 图7. DOTA-v1.0中物体类别的感受野激活，其中激活图来自我们训好的LSKNet模型根据主论文公式（8）（即空间激活）得出。物体类别按照从左上到右下的顺序，据预期感受野面积和GT框面积之比递减排列（及图6中的数值顺序）我们进一步研究我们的 LSKNet 中的大核选择倾向性行为。我们定义了 Kernel Selection Difference（较大的感受野卷积核特征图激活值 - 较小的感受野卷积核特征图激活值）。▲ 图8. 桥梁、环岛和足球场的LSKNet-T块中的大卷积核选择差异。B i j代表第i阶段的第j个LSK Block，数值越大，表明检测时更倾向于选择有更大感受野的卷积核，对更大范围的背景的依赖性也越大。在图 8 中，我们展示了三个典型类别的所有图像的归一化 Kernel Selection Difference：桥梁、环形路和足球场，以及每个 LSKNet-T 块的情况。正如预期的那样，Bridge 的所有块的大核的参与度高于 Roundabout，而 Roundabout 则高于 Soccer-ball-field。这与常识一致，即 Soccer-ball-field 确实不需要大量的上下文，因为它本身的纹理特征已经足够明显和具有鉴别性。我们还出人意料地发现了 LSKNet 在网络深度上的另一种选择模式。LSKNet 通常在其浅层利用较大感受野的卷积核，而在较高的层次利用较小的。这表明，网络倾向于在网络浅层迅速扩大感受野捕捉信息，以便高层次的语义学能够包含足够的感受野，从而获得更好的辨别力。欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。计算机视觉入门1v3辅导班【技术文档】《从零搭建pytorch模型教程》122页PDF下载QQ交流群：470899183。群内有大佬负责解答大家的日常学习、科研、代码问题。其它文章CV的未来发展方向？平时最喜欢逛的几个地方训练网络loss出现Nan解决办法比Meta「分割一切AI」更全能！港科大版图像分割AI来了：实现更强粒度和语义功能Segment Anything项目整理汇总Meta Segment Anything会让CV没前途吗?CVPR'2023年AQTC挑战赛第一名解决方案：以功能-交互为中心的时空视觉语言对齐方法6万字！30个方向130篇 | CVPR 2023 最全 AIGC 论文汇总知识蒸馏最新进展ICCV2023 ｜当尺度感知调制遇上Transformer，会碰撞出怎样的火花？CVPR 2023 | 完全无监督的视频物体分割 RCF新加坡国立大学提出最新优化器：CAME，大模型训练成本降低近一半！SegNetr来啦 | 超越UNeXit/U-Net/U-Net++/SegNet，精度更高模型更小的UNet家族ReID专栏（二）多尺度设计与应用ReID专栏（一）任务与数据集概述libtorch教程（三）简单模型搭建libtorch教程（二）张量的常规操作libtorch教程（一）开发环境搭建：VS+libtorch和Qt+libtorchNeRF与三维重建专栏（三）nerf_pl源码部分解读与colmap、cuda算子使用NeRF与三维重建专栏（二）NeRF原文解读与体渲染物理模型NeRF与三维重建专栏（一）领域背景、难点与数据集介绍异常检测专栏（三）传统的异常检测算法——上异常检测专栏（二）：评价指标及常用数据集异常检测专栏（一）异常检测概述BEV专栏（二）从BEVFormer看BEV流程（下篇）BEV专栏（一）从BEVFormer深入探究BEV流程（上篇）可见光遥感图像目标检测（三）文字场景检测之Arbitrary可见光遥感目标检测（二）主要难点与研究方法概述可见光遥感目标检测（一）任务概要介绍TensorRT教程（三）TensorRT的安装教程TensorRT教程（二）TensorRT进阶介绍TensorRT教程（一）初次介绍TensorRTAI最全资料汇总 | 基础入门、技术前沿、工业应用、部署框架、实战教程学习计算机视觉入门1v3辅导班计算机视觉交流群聊聊计算机视觉入门发布于 2023-07-22 19:52・IP 属地四川深度学习（Deep Learning）目标检测计算机视觉赞同 72 条评论分享喜欢收藏申请

各位大佬，区块链项目lsk有谁帮忙解释一下？ - 知乎

各位大佬，区块链项目lsk有谁帮忙解释一下？ - 知乎首页知乎知学堂发现等你来答切换模式登录/注册货币各位大佬，区块链项目lsk有谁帮忙解释一下？emmm如题显示全部关注者3被浏览1,050关注问题写回答邀请回答好问题添加评论分享2 个回答默认排序数字货币冷眼区块链投资人关注等待就是改变，不要轻易变动发布于 2019-01-07 09:22赞同 1添加评论分享收藏喜欢收起头等仓专业服务价值投资者关注谢邀！大佬算不上，简单说一下，希望能有所帮助！Lisk中文名“应用链”，它是去中心化的区块链应用平台，用于帮助区块链应用程序开发者创建各种各样的自定义侧链。公司由Max和Oliver两位前Crypti成员联合创立。 Lisk于2016年3月21日在德国完成ICO. 愿景1、从目前看开发区块链应用门槛较高，Lisk用JavaScript作为编程语言，它提供的框架可降低区块链应用的开发门槛。2、Lisk用侧链支持区块链应用，可以解决区块链主链臃肿问题。发展路线图Lisk在2018年11月份正式发布了新版的路线图。新版路线图以产品SDK为最终里程碑，在alpha-beta-rc-production这一版本迭代中，穿插了8个阶段，分别是：· 质量性能：此阶段将改进API和投票验证性能。通过允许多个网络分别构建、将Lisk Build移至Lisk Core来提升开发人员的体验。· 架构设计：此阶段为Lisk Core实现了新的模块化和弹性架构，带来了多进程支持和更改协议的更优雅处理方式。在此阶段之后，Lisk Core的架构会更稳定，使开发人员可以使用Alpha SDK。· 安全可靠：此阶段可确保在150次确认后最终确定区块，并且还将专注于减轻不同链上的交易回放，为P2P模块添加强大的节点选择和禁止机制。Lisk Elements将添加“费用估算”组件，该组件将作为动态费用系统的一部分。· 网络经济：在这个阶段，团队将专注于在Lisk Core中整合动态费用来增加网络中的活动，为未来的生态系统做准备。此外还将在Lisk Elements中添加“chain”组件。· 网络寿命：这个阶段会确保在完成路线图所示的最后阶段后，网络继续支持Lisk区块链应用程序平台。· DPoS：此阶段将改进共识机制，并将应用引导程序组件添加到Lisk Elements中。· ICO和自定义代币：这个阶段将完成各种重要目标，包括提供改进区块链安全性、动态费用、新的ID系统、改进的DPoS、Core和Elements到TypeScript的完全迁移、通过SDK进行快速应用程序开发的能力。在此阶段，团队将添加在Lisk主链上进行ICO的功能，这是一项Lisk Elements的侧链元素，完成后会提供Release Candidate SDK。· 区块链应用：这是LSK的发展路线图的最后阶段，这一阶段将在Lisk Core与应用程序链之间增加侧链通信。区块链应用程序平台将与Production SDK一起全面交付，此时，开发人员可以在侧链和主链中访问功能齐全、具有互操作性的SDK，也可以进行去信任代币传输。代币系统代币名称：LSK。LSK是基于Lisk应用链发行的coin，为其今后的侧链应用间通用，支付各种费用以驱动交易等.ICO发行总量一亿个LSK，分配如下：ICO参与者占85%；核心团队占8%；活动经费和奖金占4%；顾问和合作伙伴占2%；社会活动赏金占1%.共识机制：DPOS（股权授权证明）区块打包权是由 LSK 的持有人共同投票选举出，排名前101位的delegated来打包区块并获得区块奖励，每十秒出一个区块，目前每区块打包奖励5个lsk，每年减少1个，直至1个lsk 。技术的可持续性：① 简单通用的JAVA语言，可以为更多的开发者提供更大的发展空间;② 主链不会因此增加信息体积，主侧链各自独立，互不影响。期待2018年是Lisk丰收的一年https://www.zhihu.com/video/1064110739056357376Lisk团队在这一年发布了新的产品，还在原有的产品上进行了许多的迭代和提升，并且收获了近7万的新粉丝，这在熊市中是非常不错的成绩。另外值得一提的，还有Lisk在面向公众所做的信息传达和交流方面也非常出色。无论是开发进展，社区活动，或是关于路线图，财政规划，都以非常透明的形式进行。期待Lisk在2019年能有长足的进步。文章来源：头等仓，欢迎参与讨论！想要获得更多资讯的，欢迎私信或是添加微信号go-first-one编辑于 2019-01-03 10:59赞同添加评论分享收藏喜欢收起

YOLOv8改进 | 2023 | LSKAttention大核注意力机制助力极限涨点_lsk注意力机制-CSDN博客

YOLOv8改进 | 2023 | LSKAttention大核注意力机制助力极限涨点

Snu77

已于 2024-01-03 23:15:14 修改

阅读量3.3k

点赞数

分类专栏：

YOLOv8有效涨点专栏

文章标签：

YOLO

人工智能

算法

python

深度学习

计算机视觉

目标检测

于 2023-11-24 23:49:30 首次发布

本文链接：https://blog.csdn.net/java1314777/article/details/134601096

版权

YOLOv8有效涨点专栏

专栏收录该内容

该专栏为热销专栏榜第1名

128 篇文章

444 订阅

¥199.90

¥99.00

订阅专栏

一、本文介绍

在这篇文章中，我们将讲解如何将LSKAttention大核注意力机制应用于YOLOv8，以实现显著的性能提升。首先，我们介绍LSKAttention机制的基本原理，它主要通过将深度卷积层的2D卷积核分解为水平和垂直1D卷积核，减少了计算复杂性和内存占用。接着，我们介绍将这一机制整合到YOLOv8的方法，以及它如何帮助提高处理大型数据集和复杂视觉任务的效率和准确性。本文还将提供代码实现细节和使用方法，展示这种改进对目标检测、语义分割等方面的积极影响。通过实验YOLOv8在整合LSKAttention机制后，实现了检测精度提升(下面会附上改进LSKAttention机制和基础版本的结果对比图)。

专栏目录：YOLOv8改进有效系列目录 | 包含卷

了解本专栏

订阅专栏解锁全文

优惠劵

Snu77

关注

踩

觉得还不错?

一键收藏

打赏

知道了

YOLOv8改进 | 2023 | LSKAttention大核注意力机制助力极限涨点

复制链接

扫一扫

专栏目录

订阅专栏

YOLOv5改进 | 注意力篇 | LSKAttention大核注意力机制助力极限涨点 (附多个位置添加教程)

Snu77的博客

01-06

1072

在这篇文章中，我们将讲解如何将LSKAttention大核注意力机制应用于YOLOv5，以实现显著的性能提升。首先，我们介绍LSKAttention机制的基本原理，它主要通过将深度卷积层的2D卷积核分解为水平和垂直1D卷积核，减少了计算复杂性和内存占用。接着，我们介绍将这一机制整合到YOLOv5的方法，以及它如何帮助提高处理大型数据集和复杂视觉任务的效率和准确性。本文还将提供代码实现细节和使用方法，展示这种改进对目标检测、语义分割等方面的积极影响。通过实验YOLOv8在整合LSKAttention机制后，实

打造核心竞争力 ORACLE助力美的集团优化流程.pdf

10-10

打造核心竞争力 ORACLE助力美的集团优化流程.pdf

14 条评论

您还未登录，请先

后发表或查看评论

YOLOv8改进——使用LSKA注意力机制改进SPPF,增强多尺度特征提取能力

pope888的博客

01-11

1011

【代码】YOLOv8改进——使用LSKA注意力机制改进SPPF,增强多尺度特征提取能力。

LSKA（大可分离核注意力）：重新思考CNN大核注意力设计

AI浩

10-25

2378

大型可分离核注意力（LSKA）模块的视觉注意力网络（VAN）已被证明在各种基于视觉的任务上提供了卓越的性能，超过了视觉转换器（ViTs）。然而，这些LSKA模块中的逐深度卷积层随着卷积核尺寸的增加，计算和内存占用呈二次增长。为了缓解这些问题，并使VAN的注意力模块能够使用极大的卷积核，我们提出了一种大型可分离核注意力模块，称为LSKA。LSKA将深度卷积层的2D卷积核分解为级联的水平1D和垂直1D内核。与标准LKA设计不同，提出的分解使得可以直接使用注意力模块中的深度卷积层的大内核，而不需要任何额外的块。

pytorch代码实现注意力机制之LSK

DM_zx的博客

09-05

772

注意力机制之LSK选择性注意力

VAN（大核注意力机制）

qq_40107571的博客

10-11

2676

VAN（大核注意力机制）

Yolov8小目标检测（13）：LSKblockAttention助力小目标检测 | ICCV 2023 南开大学LSKNet

各专栏持续更新中，改进创新YOLO，适用v5、v7、v8，所有博客均是原创博客，所有文章禁止转载，违者必究。 By AI小怪兽 AI&CV

08-29

783

LSKblockAttention | 亲测在红外弱小目标检测涨点，map@0.5 从0.755提升至0.775

大可分离核注意力：重新思考 CNN 中的大核注意力设计

qq_37149304的博客

10-28

744

今天刚读大可分离核注意力这篇论文，可与大家一起学习。感兴趣的可以下载论文看一下。

论文下载地址：https://arxiv.org/pdf/2309.01439.pdf

代码地址：https://github.com/StevenLauHKHK/Large-Separable-Kernel-Attention/blob/main/mmsegmentation/van.py

摘要

带有大内核注意力（LKA）模块的视觉注意力网络（VAN）已被证明在一系列基于视觉的任务中具有超越视觉转换器（ViT）的卓越性能。然

YOLOv8 新品揭秘：LSK 模块的多重选择性注意力

一直在水些技术小文

11-07

302

本篇博客详细介绍了在 YOLOv8 模型中引入 LSK 模块的方法，以提高目标检测性能和效率。通过案例分析和示例代码，我们展示了不同配置下的性能差异，帮助您更好地理解和应用这一令人激动的技术创新。继续关注计算机视觉领域的最新进展，不断提升您的目标检测模型，为视觉任务带来更好的解决方案！。

即插即用篇 | YOLOv8 引入选择性注意力 LSK 模块 | 《ICCV 2023 Large Selective Kernel Network》

YOLOv8 Contributor

07-23

4156

ICCV 2023顶会最新 YOLOv8 引入选择性注意力 LSK 模块

大数据助力运营商提升规模化运营核心力策略

01-19

通过研究国外运营商大数据发展历程，总结其优秀经验和做法，分别从运营组织、应用开展、平台布局和数据融合 4 个方面，为国内运营商在提升规模化运营核心力方面提出策略与建议，助力国内运营商迎接未来产业互联的...

释放数字生产力，助力金融行业行稳致远2022华为全联接大会

12-03

释放数字生产力，助力金融行业行稳致远2022华为全联接大会（公开）共20页.pdf.zip

以RFID为核心技术的无线传感设备助力物联网的发展

10-26

在物联网领域，中国和其它发达国家站在了同一个起跑线上，中国政府已将物联网纳入国家新兴战略性产业规划。未来10年左右时间里，物联网将得到大规模应用，并将根本性地改变世界的面貌。

红杉树网络视频会议助力大新银行交互式沟通

10-26

该平台已于2009年正式启动，已经成为用户日常会议沟通、交流学习的重要平台。 ……

YOLOv9 最简训练教学！

深度学习炼丹师，偶尔分享炼丹技术!

02-29

804

YOLOv9 最简训练教学！

YOLOv8独家原创改进：特征融合涨点篇 | 广义高效层聚合网络（GELAN） | YOLOv9

最新发布

各专栏持续更新中，改进创新YOLO，适用v5、v7、v8，所有博客均是原创博客，所有文章禁止转载，违者必究。 By AI小怪兽 AI&CV

03-04

604

将GELAN添加在backbone和head处，提供多个yaml改进方法

YOLOv6、YOLOv7、YOLOv8网络结构图(清晰版)

YMilton的专栏

02-26

419

YOLO系列网络结构图

基于YOLOv8/YOLOv7/YOLOv6/YOLOv5的交通信号标志识别软件（Python+PySide6界面+训练代码）

思绪无限的博客

03-02

948

开发交通信号标志识别软件对提升道路安全和辅助自动驾驶技术至关重要。介绍了使用深度学习构建该软件的方法，并提供完整资源链接。软件采用YOLOv8算法，综合YOLOv7、YOLOv6、YOLOv5进行性能对比，涵盖mAP、F1 Score等分析。深入探讨YOLOv8原理，附上Python代码、训练数据集和基于PySide6的UI界面。能精确识别交通标志，支持图片、视频及摄像头输入，具备热力图、标记框、类别统计、可调Conf、IOU参数和结果可视化功能，含SQLite数据库的用户登录注册界面，便于模型切换。

yolov8ema注意力机制

09-01

Yolov8EMA注意力机制是指在Yolov8目标检测算法中使用EMA（Exponential Moving Average）注意力机制来提升性能的一种改进方法。该方法是基于EMA注意力机制的论文翻译而来，并将EMA应用于Yolov8中。通过在自己的数据集上测试，该方法取得了一些性能提升。与其他注意力方法通过简单平均方法聚合学习到的注意力权重不同，Yolov8EMA注意力机制采用了跨空间学习方法，通过融合并行子网络的注意力图来突出所有像素的全局上下文。这种多尺度的注意力机制在性能提升方面表现出更好的效果。因此，Yolov8EMA注意力机制是一种高效的多尺度注意力机制，可以用于改进目标检测算法。123

#### 引用[.reference_title]

- *1* *2* [YoloV8改进策略：新出炉的EMA注意力机制助力YoloV8更加强大](https://blog.csdn.net/m0_47867638/article/details/131356975)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]

- *3* [YOLOV8改进：CVPR 2023 | 在C2f模块不同位置添加EMA注意力机制，有效涨点](https://blog.csdn.net/m0_51530640/article/details/131412297)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]

[ .reference_list ]

“相关推荐”对你有帮助么？

非常没帮助

没帮助

一般

有帮助

非常有帮助

提交

Snu77

CSDN认证博客专家

CSDN认证企业博客

码龄2年

人工智能领域优质创作者

342

原创

周排名

1196

总排名

65万+

访问

等级

1万+

积分

2万+

粉丝

7898

获赞

3726

1万+

私信

关注

热门文章

YOLOv8改进有效系列目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制

21097

时间序列预测模型实战案例(三)(LSTM)(Python)(深度学习)时间序列预测(包括运行代码以及代码讲解)

20468

YOLOv8性能评估指标-＞mAP、Precision、Recall、FPS、IoU

17563

详解YOLOv8网络结构/环境搭建/数据集获取/训练/推理/验证/导出/部署

14704

Win11上Pytorch的安装并在Pycharm上调用PyTorch最新超详细过程并附详细的系统变量添加过程,可解决pycharm中pip不好使的问题

9490

分类专栏

YOLOv8有效涨点专栏

付费

128篇

RT-DETR有效改进专栏

付费

62篇

YOLOv5改进有效专栏

付费

109篇

YOLOv9有效涨点专栏

3篇

YOLOv5/v7有效涨点

1篇

深度学习100题大战

1篇

活动专栏

2篇

目标检测专栏

3篇

时间序列预测专栏

35篇

推荐

强烈推荐

提交

最新文章

YOLOv8改进 | 独家创新篇 | 给YOLOv8增加辅助可逆分支结构（PGI,1:1改进）（全网独家创新，附视频讲解）

【RT-DETR有效改进】全新的SOATA轻量化下采样操作ADown（轻量又涨点，附手撕结构图）

【RT-DETR有效改进】结合SOTA思想利用双主干网络改进RT-DETR（全网独家创新，重磅更新）

2024

03月

4篇

02月

56篇

01月

143篇

2023年138篇

2022年1篇

分类专栏

YOLOv8有效涨点专栏

付费

128篇

RT-DETR有效改进专栏

付费

62篇

YOLOv5改进有效专栏

付费

109篇

YOLOv9有效涨点专栏

3篇

YOLOv5/v7有效涨点

1篇

深度学习100题大战

1篇

活动专栏

2篇

目标检测专栏

3篇

时间序列预测专栏

35篇

被折叠的条评论

为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

祝福语

请填写红包祝福语或标题

红包数量

个

红包个数最小为10个

红包总金额

元

红包金额最低5元

余额支付

当前余额3.43元

前往充值 >

需支付：10.00元

取消

确定

下一步

知道了

成就一亿技术人!

领取后你会自动成为博主和红包主的粉丝

规则

hope_wisdom 发出的红包

打赏作者

Snu77

你的鼓励将是我创作的最大动力

¥1

¥2

¥4

¥6

¥10

¥20

扫码支付：¥1

获取中

扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值

百度知道 - 信息提示

百度首页

商城

网页

资讯

视频

图片

知道

文库

贴吧采购

地图更多

搜索答案

我要提问

百度知道>提示信息

知道宝贝找不到问题了>_

该问题可能已经失效。返回首页

15秒以后自动返回

帮助

| 意见反馈

| 投诉举报

LSK品牌介绍 | 直线导轨官网

LSK品牌介绍 | 直线导轨官网趋势：气弹簧设计选型计算螺栓扭矩标准拉力表-各强度螺栓标准扭矩对照表... 直线导轨都用了好多年，但这些知识你真知道吗？... 0 Items 首页产品中心ABBA线性滑轨,线性导轨CPC线性导轨AR/HR/ER-轻量型线性导轨ARC/HRC/ERC-自动化直线导轨ARR/HRR/LRR-滚柱型导轨MR系列─微小型直线导轨WRC-宽型直线导轨CSK导轨NSK直线导轨HA-高精密型HS-高精密机械用LA-六列重负载型导轨LE-微型宽幅导轨LH系列LS系列LU-微小型线性导轨LW-宽型直线导轨PE-微型不锈钢直线导轨PU-微型线性导轨RA-圆柱滚子导轨SH-低噪音直线滑轨SS-静音型导轨TS-高密封直线导轨VH-高防尘直线滑轨HIWIN上银导轨CG系列-CGH/CGW抗扭矩型EG系列-EGH/EGW低组装直线导轨HG系列-HGH/HGW/HGL高组装导轨MGN/MGW-微型不锈钢导轨PGH系列-PGHH/PGHW定位直线滑轨QE系列-QEH/QEW静音型低组装导轨QH系列-QHH/QHW静音型重负载导轨QR系列-QRH/QRW静音型滚柱导轨QW系列-QWH/QWW静音型宽幅导轨RG系列_RGH/RGW滚柱直线导轨IKO直线滑轨MX/LRX/LRWX-圆柱滚子直线导轨ML/LWL-微型直线导轨ME/LWE-低噪音直线导轨MH/LWH-高刚性直线导轨LWF-宽幅型导轨INA导轨LSK线性滑轨PMI银泰直线滑轨PVP导轨Rexroth力士乐导轨STAF导轨TBI导轨THK线性导轨WON导轨SBC线性滑轨SBM-微型直线导轨SBI-高负载型导轨SPG-带保持器型SBG系列SBS系列SPS-滑块钢珠带间隔器型NB导轨SER-微型滚柱导轨SGL-四列珠直线滑轨SEB-微型直线导轨SGW-宽幅型直线导轨FRN导轨RG-滚柱系列EG-低组装系列HG-高组装系列品牌中心技术文章产品问答品牌资讯名片微信选择页面 LSK品牌介绍律劲LSK成立于2002年，为中国台湾鼎仕机构旗下一家专门生产直线导轨的公司，重资引进日本、德国全套线性滑轨技术与设备，含材料选择、设计、热处理、滑轨及滑块沟槽研磨，装配及测试等一系列理论及实务技术，衍生创设律劲LSK公司得到欧日代理商对生产线产能与品质的一致肯定。鼎仕机构位于中国台湾 / 台中市潭子区与大雅区占地总面积约10,000平方米，总建筑使用面积22,000平方米，旗下有5家公司律德 — 阀球、阀轴零件。律泉 — 不绣钢离心铸造零件。律廷LSK — 滚珠螺杆。律劲LSK — 直线导轨精直 — 自动棒材送料机。鼎仕机构习于欧洲、日本之高端工艺，主要设备、仪器进口自德国、英国、日本……等先进国家。秉持一贯技术建厂，及机电系统整合能量，不断精进现有产品，及钻研、创造机电整合新产品。并朝绿能产业及医疗产业发展。鼎仕机构拥有完整的企业体系，以稳健的经营理念，不断的挑战自我，积极创新，稳居产业领到地位。原装机床用四方短型LSK直线导轨GR25SA 由Elegant Themes | 设计由WordPress提供支持ABBA线性滑轨,线性导轨CPC线性导轨CSK导轨HIWIN上银导轨IKO直线滑轨LSK线性滑轨NB导轨NSK直线导轨PMI银泰直线滑轨Rexroth力士乐导轨SBC线性滑轨THK线性导轨WON导轨切削液磁力泵豫ICP备17023209号-1 → 留言留言姓名电话邮箱留言

pytorch代码实现注意力机制之LSK_lsk注意力机制-CSDN博客

pytorch代码实现注意力机制之LSK

我悟了-

已于 2023-09-05 22:00:46 修改

阅读量772

点赞数

分类专栏：

pytorch实现各种注意力机制

文章标签：

pytorch

人工智能

python

计算机视觉

深度学习

机器学习

目标检测

于 2023-09-05 22:00:24 首次发布

本文链接：https://blog.csdn.net/DM_zx/article/details/132701302

版权

pytorch实现各种注意力机制

专栏收录该内容

25 篇文章

10 订阅

订阅专栏

LSK选择性注意力

近年来遥感目标检测的研究主要集中在改进面向边界盒的表示，而忽略了遥感场景中独特的先验知识。这种先验知识可能是有用的，因为微小的遥感目标可能在没有参考足够的远程背景的情况下被错误地探测到，而不同类型的目标所需的远程背景可能有所不同。在本文中，我们考虑到这些先验因素，提出了大选择性核网络(LSKNet)。LSKNet可以动态调整其大空间感受场，更好地模拟遥感场景中各种物体的测距环境。据我们所知，这是第一次在遥感目标检测领域探索大型和选择性的内核机制。没有花哨的东西，LSKNet在标准基准上设定了新的最先进的分数，即HRSC2016 (98.46% mAP)， DOTA-v1.0 (81.85% mAP)和FAIR1M-v1.0 (47.87% mAP)。基于类似的技术，我们在2022年大湾区国际算法大赛中获得第二名。

原文地址：Large Selective Kernel Network for Remote Sensing Object Detection 代码实现：

import torch

import torch.nn as nn

class LSKblock(nn.Module):

def __init__(self, dim):

super().__init__()

self.conv0 = nn.Conv2d(dim, dim, 5, padding=2, groups=dim)

self.conv_spatial = nn.Conv2d(dim, dim, 7, stride=1, padding=9, groups=dim, dilation=3)

self.conv1 = nn.Conv2d(dim, dim//2, 1)

self.conv2 = nn.Conv2d(dim, dim//2, 1)

self.conv_squeeze = nn.Conv2d(2, 2, 7, padding=3)

self.conv = nn.Conv2d(dim//2, dim, 1)

def forward(self, x):

attn1 = self.conv0(x)

attn2 = self.conv_spatial(attn1)

attn1 = self.conv1(attn1)

attn2 = self.conv2(attn2)

attn = torch.cat([attn1, attn2], dim=1)

avg_attn = torch.mean(attn, dim=1, keepdim=True)

max_attn, _ = torch.max(attn, dim=1, keepdim=True)

agg = torch.cat([avg_attn, max_attn], dim=1)

sig = self.conv_squeeze(agg).sigmoid()

attn = attn1 * sig[:,0,:,:].unsqueeze(1) + attn2 * sig[:,1,:,:].unsqueeze(1)

attn = self.conv(attn)

return x * attn

关注博主即可阅读全文

优惠劵

我悟了-

关注

踩

觉得还不错?

一键收藏

打赏

知道了

pytorch代码实现注意力机制之LSK

注意力机制之LSK选择性注意力

复制链接

扫一扫

专栏目录

参与评论

您还未登录，请先

后发表或查看评论

YOLOv5改进 | 注意力篇 | LSKAttention大核注意力机制助力极限涨点 (附多个位置添加教程)

Snu77的博客

01-06

1072

LSKA（大可分离核注意力）：重新思考CNN大核注意力设计

AI浩

10-25

2379

即插即用篇 | YOLOv8 引入选择性注意力 LSK 模块 | 《ICCV 2023 Large Selective Kernel Network》

YOLOv8 Contributor

07-23

4156

ICCV 2023顶会最新 YOLOv8 引入选择性注意力 LSK 模块

【Transformer系列（2）】注意力机制、自注意力机制、多头注意力机制、通道注意力机制、空间注意力机制超详细讲解

最新发布

Songxianshengbei的博客

03-06

525

在PyTorch中，可以使用循环和条件语句来控制训练、验证和测试的过程，并使用适当的损失函数和优化器来更新模型参数。PyTorch不仅简化了深度学习的复杂流程，还提供了丰富的功能和强大的扩展性，使得深度学习的应用更加广泛和深入。同时，它还支持Python编程语言的语法和特性，使得代码的编写更加简洁和高效。然后，在模型的训练过程中，将模型的输出和真实标签作为输入传递给损失函数，计算出损失值。更强大的生态系统：随着PyTorch生态系统的不断壮大和完善，我们可以期待更多优秀的开源项目、库和工具的涌现。

Pytorch将数据（张量）写入视频

cnjs1994的博客

03-03

429

至于怎么解决PyAV要求的conda的python版本问题。给出一个写入tensor的demo程序。这个需要参考我这篇博客，哈哈哈。可以参考资料【1】；

多头注意力机制pytorch代码

12-22

多头注意力机制是一种在自注意力机制的基础上进行扩展的模型，它能够同时关注输入序列的不同部分并提取更丰富的特征表示。在PyTorch中，可以使用`torch.nn.MultiheadAttention`类来实现多头注意力机制。

下面是一个使用多头注意力机制的PyTorch代码示例：

```python

import torch

import torch.nn as nn

# 定义输入

batch_size = 2

seq_len = 3

embed_dim = 4

num_heads = 2

# 创建多头注意力机制实例

attention = nn.MultiheadAttention(embed_dim, num_heads)

# 创建输入张量

input = torch.randn(seq_len, batch_size, embed_dim)

# 进行多头注意力计算

output, _ = attention(input, input, input)

# 输出结果

print("Output shape:", output.shape)

print("Output tensor:", output)

```

在上述代码中，我们首先导入了`torch`和`torch.nn`模块。然后，我们定义了输入的批次大小（`batch_size`）、序列长度（`seq_len`）、嵌入维度（`embed_dim`）和头数（`num_heads`）。接下来，我们创建了一个`MultiheadAttention`实例，并传入嵌入维度和头数作为参数。然后，我们创建了一个输入张量`input`，其形状为`(seq_len, batch_size, embed_dim)`。最后，我们调用多头注意力机制的`forward`方法，并将输入张量作为参数传入。输出结果是一个形状为`(seq_len, batch_size, embed_dim)`的张量，表示多头注意力机制的输出。

“相关推荐”对你有帮助么？

非常没帮助

没帮助

一般

有帮助

非常有帮助

提交

我悟了-

CSDN认证博客专家

CSDN认证企业博客

码龄5年

暂无认证

原创

5万+

周排名

2万+

总排名

8万+

访问

等级

977

积分

1372

粉丝

175

获赞

161

554

私信

关注

热门文章

太阳能电池板/光伏板缺陷检测数据集

11763

输电线路绝缘子闪络、破损等缺陷检测数据集

9277

输电线路图像数据集

6138

配电线路绝缘子缺陷检测数据集

5647

输电线路、变电站、电网智能应用相关数据集

5256

分类专栏

电网数据集

8篇

目标检测算法改进系列

21篇

Pytorch实现各种卷积模块

7篇

pytorch实现各种注意力机制

25篇

推荐

强烈推荐

提交

最新文章

pytorch代码实现注意力机制之SK Attention

pytorch代码实现注意力机制之MLCA

目标检测算法改进系列之添加C2f-DCN模块

2024年4篇

2023年53篇

2022年7篇

分类专栏

电网数据集

8篇

目标检测算法改进系列

21篇

Pytorch实现各种卷积模块

7篇

pytorch实现各种注意力机制

25篇

被折叠的条评论

为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

祝福语

请填写红包祝福语或标题

红包数量

个

红包个数最小为10个

红包总金额

元

红包金额最低5元

余额支付

当前余额3.43元

前往充值 >

需支付：10.00元

取消

确定

下一步

知道了

成就一亿技术人!

领取后你会自动成为博主和红包主的粉丝

规则

hope_wisdom 发出的红包

打赏作者

我悟了-

你的激励是我肝下去的动力~

¥1

¥2

¥4

¥6

¥10

¥20

扫码支付：¥1

获取中

扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值

【论文阅读】LSKNet: Large Selective Kernel Network for Remote Sensing Object Detection-CSDN博客

【论文阅读】LSKNet: Large Selective Kernel Network for Remote Sensing Object Detection

小李AI飞刀^_^

已于 2023-09-03 12:36:44 修改

阅读量3.9k

点赞数

文章标签：

论文阅读

目标检测

人工智能

于 2023-09-02 21:08:24 首次发布

本文链接：https://blog.csdn.net/MLH7M/article/details/132067119

版权

这是南开大学在ICCV2023会议上新提出的旋转目标检测算法，基本原理就是通过一系列Depth-wise 卷积核和空间选择机制来动态调整目标的感受野，从而允许模型适应不同背景的目标检测。

论文地址：https://arxiv.org/pdf/2303.09030.pdf

代码地址（可以直接使用mmrotate框架实现）：GitHub - zcablii/LSKNet: (ICCV 2023) Large Selective Kernel Network for Remote Sensing Object Dyetection

一、引言

目前基于旋转框的遥感影像目标检测算法已经取得了一定的进展，但是很少考虑存在于遥感影像中的先验知识。遥感影像中的目标往往尺寸很小，仅仅基于其表观特征很难识别，如果结合其背景信息，如周边环境，就可以提供形状、方向等有意义的信息。据此，作者分析了两条重要的先验知识：

精确识别遥感影像中的目标往往需要大范围的背景信息，有限的背景区域会影响模型的识别效果，例如当背景信息很少时，容易将十字路口识别为道路。不同类型的目标所需要的背景信息范围是不同的，如足球场可通明显的球场边界线进行区分，所需的背景信息不多，但是十字路口与道路相似，容易受到树木和其他遮挡物的影响，因此需要足够的背景范围信息才能进行识别。

大范围背景下更容易精确识别地物类型

识别不同目标所需的背景信息差别较大

为了解决上述问题，作者提出了一种新的遥感影像目标识别方法，即Large Selective Kernel Network (LSKNet)。该方法通过在特征提取模块动态调整感受野，更有效地处理了不同目标所需的背景信息差异。其中，动态感受野由一个空间选择机制实现，该机制对一大串Depth-wise 卷积核所处理的特征进行有效加权和空间融合。这些卷积核的权重根据输入动态确定，同时允许模型针对空间上的不同目标自适应地选择不同大小的核并调整感受野。

经验证，LSKNet网络虽然结构简单，但能够获得优异的检测性能，在HRSC2016、DOTA-v1.0、FAIR1M-v1.0三个典型数据集上都取得了SOTA。

二、算法原理

1. LSKNet的架构

结构层级依次为：

LSK module（大核卷积序列+空间选择机制） < LSK Block （LK Selection + FFN）

LSK 模块

LSK Block

LSKNet 是主干网络中的一个可重复堆叠的块（Block），每个LSK Block包括两个残差子块，即大核选择子块（Large Kernel Selection，LK Selection）和前馈网络子块（Feed-forward Network ，FFN），如图8。LK Selection子块根据需要动态地调整网络的感受野，FFN子块用于通道混合和特征细化，由一个全连接层、一个深度卷积、一个 GELU 激活和第二个全连接层组成。

LSK module（LSK 模块，图4）由一个大核卷积序列（large kernel convolutions）和一个空间核选择机制（spatial kernel selection mechanism）组成，被嵌入到了LSK Block 的 LK Selection子块中（图8橙色块）。

2. Large Kernel Convolutions

因为不同类型的目标对背景信息的需求不同，这就需要模型能够自适应选择不同大小的背景范围。因此，作者通过解耦出一系列具有大卷积核、且不断扩张的Depth-wise 卷积，构建了一个更大感受野的网络。

具体地，假设序列中第i个Depth-wise 卷积核的大小为，扩张率为，感受野为，它们满足以下关系：

卷积核大小和扩张率的增加保证了感受野能够快速增大。此外，我们设置了扩张率的上限，以保证扩张卷积不会引入特征图之间的差距。

Table2的卷积核大小可根据公式（1）和（2）计算，详见下图：

这样设计的好处有两点。首先，能够产生具有多种不同大小感受野的特征，便于后续的核选择；第二，序列解耦比简单的使用一个大型卷积核效果更好。如上图表2所示，解耦操作相对于标准的大型卷积核，有效地将低了模型的参数量。

为了从输入数据的不同区域获取丰富的背景信息特征，可采用一系列解耦的、不用感受野的Depth-wise 卷积核：

其中，是卷积核为、扩张率为的Depth-wise 卷积操作。假设有个解耦的卷积核，每个卷积操作后又要经过一个的卷积层进行空间特征向量的通道融合。

之后，针对不同的目标，可基于获取的多尺度特征，通过下文中的选择机制动态选择合适的卷积核大小。

这一段的意思可以简单理解为：

把一个大的卷积核拆成了几个小的卷积核，比如一个大小为5，扩张率为1的卷积核加上一个大小为7，扩张率为3的卷积核，感受野为23，与一个大小为23，扩张率为1的卷积核的感受野是一样的。因此可用两个小的卷积核替代一个大的卷积核，同理一个大小为29的卷积核也可以用三个小的卷积代替（Table 2），这样可以有效的减少参数，且更灵活。

将输入数据依次通过这些小的卷积核（公式3），并在每个小的卷积核后面接上一个1×1的卷积进行通道融合（公式4）。

3. Spatial Kernel Selection

为了使模型更关注目标在空间上的重点背景信息，作者使用空间选择机制从不同尺度的大卷积核中对特征图进行空间选择。

首先，将来自于不同感受野卷积核的特征进行concate拼接：

然后，应用通道级的平均池化和最大池化提取空间关系 :

其中，和是平均池化和最大池化后的空间特征描述符。为了实现不同空间描述符的信息交互，作者利用卷积层将空间池化特征进行拼接，将2个通道的池化特征转换为N个空间注意力特征图：

之后，将Sigmoid激活函数应用到每一个空间注意力特征图，可获得每个解耦的大卷积核所对应的独立的空间选择掩膜：

又然后，将解耦后的大卷积核序列的特征与对应的空间选择掩膜进行加权处理，并通过卷积层进行融合获得注意力特征：

最后LSK module的输出可通过输入特征与注意力特征的逐元素点成获得，即：

公式对应于结构图上的操作如下：

三、实验结果

1. 实验数据集

包括HRSC2016、DOTA-v1.0和FAIR1M-v1.0三个。

2. 训练细节

骨干网络先在ImageNet-1K上预训练，然后再在实验数据集上微调。消融实验中，骨干网络预训练迭代了100个epoch。为了获得更优异的检测性能，采用了预训练300epoch的骨干网络获取主要结果。LSKNet默认构建在Oriented R-CNN上，优化器为AdamW。

3. 消融实验（DOTA-v1.0）

大型卷积核解耦：证明了将一个大型卷积核解耦为两个Depth-wise卷积核能够在速度和精度上获得更好的平衡（Table 3）。感受野大小和选择类型：过小或过大的感受野会限制模型的性能，大小为23的感受野被证明是最有效的。此外，实验证明了本文提出的空间选择方法相比通道注意力机制具有更优异的性能（Table 4)。

空间选择的池化层：实验表明，在空间选择部分同时采用最大和平均池化能够获得最优异的性能，也不会带来推理速度的损失（Table 5）。不同网络框架下LSKNet主干网络的性能：实验证明，与ResNet-18相比，LSKNet作为主干网络能够有效提升网络性能，同时只有38%的参数量和50%的FLOPS。与其他大核卷积、其他选择性注意力骨干网络及其他网络结构对比，LSKNet都有明显的优越性。

4. 分析

为了研究每个目标类别的感受野范围，将定义为类别c的期望选择感受野的面积与地面边界框面积的比值：

为包含目标类别的影像数量，是输入影像中所有LSK block输出的空间选择激活的总和，是LSKNet的block数量，是一个LSK module解耦得到的卷积核数量，是所有标注的地面真实目标框的总像元面积。

DOTA-v1.0数据集中各类别标准化后的Rc结果

四、代码详解

该算法代码采用mmrotate框架，可作为Oriented RCNN、RoI Transformer等基础网络的backbone。将该代码集成至已有的mmrotate框架中，只需要将mmrotate/models/backbones/lsknet.py文件拷贝至对应的的已有的文件夹，同时在__init__.py中导入并在config文件中修改对应配置即可。

LSKNet的代码如下：

import torch

import torch.nn as nn

from torch.nn.modules.utils import _pair as to_2tuple

from mmcv.cnn.utils.weight_init import (constant_init, normal_init,

trunc_normal_init)

from ..builder import ROTATED_BACKBONES

from mmcv.runner import BaseModule

from timm.models.layers import DropPath, to_2tuple, trunc_normal_

import math

from functools import partial

import warnings

from mmcv.cnn import build_norm_layer

class Mlp(nn.Module):

def __init__(self, in_features, hidden_features=None, out_features=None, act_layer=nn.GELU, drop=0.):

super().__init__()

out_features = out_features or in_features

hidden_features = hidden_features or in_features

self.fc1 = nn.Conv2d(in_features, hidden_features, 1)

self.dwconv = DWConv(hidden_features)

self.act = act_layer()

self.fc2 = nn.Conv2d(hidden_features, out_features, 1)

self.drop = nn.Dropout(drop)

def forward(self, x):

x = self.fc1(x)

x = self.dwconv(x)

x = self.act(x)

x = self.drop(x)

x = self.fc2(x)

x = self.drop(x)

return x

class LSKblock(nn.Module):

def __init__(self, dim):

super().__init__()

self.conv0 = nn.Conv2d(dim, dim, 5, padding=2, groups=dim)

self.conv_spatial = nn.Conv2d(dim, dim, 7, stride=1, padding=9, groups=dim, dilation=3)

self.conv1 = nn.Conv2d(dim, dim//2, 1)

self.conv2 = nn.Conv2d(dim, dim//2, 1)

self.conv_squeeze = nn.Conv2d(2, 2, 7, padding=3)

self.conv = nn.Conv2d(dim//2, dim, 1)

def forward(self, x):

attn1 = self.conv0(x)

attn2 = self.conv_spatial(attn1)

attn1 = self.conv1(attn1)

attn2 = self.conv2(attn2)

attn = torch.cat([attn1, attn2], dim=1)

avg_attn = torch.mean(attn, dim=1, keepdim=True)

max_attn, _ = torch.max(attn, dim=1, keepdim=True)

agg = torch.cat([avg_attn, max_attn], dim=1)

sig = self.conv_squeeze(agg).sigmoid()

attn = attn1 * sig[:,0,:,:].unsqueeze(1) + attn2 * sig[:,1,:,:].unsqueeze(1)

attn = self.conv(attn)

return x * attn

class Attention(nn.Module):

def __init__(self, d_model):

super().__init__()

self.proj_1 = nn.Conv2d(d_model, d_model, 1)

self.activation = nn.GELU()

self.spatial_gating_unit = LSKblock(d_model)

self.proj_2 = nn.Conv2d(d_model, d_model, 1)

def forward(self, x):

shorcut = x.clone()

x = self.proj_1(x)

x = self.activation(x)

x = self.spatial_gating_unit(x)

x = self.proj_2(x)

x = x + shorcut

return x

class Block(nn.Module):

def __init__(self, dim, mlp_ratio=4., drop=0.,drop_path=0., act_layer=nn.GELU, norm_cfg=None):

super().__init__()

if norm_cfg:

self.norm1 = build_norm_layer(norm_cfg, dim)[1]

self.norm2 = build_norm_layer(norm_cfg, dim)[1]

else:

self.norm1 = nn.BatchNorm2d(dim)

self.norm2 = nn.BatchNorm2d(dim)

self.attn = Attention(dim)

self.drop_path = DropPath(drop_path) if drop_path > 0. else nn.Identity()

mlp_hidden_dim = int(dim * mlp_ratio)

self.mlp = Mlp(in_features=dim, hidden_features=mlp_hidden_dim, act_layer=act_layer, drop=drop)

layer_scale_init_value = 1e-2

self.layer_scale_1 = nn.Parameter(

layer_scale_init_value * torch.ones((dim)), requires_grad=True)

self.layer_scale_2 = nn.Parameter(

layer_scale_init_value * torch.ones((dim)), requires_grad=True)

def forward(self, x):

x = x + self.drop_path(self.layer_scale_1.unsqueeze(-1).unsqueeze(-1) * self.attn(self.norm1(x)))

x = x + self.drop_path(self.layer_scale_2.unsqueeze(-1).unsqueeze(-1) * self.mlp(self.norm2(x)))

return x

class OverlapPatchEmbed(nn.Module):

""" Image to Patch Embedding

"""

def __init__(self, img_size=224, patch_size=7, stride=4, in_chans=3, embed_dim=768, norm_cfg=None):

super().__init__()

patch_size = to_2tuple(patch_size)

self.proj = nn.Conv2d(in_chans, embed_dim, kernel_size=patch_size, stride=stride,

padding=(patch_size[0] // 2, patch_size[1] // 2))

if norm_cfg:

self.norm = build_norm_layer(norm_cfg, embed_dim)[1]

else:

self.norm = nn.BatchNorm2d(embed_dim)

def forward(self, x):

x = self.proj(x)

_, _, H, W = x.shape

x = self.norm(x)

return x, H, W

@ROTATED_BACKBONES.register_module()

class LSKNet(BaseModule):

def __init__(self, img_size=224, in_chans=3, embed_dims=[64, 128, 256, 512],

mlp_ratios=[8, 8, 4, 4], drop_rate=0., drop_path_rate=0., norm_layer=partial(nn.LayerNorm, eps=1e-6),

depths=[3, 4, 6, 3], num_stages=4,

pretrained=None,

init_cfg=None,

norm_cfg=None):

super().__init__(init_cfg=init_cfg)

assert not (init_cfg and pretrained), \

'init_cfg and pretrained cannot be set at the same time'

if isinstance(pretrained, str):

warnings.warn('DeprecationWarning: pretrained is deprecated, '

'please use "init_cfg" instead')

self.init_cfg = dict(type='Pretrained', checkpoint=pretrained)

elif pretrained is not None:

raise TypeError('pretrained must be a str or None')

self.depths = depths

self.num_stages = num_stages

dpr = [x.item() for x in torch.linspace(0, drop_path_rate, sum(depths))] # stochastic depth decay rule

cur = 0

for i in range(num_stages):

patch_embed = OverlapPatchEmbed(img_size=img_size if i == 0 else img_size // (2 ** (i + 1)),

patch_size=7 if i == 0 else 3,

stride=4 if i == 0 else 2,

in_chans=in_chans if i == 0 else embed_dims[i - 1],

embed_dim=embed_dims[i], norm_cfg=norm_cfg)

block = nn.ModuleList([Block(

dim=embed_dims[i], mlp_ratio=mlp_ratios[i], drop=drop_rate, drop_path=dpr[cur + j],norm_cfg=norm_cfg)

for j in range(depths[i])])

norm = norm_layer(embed_dims[i])

cur += depths[i]

setattr(self, f"patch_embed{i + 1}", patch_embed)

setattr(self, f"block{i + 1}", block)

setattr(self, f"norm{i + 1}", norm)

def init_weights(self):

print('init cfg', self.init_cfg)

if self.init_cfg is None:

for m in self.modules():

if isinstance(m, nn.Linear):

trunc_normal_init(m, std=.02, bias=0.)

elif isinstance(m, nn.LayerNorm):

constant_init(m, val=1.0, bias=0.)

elif isinstance(m, nn.Conv2d):

fan_out = m.kernel_size[0] * m.kernel_size[

1] * m.out_channels

fan_out //= m.groups

normal_init(

m, mean=0, std=math.sqrt(2.0 / fan_out), bias=0)

else:

super(LSKNet, self).init_weights()

def freeze_patch_emb(self):

self.patch_embed1.requires_grad = False

@torch.jit.ignore

def no_weight_decay(self):

return {'pos_embed1', 'pos_embed2', 'pos_embed3', 'pos_embed4', 'cls_token'} # has pos_embed may be better

def get_classifier(self):

return self.head

def reset_classifier(self, num_classes, global_pool=''):

self.num_classes = num_classes

self.head = nn.Linear(self.embed_dim, num_classes) if num_classes > 0 else nn.Identity()

def forward_features(self, x):

B = x.shape[0]

outs = []

for i in range(self.num_stages):

patch_embed = getattr(self, f"patch_embed{i + 1}")

block = getattr(self, f"block{i + 1}")

norm = getattr(self, f"norm{i + 1}")

x, H, W = patch_embed(x)

for blk in block:

x = blk(x)

x = x.flatten(2).transpose(1, 2)

x = norm(x)

x = x.reshape(B, H, W, -1).permute(0, 3, 1, 2).contiguous()

outs.append(x)

return outs

def forward(self, x):

x = self.forward_features(x)

# x = self.head(x)

return x

class DWConv(nn.Module):

def __init__(self, dim=768):

super(DWConv, self).__init__()

self.dwconv = nn.Conv2d(dim, dim, 3, 1, 1, bias=True, groups=dim)

def forward(self, x):

x = self.dwconv(x)

return x

def _conv_filter(state_dict, patch_size=16):

""" convert patch embedding weight from manual patchify + linear proj to conv"""

out_dict = {}

for k, v in state_dict.items():

if 'patch_embed.proj.weight' in k:

v = v.reshape((v.shape[0], 3, patch_size, patch_size))

out_dict[k] = v

return out_dict

优惠劵

小李AI飞刀^_^

关注

踩

觉得还不错?

一键收藏

打赏

知道了

【论文阅读】LSKNet: Large Selective Kernel Network for Remote Sensing Object Detection

复制链接

扫一扫

Yolov8 引入ICCV 2023 | 南开大学提出LSKNet：遥感旋转目标检测新SOTA | 助力backbone

各专栏持续更新中，改进创新YOLO，适用v5、v7、v8，所有博客均是原创博客，所有文章禁止转载，违者必究。 By AI小怪兽 AI&CV

07-27

980

LSKNet在遥感旋转目标检测取得重大突破，本文引入LSKNet，用于优化yolov8，替换新backbone:lsknet_t,lsknet_s

Selective Search for Object Recognition-附件资源

03-05

Selective Search for Object Recognition-附件资源

6 条评论

您还未登录，请先

后发表或查看评论

YOLOv8改进更换旋转目标检测的主干网络LSKNet

分享一些自己改进代码的实例

12-27

1461

手把手教你在yolov8中加入南开大学新研究的遥感旋转目标检测新SOTA：LSKNet，可动态调整空间感受视野，亲测在多个数据集上均有涨点！

YOLOv8改进 | 2023主干篇 | 替换LSKNet遥感目标检测主干 (附代码+修改教程+结构讲解)

Snu77的博客

12-13

2372

本文给大家带来的改进内容是LSKNet（Large Kernel Selection, LK Selection），其是一种专为遥感目标检测设计的网络架构，其核心思想是动态调整其大的空间感受野，以更好地捕捉遥感场景中不同对象的范围上下文。实验部分我在一个包含三十多个类别的数据集上进行实验，其中包含大目标检测和小目标检测，mAP的平均涨点幅度在0.04-0.1之间(也有极个别的情况没有涨点)，同时官方的版本只提供了一个大版本，我在其基础上提供一个轻量化版本给大家选择，本文会先给大家对比试验的结果，供大家参考。

【遥感目标检测论文阅读（一）】Large Selective Kernel Network for Remote Sensing Object Detection

weixin_45457604的博客

01-26

899

近年来遥感目标检测忽略了遥感场景中独特的有用先验知识，微小的遥感目标可能会因为没有参考足够远的背景导致错误的检查，而且不同尺寸的目标需要的上下文信息可能会有所不同。提出轻量级大选择核网络(LSKNet)，可以动态调整其感受野范围，更好地模拟遥感场景中各种物体的测距环境，提供所需上下文信息。

目标检测算法改进系列之Backbone替换为LSKNet

DM_zx的博客

09-27

462

目标检测算法改进系列之Backbone替换为LSKNet

ICCV 2023 | LSKNet【保姆级】训练自己的目标检测模型

weixin_51670564的博客

08-31

2008

LSKNet在多个数据集上刷新了SOTA，HRSC2016（98.46% mAP）、DOTA-v1.0（81.64% mAP）和FAIR1M-v1.0（47.87% mAP）。因此在自己的遥感数据集上试试效果。

Selective Kernel Networks论文总结和代码实现

qq_45981086的博客

05-27

1830

在SKNet中可以看到许多SE模块的痕迹，总的来说SK模块先是通过不同的卷积核将输入特征图进行划分为几个不同的子特征图，再将子特征图相加融合，再经过压缩和softmax处理，得到各种内核上的注意力权重，再与对应子特征图相乘，再相加得到最终的输出特征图V，这个特征图既融合了多个感受野的信息，具有了多尺度的信息。

目标检测——day55 Feature Split–Merge–Enhancement Network for Remote Sensing Object Detection

想太多的学习日志

11-04

864

本文提出了一种提高遥感图像多尺度目标检测性能的特征小企业网络。在多个数据集上的实验验证了我们所提出的模块的有效性。FSM模块减轻了多尺度对象之间的特性混淆。OER模块使模型对多层特征图之间的特征空间布局的不一致性具有更强的鲁棒性。OSE策略增强了显著特征，抑制了背景信息。但是，我们的模块的内部设计比较繁琐，所以计算复杂度相对较高。此外，我们使用水平边界框来勾画出检测到的对象，这些对象不够优雅。在不久的将来，我们将在保持精度的同时定制网络，设计一个更简单、更通用的模块结构，并更准确地校准目标，使其更适合遥感目

YOLOv5改进最新ICCV2023顶会LSKNet：大选择性卷积核的领域首次探索，助力小目标检测

qq_44224801的博客

07-30

1517

这篇论文提出了一种名为大型选择性核网络（Large Selective Kernel Network，简称LSKNet）的新方法，用于遥感对象检测。该方法动态调整特征提取骨干的感受野，以有效处理遥感场景中对象的广泛上下文。该模型使用空间选择机制对大型深度核处理的特征进行加权和空间合并。核的权重是根据输入动态确定的，使得模型能够自适应地使用不同的大核并为每个目标调整感受野。在遥感对象检测中，由于遥感图像的特殊性，如大尺度、高分辨率和多尺度目标等，传统的对象检测方法往往难以取得良好的效果。

旋转目标检测校准的深度特征用于目标检测SSA

jacke121的专栏

07-09

1722

旋转目标检测校准的深度特征用于目标检测SSA

Selective Search for Object Recognition

10-19

1.How do we use segmentation?

2. What is good diversification strategy?

3. How effective is selective search (small set of high-quality locations)?

Selective Kernel Networks 论文思维导图

04-18

该资源给出了论文 Selective Kernel Networks 整体的思维导图情况，可以更方便的加深对论文的理解与应用，所使用的软件是 MindMaster

Impulse control or selective attention: Remedial programs for hyperactivity

06-29

Impulse control or selective attention: Remedial programs for hyperactivity Psychology in the Schools 1982. 19, 92-97 IMPULSE CONTROL OR SELECTIVE ATTENTION: REMEDIAL PROGRAMS FOR HYPERACTIVITY...

【论文阅读】Usenix Security 2023 你看不见我:对基于激光雷达的自动驾驶汽车驾驶框架的物理移除攻击

计算机科研杂货铺

02-28

935

自动驾驶汽车(AVs)越来越多地使用基于激光雷达的物体检测系统来感知道路上的其他车辆和行人。目前，针对基于激光雷达的自动驾驶架构的攻击主要集中在降低自动驾驶物体检测模型的置信度，以诱导障碍物误检测，而我们的研究发现了如何利用基于激光的欺骗技术，在传感器层面选择性地去除真实障碍物的激光雷达点云数据，然后将其用作自动驾驶感知的输入。这些关键的激光雷达信息的消融会导致自动驾驶障碍探测器无法识别和定位障碍物，从而导致自动驾驶汽车做出危险的自动驾驶决策。

【论文笔记】Gemma: Open Models Based on Gemini Research and Technology

最新发布

Yulki的博客

03-05

796

日期: March 5, 2024平台: CSDN, 知乎状态: Writing谷歌最近放出的Gemma模型【模型名字来源于拉丁文gemma，意为宝石】采用的是与先前Gemini相同的架构。这次谷歌开源了两个规模的模型，分别是2B和7B的版本。【对于个人电脑来说，2B真的要容易运行的多】。在18个基于文本的任务上，有11项胜过其他开源的模型。

Uni-ControlNet: All-in-One Control toText-to-Image Diffusion Models——【论文笔记】

qq_45791526的博客

03-05

841

Uni-ControlNet: All-in-One Control toText-to-Image Diffusion Models——【论文笔记】

【论文阅读-PRIVGUARD】Day4：3节

fzy2003的博客

02-29

824

抽象数据框架”（Abstract Data Frameworks, ADFs），是假想的或概念性的框架，用于在数据处理和分析中表示和跟踪数据隐私策略。每个ADF代表一组与数据相关的隐私策略和结构（schema），可以用于确保数据处理活动符合特定的隐私要求。这个ADF定义了一个数据架构，包括三个字段：年龄（age）、信用（credit）和期限（duration）。同时，它指定了一个过滤策略，要求只包含年龄在18岁及以上的记录（FILTER(age)=[18,inf]）。

selective search for object recognition

03-16

选择性搜索是一种用于目标识别的算法，它通过对图像进行分割和合并，从而生成一组可能包含目标的区域。这些区域可以作为候选框，用于后续的目标检测和分类任务。选择性搜索算法的优点在于它能够快速地生成大量的候选框，从而提高目标识别的准确率和效率。

“相关推荐”对你有帮助么？

非常没帮助

没帮助

一般

有帮助

非常有帮助

提交

小李AI飞刀^_^

博客等级

码龄8年

原创

123

519

粉丝

关注

私信

热门文章

DOTA数据集介绍（论文A Large-scale Dataset for Object Detection in Aerial Images）

9834

conda操作之更新源和删除源

8765

Python 快速获取文件夹中的所有文件名，并保存到txt文件中

5921

Python view()和repeat()函数的用法

4711

Python+GDAL 图像坐标、地理坐标、投影坐标的相互转化

4535

分类专栏

文献阅读

9篇

杂碎小记

3篇

python-深度学习之模型理解

1篇

python-GIS杂谈

10篇

python-深度学习之数据处理

7篇

git教程

推荐

强烈推荐

提交

最新文章

【论文阅读】Weighted Boxes Fusion（WBF）模型融合原理解读

【论文阅读】Segment Anything（SAM）——可分割一切的CV大模型

【Triton部署目标检测模型】Linux环境 MMRotate+MMDeploy+Triton 目标检测模型训练、部署及推理最全教程

2023年3篇

2022年2篇

2021年28篇

分类专栏

文献阅读

9篇

杂碎小记

3篇

python-深度学习之模型理解

1篇

python-GIS杂谈

10篇

python-深度学习之数据处理

7篇

git教程

被折叠的条评论

为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

祝福语

请填写红包祝福语或标题

红包数量

个

红包个数最小为10个

红包总金额

元

红包金额最低5元

余额支付

当前余额3.43元

前往充值 >

需支付：10.00元

取消

确定

下一步

知道了

成就一亿技术人!

领取后你会自动成为博主和红包主的粉丝

规则

hope_wisdom 发出的红包

打赏作者

小李AI飞刀^_^

你的鼓励将是我创作的最大动力

¥1

¥2

¥4

¥6

¥10

¥20

扫码支付：¥1

获取中

扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值

LSK 衍生的 LSK-细胞具有与造血和白血病干细胞的存活调节相关的高凋亡率。,PLOS ONE - X-MOL

首页

资讯

期刊

导师

问答

求职

发Paper

文献直达

高级搜索

期刊列表

搜索

当前位置：

X-MOL 学术

›

PLOS ONE

›

论文详情

Our official English website, www.x-mol.net, welcomes your feedback! (Note: you will need to create a separate account there.)

LSK 衍生的 LSK-细胞具有与造血和白血病干细胞的存活调节相关的高凋亡率。

PLOS ONE

(

3.7

)

Pub Date : 2012-06-04

, DOI:

10.1371/journal.pone.0038614

Cong Peng

Yaoyu Chen

Yi Shan

Haojian Zhang

Zhiru Guo

Dongguang Li

Shaoguang Li

Affiliation

Division of Hematology/Oncology, Department of Medicine, University of Massachusetts Medical School, Worcester, Massachusetts, United States of America.

骨髓中平衡的造血干细胞 (HSC) 池受到严格调控，而这种调控在造血系统恶性肿瘤如慢性粒细胞白血病 (CML) 中受到干扰。其潜在机制在很大程度上是未知的。在这里我们展示了来自含有 HSC 的 Lin(-)Sca-1(+)c-Kit(-) (LSK(-)) 细胞群的 Lin(-)Sca-1(+)c-Kit(+) (LSK) 细胞具有显着更高数量的凋亡细胞。通过辐射或细胞毒性化学物质 5-氟尿嘧啶消耗 LSK 细胞会导致 LSK(-) 群体的扩大。相比之下，CML 小鼠的 LSK(-) 数量减少，并且通过删除 Alox5 或抑制热休克蛋白 90 导致白血病干细胞 (LSCs; BCR-ABL 表达 HSCs) 的消耗导致该 LSK(-) 的增加人口。LSK 向 LSK(-) 细胞的转变受 Icsbp 基因及其下游基因 Lyn 控制，这种细胞转变的调节对于正常 LSK 细胞和 LSC 的存活至关重要。这些结果表明 LSK(-) 细胞在调节 LSK 细胞和 LSC 中的潜在功能。

"点击查看英文标题和摘要"

LSK derived LSK- cells have a high apoptotic rate related to survival regulation of hematopoietic and leukemic stem cells.

A balanced pool of hematopoietic stem cells (HSCs) in bone marrow is tightly regulated, and this regulation is disturbed in hematopoietic malignancies such as chronic myeloid leukemia (CML). The underlying mechanisms are largely unknown. Here we show that the Lin(-)Sca-1(+)c-Kit(-) (LSK(-)) cell population derived from HSC-containing Lin(-)Sca-1(+)c-Kit(+) (LSK) cells has significantly higher numbers of apoptotic cells. Depletion of LSK cells by radiation or the cytotoxic chemical 5-fluorouracil results in an expansion of the LSK(-) population. In contrast, the LSK(-) population is reduced in CML mice, and depletion of leukemia stem cells (LSCs; BCR-ABL-expressing HSCs) by deleting Alox5 or by inhibiting heat shock protein 90 causes an increase in this LSK(-) population. The transition of LSK to LSK(-) cells is controlled by the Icsbp gene and its downstream gene Lyn, and regulation of this cellular transition is critical for the survival of normal LSK cells and LSCs. These results indicate a potential function of the LSK(-) cells in the regulation of LSK cells and LSCs.

更新日期：2019-11-01

点击分享

查看原文

点击收藏

取消收藏

新增笔记

公开下载

阅读更多本刊最新论文

本刊介绍/投稿指南

PDF

https://journals.plos.org/plosone/article/file?id=10.1371/journal.pone.0038614&type=printable

HTML

https://doi.org/10.1371/journal.pone.0038614

PDF

http://europepmc.org/articles/pmc3366951?pdf=render

PDF

https://escholarship.umassmed.edu/cgi/viewcontent.cgi?article=3336&context=oapubs

PDF

https://ro.ecu.edu.au/cgi/viewcontent.cgi?article=1784&context=ecuworks2012

HTML

https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3366951

PDF

http://pdfs.semanticscholar.org/5b8e/9b03361ee98f3532b47f49bb6c58ece6b54f.pdf

全部期刊列表>>

学术期刊

行业资讯

全球导师

X-MOL问答

求职广场

网址导航

关于我们

帮助中心

客服邮箱：service@x-mol.com

官方微信：X-molTeam2

邮编：100098

地址：北京市海淀区知春路56号中航科技大厦

京ICP备11026495号-2

京公网安备 11010802027423号

down

wechat

bug

小鼠LSK及DN原代细胞中基因编辑方法的建立

http://dx.doi.org/10.13560/j.cnki.biotech.bull.1985.2017-0903

工作空间

文章信息

王跃强, AvinashBhandoola

小鼠LSK及DN原代细胞中基因编辑方法的建立

生物技术通报, 2018, 34(5): 64-70

WANG Yue-qiang, Avinash Bhandoola

Gene Editing in Mouse Lin-Sca1+Kit+ and Double Negative (DN) Primary Cell

Biotechnology Bulletin, 2018, 34(5): 64-70

文章历史

收稿日期：2017-10-25

引用本文

PDF

王跃强,

AvinashBhandoola.

小鼠LSK及DN原代细胞中基因编辑方法的建立[J]. 生物技术通报, 2018, 34(5): 64-70

WANG Yue-qiang,

Avinash Bhandoola.

Gene Editing in Mouse Lin-Sca1+Kit+ and Double Negative (DN) Primary Cell[J]. Biotechnology Bulletin, 2018, 34(5): 64-70

小鼠LSK及DN原代细胞中基因编辑方法的建立

王跃强1,2, AvinashBhandoola1

Laboratory of Genome Integrity，Center for Cancer Research，National Cancer Institute，Bethesda，MD 20892-4254，USA;

深圳国家基因库合成与编辑平台，深圳 518083

收稿日期：2017-10-25

基金项目：美国国立卫生研究院（NIH）（AI059621，AI098428）

作者简介：王跃强，博士，研究方向：遗传学；E-mail：wangyueqiang@cngb.org

摘要：小鼠（Mus musculus）免疫系统包含种类众多、功能各异的细胞群体。为了研究小鼠免疫系统的发育机制，需要建立高效的遗传操作技术方法。首先选择Cas9敲入小鼠的DN细胞（CD4-CD8- double negative thymocytes）为研究对象，针对GFP和CD4表面抗原基因设计构建了sgRNA（single guide RNA），使用小鼠逆转录病毒（Murine stem cell virus，MSCV）为载体实施了基因编辑。通过流式细胞仪分析，检测到GFP和CD4被成功敲除。在此基础上，选取Cas9敲入小鼠的LSK细胞（Lin-Sca1+Kit+）为研究对象，使用同样的方法针对Tcf7基因设计构建了sgRNA并实施基因编辑。基因编辑后，LSK细胞不能正常分化为下游T细胞，但其分化为髓系细胞能力不受影响。这些结果表明，针对小鼠LSK和DN原代细胞实施的基因编辑取得成功。

关键词：小鼠免疫干细胞基因编辑 CRISPR/Cas9

Gene Editing in Mouse Lin-Sca1+Kit+ and Double Negative (DN) Primary Cell

WANG Yue-qiang1,2, Avinash Bhandoola1

Laboratory of Genome Integrity, Center for Cancer Research, National Cancer Institute, Bethesda, MD 20892-4254, USA;

Genome Synthesis and Editing Platform, China National GeneBank, Shenzhen 518083

Abstract: The immune system of mice(Mus musculus)contains a large number of cell groups with different functions. In order to study the development mechanism of mouse immune system, it is necessary to establish efficient genetic manipulation techniques. Firstly CD4-CD8- double negative thymocytes(isolated from Cas9 knock-in mice)was chosen for this study, then sgRNAs(single guide RNA)were designed to target GFP and mouse CD4 cell surface antigen genes, and murine stem cell virus was used as a vector to deliver sgRNA into the cell, and by which gene editing was realized. The successful knockout of GFP and CD4 were detected by flow cytometry analysis. Based on these results, using Lin-Sca1+Kit+ cell(isolated from Cas9 knock-in mice)as study materials, sgRNAs were designed and constructed with the same method for gene editing. After gene editing, the LSK cells did not differentiate into downstream T cells, but their myeloid differentiation potential was not affected. All these results suggest that we succeed in establishing mouse DN and LSK primary cell gene-editing platform.

Key words:

mouse

immunology

stem cell

gene editing

CRISPR/Cas9

小鼠免疫系统涉及种类众多、功能特性各异的多种类型细胞，揭示这些免疫细胞分化发育的机制是免疫学研究的核心工作之一。在小鼠中，造血干细胞（Hematopoietic stem cells，HSC）是其他血细胞的始祖，HSC通过分化发育可以建立整个血细胞系统（图 1-A）[1-2]。近年来单细胞转录组测序和CRISPR/Cas基因编辑技术快速发展，为免疫学研究提供了新方法。如能对分离的小鼠造血干细胞实施基因编辑，再通过体内移植或体外诱导促使其分化发育；通过细胞表面抗原分析或单细胞转录组分析，能快捷地研究各类免疫细胞分化发育的分子机制。为此，需要建立针对造血干细胞和其他分化度较低的前体免疫细胞的基因编辑技术方法。

图 1 实验设计说明

A：造血干细胞分化发育简要示意图[1-2]，相关细胞大小比例及形状不代表真实情况。造血干细胞分化后，主要形成两大分支：髓系细胞和淋巴系细胞（HSC：Hematopoietic stem cell，造血干细胞；MPP：Multipotent progenitor，多潜能祖细胞；CMP：Common myeloid progenitor，共同髓系前体细胞；CLP：Common lymphoid progenitor，共同淋巴系前体细胞；MEP：Megakaryocyte-erythroid progenitor，“巨核细胞/红细胞前体细胞；GMP：Granulocyte-macrophage progenitor，粒细胞/巨噬细胞前体细胞；DC：Dendritic cell，树突状细胞；ETP：Early T-cell Precursor，早期T细胞前体细胞；DN：CD4-CD8- Double negative cell，DN细胞；DP：CD4+CD8+ double positive T cell，DP细胞；EILP：Early innate lymphoid progenitor，固有淋巴样细胞前体细胞；ILC：Innate lymphoid cell，固有淋巴样细胞；NK：Natural killer cell，自然杀伤细胞）；B：sgRNA载体结构示意图。sgRNA由U6启动子驱动表达，hNGFR报告基因由EF1α启动子驱动表达；C：实验操作方法示意图。首先从Cas9敲入小鼠体内分离得到DN细胞或LSK细胞，通过感染逆转录病毒获得阳性感染细胞。在体外培养并诱导分化后，使用流式细胞仪分析基因编辑结果

图选项

目前，针对人类CD34+造血干细胞（CD34+ Hematopoietic stem/progenitor cell，CD34+ HSPC）实施基因编辑的报道已有多项，但针对小鼠造血干细胞实施基因编辑的研究鲜有报道。人类对CD34+ HSPC的研究通常采用磁珠法，即从脐带血或外周血中分离造血干细胞，使用电转或病毒载体（如慢病毒载体或腺相关病毒载体）实施遗传转化，通过基因编辑实现基因治疗等多种目的[3-10]。在小鼠造血干细胞中实施基因编辑仅有少量报道。2014年，Heckl等[11]从小鼠骨髓中分离LSK细胞，并使用慢病毒载体实施基因编辑敲除了Smc3、Ezh2等基因；随后将LSK细胞移植到受体小鼠体内，在长期培养后构建了小鼠急性髓系白血病模型。2016年，Gundry等[4]从小鼠骨髓中分离到Kit+骨髓细胞，并通过电转实施了基因编辑。此外，有多项报道介绍了针对树突状细胞、B细胞、T细胞及巨噬细胞等分化度高的免疫细胞实施基因编辑的研究成果[12-13]。相关工作极大的拓展了CRISPR/Cas技术在免疫学研究中的应用。本研究从Cas9敲入小鼠骨髓中分离得到LSK细胞，并从其胸腺中分离得到DN细胞。LSK细胞和DN细胞都是包含多种细胞类型的混合细胞。LSK细胞包含造血干细胞HSC和轻度分化的MPP细胞等，其细胞表面分子特征为Lin-、Sca1+、Kit+。DN细胞包含ETP（DN1）细胞、DN2细胞、DN3细胞和DN4细胞。针对LSK细胞和DN细胞，用小鼠干细胞病毒（Mouse stem cell virus，MSCV）作为载体对Tcf7（其编码的蛋白为T cell factor 1，TCF1）、GFP和CD4基因实施了基因编辑。通过体外培养和诱导分化，LSK细胞和DN细胞被诱导分化为下游细胞，在分化的下游细胞中检测到基因编辑效果。

1 材料与方法

1.1 材料

HEK293T细胞、OP9细胞、OP9-DL细胞和NIH3T3细胞均为本实验留存细胞。实验室所使用的OP9细胞稳定感染了含有GFP标记基因的逆转录病毒（MSCV）。而OP9-DL细胞也感染了逆转录病毒，但其中含有Notch信号配体和GFP标记基因。纯合子SpCas9敲入小鼠购自The Jackson Laboratory公司。pLenti-CRISPR v2载体购自Addgene公司（#52961）。pMSCV-IRES-hNGFR载体和pMSCV-IRES-Thy1.1载体为本实验室留存载体。流式细胞术抗体购自eBioscience公司或BioLegend公司。引物购自IDT公司。

1.2 方法

1.2.1 sgRNA载体构建

选取4个基因Luciferase（Luc）、GFP、CD4和Tcf7，使用美国麻省理工学院在线CRISPR/Cas设计软件（http://crispr.mit.edu8079/?）设计相应的sgRNA（表 1）。按照pLenti-CRISPR v2载体操作说明[14-15]，完成sgRNA的克隆构建工作。通过PCR方法从pLenti-CRISPR-sgRNA载体上克隆U6-sgRNA-EF1α基因片段，使用Bgl Ⅱ和Nco Ⅰ双酶切方法将该基因片段亚克隆至逆转录病毒载体pMSCV-hNGFR中，从而得到pMSCV-U6-sgRNA-EF1α-hNGFR载体。sgRNA载体上包含人hNGFR（human CD271，human nerve growth factor receptor）表面抗原报告基因，可以使用Anti-hNGFR抗体染色并检测（图 1-B）。使用无内毒素质粒大提试剂盒（QIAGEN）抽提质粒备用。

表 1 sgRNA靶点序列

表选项

1.2.2 细胞培养

HEK293T细胞和NIH3T3细胞使用DMEM培养基（Thermo Fisher Scientific），培养基中额外加入10%胎牛血清（Atlanta Biologicals），Pen-Strep抗生素和L-Glutamine（Thermo Fisher Scientific）。DMEM培养基相关成分混合均匀后过滤除菌，置于4℃冰箱备用。OP9细胞和OP9-DL细胞使用MEM-α培养基（Thermo Fisher Scientific），培养基中额外加入10%胎牛血清，Pen-Strep抗生素和L-Glutamine。MEM-α培养基相关成分混合均匀后过滤除菌，置于4℃冰箱备用。

1.2.3 病毒包装及滴度测定

第1天晚上，在10 cm培养皿中种上400万HEK293T细胞。第2天早上，使用Lipofectamine 3000（Thermo Fisher Scientific）进行转染。对于sgRNA病毒，每个10 cm平皿转染5 μg pMSCV-U6-sgRNA-EF1α-hNGFR质粒和5 μg逆转录病毒包装质粒（本实验室留存）。转染24 h后换液，加入5 mL新鲜配制的DMEM培养基。换液后作为零点开始计时，24 h后第1次收取病毒并加入5 mL新鲜培养基，48 h后第2次收取病毒。收集病毒后，立即使用Retro-X Concentrator（Clontech）对病毒进行浓缩处理，然后放入-80冰箱冻存。

病毒滴度测定。第1天晚上，在6孔板中种上NIH-3T3细胞，每孔20万个细胞。第2天使用“培养基-病毒混合液”替换旧培养基：对于每个孔，使用1 948 μL新鲜培养基，加入50 μL浓缩后的病毒和2 μL的Polybrene（终浓度为10 μg/mL）。混合均匀并连续培养48 h后，使用Anti-hNGFR抗体染色并经流式细胞仪分析确定病毒滴度。

1.2.4 OP9细胞中基因编辑

在6孔板中种上10万个OP9细胞，加入Cas9病毒（本实验室留存）和GFP-sgRNA-1病毒。培养3 d后，取样品使用流式细胞仪分析OP9细胞中GFP表达量。培养7 d后，取样品使用流式细胞仪分析OP9细胞中GFP表达量。持续培养，并每隔3 d检测GFP表达状况变化。培养3周后，使用流式细胞仪将Thy1.1+hNGFR-（Cas9+sgRNA-），Thy1.1+hNGFR+（Cas9+sgRNA+），Thy1.1-hNGFR-（Cas9-sgRNA-）和Thy1.1-hNGFR+（Cas9-sgRNA+）4个细胞群体分选出来并单独培养。使用荧光显微镜观察4个细胞群体的GFP表达情况。抽提Thy1.1+hNGFR+（Cas9+sgRNA+）细胞的基因组DNA，克隆GFP片段并测序。

1.2.5 DN细胞基因编辑及检测

取纯合子Cas9敲入小鼠（敲入位点为Rosa26，pCAG-hSpCas9-P2A-EGFP，后简称Rosa26-Cas9小鼠）[16]，解剖提取其胸腺分离出胸腺中的细胞（GFP+）。使用Biotin标记的Anti-CD4抗体和Anti-CD8抗体（eBioscience）与胸腺细胞在冰上孵育20 min，之后使用BioMag® Streptavidin磁珠（QIAGEN）分离得到DN细胞。使用sgRNA（Luc-sgRNA-1，GFP-sgRNA-2，CD4-sgRNA-1）病毒感染DN细胞，而后37℃培养过夜。第2天早上除去病毒，并将DN细胞转移到预先辐射处理过（30-Gray）的OP9-DL细胞上进行共培养，在培养基中加入IL-7和Flt-3细胞因子（PEPROTECH），诱导DN细胞分化为下游T细胞。每隔3 d更换一半培养基并补充细胞因子。连续培养7 d后，随后进行流式细胞仪分析（图 1-C）。

1.2.6 LSK细胞基因编辑及检测

取纯合子Cas9敲入小鼠，解剖并分离其骨髓。使用ACK细胞裂解液（ThermoFisher）裂解红细胞。加入Mouse-Rat血清，冰上孵育20 min。加入使用Biotin标记的Anti-Mac1、Anti-Ter119和Anti-Gr1抗体与骨髓细胞在冰上孵育30 min。之后使用PBS缓冲液将未结合的抗体洗掉。将骨髓细胞与BioMag® Streptavidin磁珠混合，在4℃冷房中上下旋转孵育30 min。使用磁铁将磁珠清除。使用Anti-Sca1，Anti-Kit及Anti-Linage Cocktail（Lin）抗体对分离的骨髓细胞进行染色，冰上孵育20 min后使用PBS缓冲液将未结合的抗体洗掉。使用流式细胞仪将Lin-Sca1+Kit+细胞分选出来，并立即感染sgRNA病毒（TCF1-sgRNA-1，TCF1-sgRNA-2，GFP-sgRNA-2）或者空载体病毒（MSCV-Thy1.1）。补充必要的血清、Pen-Strep双抗、L-Glutamine及细胞因子（IL3、IL6、Flt3和SCF，PEPROTECH），而后37℃培养过夜。第2天早上离心后除去病毒液，在MEM-α培养基中加入血清、Pen-Strep双抗、L-Glutamin及细胞因子（IL3、IL6、Flt3和SCF），而后37℃培养24 h。由于sgRNA病毒包含有hNGFR报告基因，而空载病毒包含Thy1.1报告基因，抗体孵育后使用流式细胞仪进行第2次分选，分别将hNGFR（sgRNA）阳性的细胞，以及Thy1.1（对照组，无sgRNA）阳性的细胞分选出来。将hNGFR+细胞和Thy1.1+细胞按照3：1的比例混合。之后，将混合的细胞转移到预先辐射（30 Gray）处理过的OP9-DL细胞上进行共培养，在培养基中加入IL-7和Flt-3细胞因子。将hNGFR+细胞和预先辐射（30 Gray）处理过的OP9细胞上进行共培养。每隔3 d更换一半培养基并补充相应的细胞因子，连续培养两周。之后，进行流式细胞仪分析（图 1-C）。

2 结果

2.1 MSCV-CRISPR系统测试

为了检验新构建的基于MSCV载体的CRISPR/Cas系统是否能够进行基因编辑，选择GFP为靶标基因，在持续表达GFP的OP9细胞系中进行敲除GFP的测试。将Cas9病毒和GFP-sgRNA-1病毒共感染到OP9细胞，7 d后通过流式细胞仪分析，只有Thy1.1+hNGFR+（Cas9+sgRNA+）细胞群体的GFP强度显著下降（图 2-A）。使用流式细胞仪将Cas9+sgRNA+细胞群体分离出，克隆GFP靶点片段并测序，发现在靶点处有短的缺失或插入等变异（图 2-B）。这些结果表明，在OP9细胞中，由MSCV载体介导的基因编辑真实可信。

图 2 OP9细胞中基因编辑结果

A：流式细胞仪分析GFP表达强度变化的结果（Thy1.1+hNGFR-（Cas9+sgRNA-），Thy1.1+hNGFR+（Cas9+sgRNA+），Thy1.1-hNGFR-（Cas9-sgRNA-）和Thy1.1-hNGFR+（Cas9-sgRNA+）4个细胞群体GFP表达的检测结果被叠加在一起。其中Cas9+sgRNA+双阳性细胞群体为红色。左侧为对照组，感染了Luc-sgRNA-1病毒，在连续培养3 d和7 d后双阳性细胞GFP强度无显著变化。右侧为GFP敲除实验组，感染的GFP-sgRNA-1病毒，在连续培养7 d后双阳性细胞GFP强度显著下降）；B：培养3周后，将Cas9+sgRNA+细胞群体sgRNA靶点区域DNA克隆测序，发现靶点处有短的缺失或插入突变（上方为野生型基因序列，其中蓝色高亮显示序列为靶点序列。红色三角为理论切割位点。下方为突变体克隆序列，黄色高亮显示部分为发生变异的序列）

图选项

2.2 DN细胞基因编辑结果

相对于从小鼠骨髓分离LSK细胞而言，从小鼠胸腺中分离DN细胞操作十分容易，且易于获取大量的细胞。因此，我们选用Cas9敲入小鼠，首先从中分离了DN细胞（GFP+）进行实验。分别感染了3种sgRNA（Luc-sgRNA-1，GFP-sgRNA-2，CD4-sgRNA-1）以靶向荧光素酶基因（Luc）、GFP和CD4。与Luc-sgRNA-1和CD4-sgRNA-1基因编辑结果比较发现，只有GFP-sgRNA-2基因编辑后出现GFP-细胞群体。与Luc-sgRNA-1和GFP-sgRNA-2基因编辑结果比较发现，只有CD4-sgRNA-1基因编辑后下游细胞中CD4+细胞比例大幅下降，同时CD8+细胞比例却大幅增加（图 3）。这一结果表明，使用Cas9敲入小鼠，以逆转录病毒作为载体，可以在小鼠原代DN细胞中实现基因编辑。

图 3 DN细胞体外基因编辑结果

在Rosa26-Cas9小鼠的DN细胞中实施基因编辑，通过诱导DN细胞分化并连续培养7 d后检测基因编辑结果。在CD4敲除实验中，与Luc-sgRNA-1和GFP-sgRNA-2组相比，CD4-sgRNA-1组中CD4+细胞几乎消失且CD4+CD8+细胞比例大幅度下降到4.82%，同时CD8+细胞比例却大幅上升到62.2%。而在GFP敲除实验中，与Luc-sgRNA-1和CD4-sgRNA-1组相比，GFP-sgRNA-2组中约有一半细胞变为GFP-细胞

图选项

2.3 LSK细胞基因编辑结果

在上述实验基础上，针对LSK细胞进行了基因编辑测试。我们使用Cas9敲入小鼠进行相关实验，并通过流式细胞仪分选出LSK细胞。随后，分别感染了3种sgRNA（TCF1-sgRNA-1，TCF1-sgRNA-2，GFP-sgRNA-2）以靶向Tcf7和GFP。由于敲除TCF1后，LSK细胞不能正常分化为下游T细胞[17]。因此，我们加入了感染空病毒（MSCV-Thy1.1）的LSK细胞作为内参。体外培养时，使用3：1的比例进行共培养。在GFP-sgRNA-2基因编辑组中，经过2周体外培养后，hNGFR阳性细胞与Thy1.1细胞比例变为3.5：1（29.5%：8.54%）。这一比例与初始培养时3：1的比例接近。而在TCF1-sgRNA-1基因编辑组中，hNGFR阳性细胞与Thy1.1细胞比例变为1：7.7（2.31%：17.7%）。在TCF1-sgRNA-2基因编辑组中，hNGFR阳性细胞与Thy1.1细胞比例变为1：3.6（3.83%：13.7%）（图 4-A）。将感染了Tcf7基因sgRNA病毒的LSK细胞与OP9细胞共培养时，LSK细胞会发育为髓系免疫细胞。由于TCF1对于髓系免疫细胞发育非必需，因此当TCF1被敲除后，骨髓系免疫细胞发育不受影响[17]。在实验中，在GFP-sgRNA-2，TCF1-sgRNA-1，TCF1-sgRNA-2三个基因编辑组中，都有高比例的hNGFR阳性细胞（41.8%：49.9%：40.0%）（图 4-B）。这些hNGFR阳性细胞都有高比例的Mac1阳性细胞（结果未展示）。这表明，使用MSCV病毒为载体可以在Cas9敲入小鼠的LSK细胞中有效实施基因编辑。

图 4 LSK细胞体外基因编辑结果

A：Rosa26-Cas9小鼠的LSK细胞分离后感染MSCV病毒，将感染了sgRNA病毒的LSK细胞（hNGFR+）与转入空病毒的LSK细胞（Thy1.1+）按照3：1比例混合后与OP9-DL细胞共培养2周，诱导分化为下游T细胞（Thy1.2+CD25+）。左侧为每个混合样品中hNGFR+细胞的比例，右侧为每个混合样品中Thy1.1+细胞的比例。可以看到，在TCF1-sgRNA-1和TCF1-sgRNA-2基因编辑组中，hNGFR+细胞比例分别为2.31%和3.83%。由于流式细胞仪分选得到的细胞不纯，在长时间培养过程中会产生高比例细胞即非hNGFR+又非Thy1.1+；（B）Rosa26-Cas9小鼠的LSK细胞分离后感染sgRNA病毒，之后与OP9细胞共培养2周，诱导分化为下游骨髓系细胞（Mac1+）。在3组细胞中，有类似比例的hNGFR+细胞

图选项

3 讨论

本研究从Cas9敲入小鼠中分离相关造血干细胞和免疫前体细胞，通过逆转录病毒（MSCV）作为载体实施了基因编辑。在能够感染MSCV病毒的情况下，这一方法可能适用于大鼠等亲缘关系较近的哺乳动物。虽然使用MSCV病毒载体可以高效感染LSK和DN细胞，但病毒稳定整合到细胞基因组中，并持续不断地表达可能会对LSK细胞和DN细胞分化发育造成不利影响，并引发更多的脱靶效应。未来可以考虑构建可以被诱导表达的CRISPR/Cas系统，或者采用非整合病毒载体来介导实施基因编辑。此外，从Cas9敲入小鼠中分离相应细胞实施基因编辑，在一定程度上限制了这一方法的应用。未来可以构建同时含有Cas9和sgRNA表达元件的病毒载体，将有助于解决这一问题。

在LSK细胞中实施基因编辑并在体外诱导其分化，这一技术平台的建立有助于研究造血干细胞早期分化发育分子机制。由于造血干细胞在免疫系统中具有最高的分化潜能，在其中实施基因编辑，其下游细胞都会继承相同的遗传学特征。这使得我们在对特定基因实施敲除后，可以在更广的范围内研究该基因对免疫系统其他细胞分化发育的影响。本研究中只介绍了在体外环境中针对LSK和DN细胞实施基因编辑的研究结果，缺乏小鼠个体水平实验研究结果。如果能够将这一技术方法延伸，将相关基因编辑的LSK细胞移植到受体小鼠体内，并利用体内环境诱导编辑后的LSK细胞分化发育重建免疫系统，这将极大提升这一方法的价值和意义。此外，近年来单细胞组学技术快速发展，高通量单细胞转录组分析技术方法也成功建立[18-19]。综合运用这些技术方法将推动免疫细胞发育研究快速向前发展。

4 结论

从Cas9敲入小鼠中分离原代LSK细胞或DN细胞，使用逆转录病毒作为载体将sgRNA表达元件导入到相应细胞中引发基因编辑。在DN细胞中成功敲除GFP和CD4表面抗原的表达；在LSK细胞中成功敲除T细胞分化关键因子TCF1的表达。

参考文献

[1]

Blank U, Karlsson S. TGF-β signaling in the control of hematopoietic stem cells[J]. Blood, 2015, 125(23): 3542-3550. DOI:10.1182/blood-2014-12-618090

[2]

王振, 丁晓丹, 张岩, 等. 胚胎干细胞向造血细胞分化的研究进展[J]. 中国细胞生物学学报, 2013, 35(7): 907-915. DOI:10.11844/cjcb.2013.07.9002

[3]

Mandal PK, Ferreira LM, Collins R, et al. Efficient ablation of genes in human hematopoietic stem and effector cells using CRISPR/Cas9[J]. Cell Stem Cell, 2014, 15(5): 643-652. DOI:10.1016/j.stem.2014.10.004

[4]

Gundry MC, Brunetti L, Lin A, et al. Highly efficient genome editing of murine and human hematopoietic progenitor cells by CRISPR/Cas9[J]. Cell Rep, 2016, 17(5): 1453-1461. DOI:10.1016/j.celrep.2016.09.092

[5]

Dever DP, et al. CRISPR/Cas9 β-globin gene targeting in human haematopoietic stem cells[J]. Nature, 2016, 7629: 384-389.

[6]

Hoban MD, Lumaquin D, Kuo CY, et al. CRISPR/Cas9-mediated correction of the sickle mutation in human CD34+ cells[J]. Mol Ther, 2016, 24(9): 1561-1569. DOI:10.1038/mt.2016.148

[7]

De Ravin SS, et al. CRISPR-Cas9 gene repair of hematopoietic stem cells from patients with X-linked chronic granulomatous disease[J]. Sci Transl Med, 2017, 9(372): pii: ecah3480. DOI:10.1126/scitranslmed.aah3480

[8]

Xu L, Yang H, Gao Y, et al. CRISPR/Cas9-mediated CCR5 ablation in human hematopoietic stem/progenitor cells confers HIV-1 resistance in vivo[J]. Mol Ther, 2017, 25(8): 1782-1789. DOI:10.1016/j.ymthe.2017.04.027

[9]

刘改改, 李爽, 韦余达, 等. 利用CRISPR/Cas9技术对人多能干细胞进行高效基因组编辑[J]. 遗传, 2015(11): 1167-1173.

[10]

璩良, 李华善, 等. CRISPR/Cas9系统的分子机制及其在人类疾病基因治疗中的应用[J]. 遗传, 2015, 37(10): 974-982.

[11]

Heckl D, et al. Generation of mouse models of myeloid malignancy with combinatorial genetic lesions using CRISPR-Cas9 genome editing[J]. Nat Biotechnol, 2014, 32(9): 941-946. DOI:10.1038/nbt.2951

[12]

Parnas O, Jovanovic M, Eisenhaure TM, et al. A genome-wide CRISPR screen in primary immune cells to dissect regulatory networks[J]. Cell, 2015, 162(3): 675-686. DOI:10.1016/j.cell.2015.06.059

[13]

Chu VT, Graf R, Wirtz T, et al. Efficient CRISPR-mediated mutagenesis in primary immune cells using CrispRGold and a C57BL/6 Cas9 transgenic mouse line[J]. Proc Natl Acad Sci USA, 2016, 113(44): 12514-12519. DOI:10.1073/pnas.1613884113

[14]

Sanjana NE, Shalem O, Zhang F. Improved vectors and genome-wide libraries for CRISPR screening[J]. Nat Methods, 2014, 11(8): 783-784. DOI:10.1038/nmeth.3047

[15]

Shalem O, et al. Genome-scale CRISPR-Cas9 knockout screening in human cells[J]. Science, 2014, 343(6166): 84-87. DOI:10.1126/science.1247005

[16]

Platt RJ, et al. CRISPR-Cas9 knockin mice for genome editing and cancer modeling[J]. Cell, 2014, 159(2): 440-455. DOI:10.1016/j.cell.2014.09.014

[17]

Weber BN, Chi AW, Chavez A, et al. A critical role for TCF-1 in T-lineage specification and differentiation[J]. Nature, 2011, 476(7358): 63-68. DOI:10.1038/nature10279

[18]

Papalexi E, Satija R. Single-cell RNA sequencing to explore immune cell heterogeneity[J]. Nat Rev Immunol, 2017.

[19]

Stubbington MJT, Rozenblatt-Rosen O, Regev A, et al. Single cell transcriptomics to explore the immune system in health and disease[J]. Science, 2017, 358(6359): 58-63. DOI:10.1126/science.aan6828