基于动态图注意力机制的秦俑点云鲁棒配准

基于动态图注意力机制的秦俑点云鲁棒配准 Robust point cloud registration of terra-cotta warriors based on dynamic graph attention mechanism first-author 海琳琦（1997-），男，河南郑州人，硕士研究生，主要从事点云配准方面的研究。Email： 202032947@stumail.nwu.edu.cn http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113455&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113464&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113461&type= 22.01332855 32.00399780 海琳琦 （1997-），男，河南郑州人，硕士研究生，主要从事点云配准方面的研究。Email： 202032947@stumail.nwu.edu.cn 202032947@stumail.nwu.edu.cn 耿国华（1955-），女，山东莱西人，教授，博士生导师，1976年和1988年于西北大学分别获得学士和硕士学位，主要从事虚拟现实、可视化技术、图像处理和智能信息处理等领域的理论及应用工程创新研究。E-mail： 1925995331@qq.com http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113470&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113480&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113476&type= 22.01333618 32.00400543 耿国华 （1955-），女，山东莱西人，教授，博士生导师，1976年和1988年于西北大学分别获得学士和硕士学位，主要从事虚拟现实、可视化技术、图像处理和智能信息处理等领域的理论及应用工程创新研究。E-mail： 1925995331@qq.com 1925995331@qq.com corresp E-mail： zhanghb@nwu.edu.cn E-mail： zhanghb@nwu.edu.cn 张海波（1985-），男，陕西宝鸡人，博士，在职博士后，副教授，2008年于西北工业大学获得学士学位，2012和2017年于西北大学分别获得硕士和博士学位，主要研究方向为文物数字化保护、医学影像分析。E-mail： zhanghb@nwu.edu.cn http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113502&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113511&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113506&type= 22.01332474 32.00399780 张海波 （1985-），男，陕西宝鸡人，博士，在职博士后，副教授，2008年于西北工业大学获得学士学位，2012和2017年于西北大学分别获得硕士和博士学位，主要研究方向为文物数字化保护、医学影像分析。E-mail： zhanghb@nwu.edu.cn zhanghb@nwu.edu.cn 西北大学 信息科学与技术学院，陕西 西安 710127 西北大学 信息科学与技术学院，陕西 西安 710127 School of Information Science and Technology， Northwest University， Xi’an 710127， China School of Information Science and Technology， Northwest University， Xi’an 710127， China 针对目前的点云配准方法在处理秦俑等文物模型时不能很好地解决分辨率不匹配、点云部分重叠、噪声点较多等问题，提出一种基于动态图注意力机制的ResUNet配准模型。该模型将残差模块融入U-Net网络中，使用三维稀疏体素卷积计算点云特征，并引入一种新的归一化技术：批邻域归一化（Batch-Neighborhood Normalization， BNHN），来提高特征对于点密度变化的鲁棒性；为了进一步提高配准性能，该模型通过自注意力机制和交叉注意力机制聚合局部特征和上下文特征，最后结合随机抽样一致性算法来估计源点云与目标点云之间的变化矩阵，完成秦俑文物模型的鲁棒配准。为了验证本文方法的有效与鲁棒，使用四组数据集（3DMatch、3DLoMatch、分辨率不匹配的3DMatch数据集以及两组秦俑数据）对配准模型进行测试，实验结果表明，该算法在3DMatch数据集和3DLoMatch数据集上的配准召回率分别达到90.1%和61.0%；在分辨率不匹配的3DMatch数据集，相比与基于特征学习的配准算法，该算法在配准召回率上提升了5%~20%；在秦俑数据集上，相对旋转误差均小于0.071，相对平移误差均小于0.016，相较于同类算法减少了一个量级或几倍。因此，本文的模型能够提取三维点云的关键特征信息，并且对点密度和重叠度变化具有更高的鲁棒性。 The current point cloud registration methods cannot effectively address resolution mismatches， partial overlaps of point clouds， and numerous noise points when used for cultural relic models such as Terra-cotta Warriors. Hence， a ResUNet registration model based on the dynamic graph attention mechanism is proposed. The model integrates the residual module into the U-Net， performs three-dimensional （3D） sparse voxel convolution to calculate the features of point clouds， and applies a new normalization technology known as batch-neighborhood normalization to improve the robustness of features against point density changes. To improve the registration performance， the model aggregates local and context features via self- and cross-attention mechanisms. Finally， a random sampling consensus algorithm is used to estimate the change matrix between the source and target point clouds to complete the robust registration of the Terra-cotta Warriors model. To verify the effectiveness and robustness of the proposed method， four datasets （3DMatch， 3DLoMatch， 3DMatch with resolution mismatches， and two sets of terra-cotta warrior data） were used to test the registration model. Experimental results show that the registration recall was 90.1% and 61.0% in the 3DMatch and 3DLoMatch datasets， respectively. In the mismatched-resolution 3DMatch dataset， compared with feature learning-based registration algorithms， our algorithm improved the registration recall by 5%–20%. In the terra-cotta warrior dataset， the relative rotation and translation errors were less than 0.071 and 0.016， respectively， which are several times to one order of magnitude lower than those of other algorithms. The model proposed herein can extract key feature information from a 3D point cloud and is more robust to variations in point density and overlapping compared with other models. 点云配准 动态图注意力机制 低重叠点云 点密度变化 残差网络 point cloud registration dynamic graph attention mechanism point clouds with low overlap point density changes residual network 1 引 言 1 点云配准在秦俑虚拟复原、秦陵智慧博物馆等项目中发挥着重要作用，点云配准结果的准确是后续三维重建的关键 ［ 1 1 ］ 。然而由于环境限制、秦俑文物本身破损等因素的影响，采集到的三维秦俑数据往往只包含部分信息 ［ 2 2 ］ ；加之采集三维数据的仪器性能各异，捕获的点云通常具有不同的密度且包含大量噪声点 ［ 3 3 ］ ，这使得寻找两点云间刚体变换的过程充满挑战。要想得到完整的兵马俑以及相关文物模型，就必须提高点云配准的准确率和效率 ［ 4 4 ］ 。因此，针对点密度变化、低重叠的配准算法是目前三维模型处理的研究热点。 目前，秦俑以及相关文物的配准工作大多是基于优化的传统配准方法。如，吴庆华 ［ 5 5 ］ 等人提出了一种基于扩展高斯图像聚类的点云配准算法，加快了点云模型的配准速度；刘跃生 ［ 6 6 ］ 等人提出一种混合稀疏迭代最近点配准方法，提高了配准的效率和鲁棒性；张顺利 ［ 4 4 ］ 等人提出了一种基于自适应邻域匹配的文物点云配准方法，解决了不同尺度的点云配准问题。此外，手工制作能够区分几何特征的描述符也能够帮助完成秦俑配准工作，如SHOT ［ 7 7 ］ ，USC ［ 8 8 ］ ，ROPS ［ 9 9 ］ 等根据曲面上点的空间分布生成直方图，通过构建唯一的局部参考坐标系来实现描述符的旋转不变性，又如PFH ［ 10 10 ］ ，FPFH ［ 11 11 ］ ，LSP ［ 12 12 ］ 等根据曲面上的几何属性生成直方图，采用本质不变的特征来实现描述符的旋转不变性；然而这类算法在面对两点云部分重叠、密度不一致、包含大量离群点等挑战时不能快速、鲁棒地处理。 近年来，深度学习中端到端的配准算法，如RPM-Net ［ 13 13 ］ ，PRNet ［ 14 14 ］ ，可用神经网络代替手工特征描述符来提高配准的鲁棒性和性能。RPM-Net ［ 13 13 ］ 根据每个点的空间坐标和几何性质计算混合特征，引入可微的Sinkhorn层处理非公共点来实现部分到部分的分配。PRNet ［ 14 14 ］ 采用注意机制 ［ 15 15 ］ 细化点特征，实现输入之间的信息交换，并以自监督的方式进行训练。然而以上算法都依赖于基于局部几何结构提取的三维特征点，缺少两点云间的信息交互，并且只能在点密度不变的前提下对点云重叠度为50%以上的场景进行配准，仍然有很大的局限性。基于特征学习的配准算法，如3DSMoothNet ［ 16 16 ］ ，FCGF ［ 17 17 ］ ，D3Feat ［ 18 18 ］ ，CoFiNet ［ 19 19 ］ 利用神经网络来学习鲁棒的特征并结合RANSAC ［ 20 20 ］ 或SVD来计算最终的变换矩阵。虽然能较好得处理重叠度为30%以上的场景，但处理重叠度为30%以下的场景时，配准效果会急剧下滑。最近MaskNet ［ 21 21 ］ 和OMNet ［ 22 22 ］ 提出利用神经网络提取点云的全局特征和点方向特征，以端到端方式预测掩码和变换矩阵。然而，在不进行早期信息交换的情况下，就利用提取的深度特征对掩码进行预测，这使得掩码难以准确估计，进而影响配准效果。为了更好地提高网络配准模型的准确性和鲁棒性，众多特征融合方法以及正则化等策略被不断的提出。例如BNHN ［ 23 23 ］ ，Residual Block ［ 24 24 ］ ，注意力机制 ［ 15 15 ］ 等可用于进一步提高深度卷积神经网络模型的性能。 由于秦俑等相关文物本身结构的复杂性以及扫描设备分辨率不同、扫描距离不同等因素影响，导致采集到的点云数据会出现分辨率不匹配、包含大量噪声点和扫描不全等情况。现有的配准方法在公共数据集上的配准效果比较好，对于表面凹凸不平，孔洞较多的秦俑模型，配准效果不是特别准确。因此，借鉴UNet ［ 25 25 ］ 网络的设计思想，结合残差网络 ［ 24 24 ］ 、图注意力机制 ［ 15 15 ］ ，本文提出了一种用于秦俑点云配准的新型网络模型DGATNet。该模型以ResUNet作为主干架构，引入批邻域归一化技术来消除点密度变化，在动态图注意力模块中，借助多头自注意力和交叉注意力，对稀疏关键点的局部特征和上下文特征进行聚合，丰富了特征表示，最后结合RANSAC算法完成点云高效、鲁棒地配准。 2 融合动态图注意力机制的ResUNet网络配准模型 1 针对秦俑等相关文物模型的快速、鲁棒配准问题，本文提出了一种基于UNet的配准网络模型DGATNet。基于BNHN-Conv；提出一种新的三维点云卷积操作，构建一个完全卷积网络。该网络架构可分为3个组件；编码器、动态图注意力模块以及解码器。本文首先对刚性点云配准问题进行描述，最后对网络模型进行介绍。 2.1　点云配准 2 给定两个输入点云 <math id="M1"><mi mathvariant="bold-italic">X</mi><mo>=</mo><mfenced open="{" close="}" separators="|"><mrow><msub><mrow><mi mathvariant="bold-italic">x</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msub><mo>,</mo><mo>…</mo><mo>,</mo><msub><mrow><mi mathvariant="bold-italic">x</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>,</mo><mo>…</mo><mo>,</mo><msub><mrow><mi mathvariant="bold-italic">x</mi></mrow><mrow><mi>N</mi></mrow></msub></mrow></mfenced><mo>∈</mo></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113522&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113517&type= 39.03133011 4.06400013 <math id="M2"><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mn mathvariant="normal">3</mn></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113533&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113527&type= 3.97933316 3.04800010 和 <math id="M3"><mi mathvariant="bold-italic">Y</mi><mo>=</mo><mfenced open="{" close="}" separators="|"><mrow><msub><mrow><mi mathvariant="bold-italic">y</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msub><mo>,</mo><mo>…</mo><mo>,</mo><msub><mrow><mi mathvariant="bold-italic">y</mi></mrow><mrow><mi>j</mi></mrow></msub><mo>,</mo><mo>…</mo><mo>,</mo><msub><mrow><mi mathvariant="bold-italic">y</mi></mrow><mrow><mi>M</mi></mrow></msub></mrow></mfenced><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mn mathvariant="normal">3</mn></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113543&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113538&type= 43.68799973 4.82600021 ，其中 <math id="M4"><mi mathvariant="bold-italic">X</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113551&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113548&type= 3.13266683 2.79399991 为源点云， <math id="M5"><mi mathvariant="bold-italic">Y</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113561&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113556&type= 3.13266683 2.79399991 为目标点云， <math id="M6"><mi>N</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113571&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113566&type= 3.30200005 2.87866688 ， <math id="M7"><mi>M</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113919&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113915&type= 3.89466691 2.87866688 分别表示源点云和目标点云的数量。配准的目标是找到一个刚体变换 <math id="M8"><mi mathvariant="bold-italic">R</mi><mo>∈</mo><mi>S</mi><mi>O</mi><mo stretchy="false">(</mo><mn mathvariant="normal">3</mn><mo stretchy="false">)</mo></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113589&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113585&type= 17.01799965 3.55599999 和 <math id="M9"><mi mathvariant="bold-italic">t</mi><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mn mathvariant="normal">3</mn></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113600&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113594&type= 8.72066593 3.38666677 来对齐两点云。对于点云部分重叠问题，点云数 <math id="M10"><mi>N</mi><mo>≠</mo><mi>M</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113608&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113605&type= 11.51466751 3.04800010 。本文定义一个匹配矩阵 <math id="M11"><mi mathvariant="bold-italic">M</mi><mo>=</mo><mfenced open="{" close="}" separators="|"><mrow><msub><mrow><mi>m</mi></mrow><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo stretchy="false">|</mo><mi>i</mi><mo>=</mo><mn mathvariant="normal">1</mn><mo>,</mo><mo>…</mo><mo>,</mo><mi>N</mi><mo>;</mo><mi>j</mi><mo>=</mo><mn mathvariant="normal">1</mn><mo>,</mo><mo>…</mo><mo>,</mo><mi>M</mi></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113618&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113614&type= 56.38800049 4.82600021 ，代表 <math id="M12"><msub><mrow><mi mathvariant="bold-italic">x</mi></mrow><mrow><mi>i</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113630&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113623&type= 3.04800010 3.72533321 与 <math id="M13"><msub><mrow><mi mathvariant="bold-italic">y</mi></mrow><mrow><mi>j</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113640&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113635&type= 2.87866688 4.57200003 的对应关系。则部分到部分的刚性点云配准问题可以表述为 式（1） 式（1） ： <math display="block" id="M14"><mtable columnalign="left"><mtr><mtd><munder><mrow><mi mathvariant="normal">m</mi><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi></mrow><mrow><mi>R</mi><mo>∈</mo><mi>S</mi><mi>O</mi><mo stretchy="false">(</mo><mn mathvariant="normal">3</mn><mo stretchy="false">)</mo><mo>,</mo><mi>t</mi><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mn mathvariant="normal">3</mn></mrow></msup></mrow></munder><mstyle displaystyle="true"><munderover><mo largeop="true">∑</mo><mrow><mi>j</mi><mo>=</mo><mn mathvariant="normal">1</mn></mrow><mrow><mi mathvariant="bold-italic">M</mi></mrow></munderover></mstyle><mrow><mstyle displaystyle="true"><munderover><mo largeop="true">∑</mo><mrow><mi>i</mi><mo>=</mo><mn mathvariant="normal">1</mn></mrow><mrow><mi mathvariant="bold-italic">N</mi></mrow></munderover></mstyle><mrow><msub><mrow><mi>m</mi></mrow><mrow><mi>i</mi><mi>j</mi></mrow></msub></mrow></mrow><msubsup><mrow><mfenced open="‖" close="‖" separators="|"><mrow><mi mathvariant="bold-italic">R</mi><msub><mrow><mi mathvariant="bold-italic">x</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>+</mo><mi mathvariant="bold-italic">t</mi><mo>-</mo><msub><mrow><mi mathvariant="bold-italic">y</mi></mrow><mrow><mi>j</mi></mrow></msub></mrow></mfenced></mrow><mrow><mn mathvariant="normal">2</mn></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msubsup></mtd></mtr><mtr><mtd><msub><mrow><mi>m</mi></mrow><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo>=</mo><mfenced open="{" close="" separators="|"><mrow><mtable columnalign="left"><mtr><mtd><mn mathvariant="normal">1</mn><mo>,</mo></mtd><mtd><msub><mrow><mi mathvariant="bold-italic">x</mi></mrow><mrow><mi>i</mi></mrow></msub><mtext> </mtext><mi mathvariant="normal">c</mi><mi mathvariant="normal">o</mi><mi mathvariant="normal">r</mi><mi mathvariant="normal">r</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">s</mi><mi mathvariant="normal">p</mi><mi mathvariant="normal">o</mi><mi mathvariant="normal">n</mi><mi mathvariant="normal">d</mi><mi mathvariant="normal">s</mi><mtext> </mtext><mi mathvariant="normal">t</mi><mi mathvariant="normal">o</mi><mtext> </mtext><msub><mrow><mi mathvariant="bold-italic">y</mi></mrow><mrow><mi>j</mi></mrow></msub></mtd></mtr><mtr><mtd><mn mathvariant="normal">0</mn><mo>,</mo></mtd><mtd><mtext> </mtext><mi mathvariant="normal">o</mi><mi mathvariant="normal">t</mi><mi mathvariant="normal">h</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">r</mi><mi mathvariant="normal">w</mi><mi mathvariant="normal">i</mi><mi mathvariant="normal">s</mi><mi mathvariant="normal">e</mi><mtext> </mtext></mtd></mtr></mtable></mrow></mfenced></mtd></mtr></mtable></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113645&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113642&type= 53.84799957 20.99733353 ， 其中： <math id="M15"><msub><mrow><mi>m</mi></mrow><mrow><mi>i</mi><mi>j</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113653&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113647&type= 4.14866638 3.72533321 代表匹配矩阵 <math id="M16"><mi mathvariant="bold-italic">M</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113663&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113658&type= 3.97933316 2.96333337 的第 <math id="M17"><mi>i</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114327&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114324&type= 1.10066664 2.79399991 行、第 <math id="M18"><mi>j</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113682&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113678&type= 1.60866666 3.64066648 列；符号 <math id="M19"><mfenced open="‖" close="‖" separators="|"><mrow><mo>⋅</mo></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114609&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114605&type= 4.31799984 3.97933316 表示二范数。 2.2　UNet卷积神经网络配准模型 2 ResUNet神经网络是在UNet网络的基础上嵌入残差模块组成的。U-Net神经网络是Ronneberger ［ 25 25 ］ 等人于2015年在全卷积网络（Fully Convolutional Network，FCN）的基础上提出的。U-Net由编码器、解码器以及跳跃连接的拓扑结构组成，通过4次下采样和4次上采样形成U型结构。 U-Net会实时地计算点云的特征；设 <math id="M20"><msub><mrow><mi>ψ</mi></mrow><mrow><mi>θ</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113699&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113695&type= 3.21733332 4.48733330 为带有参数 <math id="M21"><mi>θ</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113712&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113705&type= 1.86266661 2.79399991 的U-Net网络， <math id="M22"><msub><mrow><mi>ψ</mi></mrow><mrow><mi>θ</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113721&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113718&type= 3.21733332 4.48733330 通过获取点云中点的坐标 <math id="M23"><mi>X</mi><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mi>N</mi><mo>×</mo><mn mathvariant="normal">3</mn></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113733&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113727&type= 14.39333248 3.38666677 ， <math id="M24"><mi>Y</mi><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mi>M</mi><mo>×</mo><mn mathvariant="normal">3</mn></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113742&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113737&type= 14.81666565 3.38666677 和与之相关的特征 <math id="M25"><msubsup><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>X</mi></mrow><mrow><mo stretchy="false">(</mo><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi><mo stretchy="false">)</mo></mrow></msubsup><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mi>N</mi><mo>×</mo><msub><mrow><mi>d</mi></mrow><mrow><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi></mrow></msub></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113752&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113746&type= 18.79599953 5.07999992 ， <math id="M26"><msubsup><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>Y</mi></mrow><mrow><mo stretchy="false">(</mo><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi><mo stretchy="false">)</mo></mrow></msubsup><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mi>M</mi><mo>×</mo><msub><mrow><mi>d</mi></mrow><mrow><mi>i</mi><mi>n</mi></mrow></msub></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113763&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113757&type= 19.13466644 5.07999992 来计算最终网络输出的特征 <math id="M27"><msub><mrow><mi mathvariant="bold-italic">F</mi></mrow><mrow><mi>X</mi></mrow></msub><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mi>N</mi><mo>×</mo><mi>d</mi></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113772&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113767&type= 15.91733265 4.23333359 和 <math id="M28"><msub><mrow><mi mathvariant="bold-italic">F</mi></mrow><mrow><mi>Y</mi></mrow></msub><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mi>M</mi><mo>×</mo><mi>d</mi></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113781&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113776&type= 16.42533302 4.23333359 。 <math display="block" id="M29"><mtable columnalign="left"><mtr><mtd><msub><mrow><mi mathvariant="bold-italic">F</mi></mrow><mrow><mi>X</mi></mrow></msub><mo>=</mo><msub><mrow><mi>ψ</mi></mrow><mrow><mi>θ</mi></mrow></msub><mfenced separators="|"><mrow><mi mathvariant="bold-italic">X</mi><mo>,</mo><msubsup><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>X</mi></mrow><mrow><mo stretchy="false">(</mo><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi><mo stretchy="false">)</mo></mrow></msubsup></mrow></mfenced></mtd></mtr><mtr><mtd><msub><mrow><mi mathvariant="bold-italic">F</mi></mrow><mrow><mi>Y</mi></mrow></msub><mo>=</mo><msub><mrow><mi>ψ</mi></mrow><mrow><mi>θ</mi></mrow></msub><mfenced separators="|"><mrow><mi mathvariant="bold-italic">Y</mi><mo>,</mo><msubsup><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>Y</mi></mrow><mrow><mo stretchy="false">(</mo><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi><mo stretchy="false">)</mo></mrow></msubsup></mrow></mfenced></mtd></mtr></mtable></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113789&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113785&type= 25.65399933 11.43000031 其中： <math id="M30"><msub><mrow><mi>d</mi></mrow><mrow><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113799&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113794&type= 3.80999994 3.72533321 表示输入特征的维度， <math id="M31"><mi>d</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113808&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113803&type= 2.28600001 2.79399991 表示网络输出特征的维度。 U-Net网络最早运用于图像分割领域，如今，FCGF ［ 17 17 ］ ，D3Feat ［ 18 18 ］ ，DGR ［ 26 26 ］ ，Predator ［ 27 27 ］ 将U-Net网络应用于配准领域。它可以处理大型点云，并且计算效率高。由于其全卷积架构，它表现出比大多数深度配准模型更高效的性能。 2.3　残差模块 2 U-Net网络在点云配准中表现出良好的性能，然而随着网络层数的加深，精确度趋于饱和，甚至迅速退化。经过Szegedy等人 ［ 28 28 ］ 分析，这种退化是由于层数的增加导致反向传播中梯度消失造成的。为了解决深层网络中梯度消失和梯度爆炸问题，He ［ 24 24 ］ 等人提出了深度残差网络，即在传统的卷积网络中加入多个残差模块。残差模块如 图1 图1 所示，其定义如 式（3） 式（3） 所示： <math display="block" id="M32"><mi mathvariant="bold-italic">y</mi><mo>=</mo><mi>F</mi><mfenced separators="|"><mrow><mi mathvariant="bold-italic">x</mi><mo>,</mo><mfenced open="{" close="}" separators="|"><mrow><msub><mrow><mi>W</mi></mrow><mrow><mi>i</mi></mrow></msub></mrow></mfenced></mrow></mfenced><mo>+</mo><mi mathvariant="bold-italic">x</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113819&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113813&type= 32.51200104 4.74133301 ， 其中： <math id="M33"><mi mathvariant="bold-italic">x</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113827&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113823&type= 2.28600001 2.79399991 是残差块的输入， <math id="M34"><mi mathvariant="bold-italic">y</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113839&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113832&type= 2.20133328 3.64066648 是残差块的输出，函数 <math id="M35"><mi>F</mi><mfenced separators="|"><mrow><mi>x</mi><mo>,</mo><mfenced open="{" close="}" separators="|"><mrow><msub><mrow><mi>W</mi></mrow><mrow><mi>i</mi></mrow></msub></mrow></mfenced></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113847&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113843&type= 18.62666702 4.74133301 表示残差映射， <math id="M36"><msub><mrow><mi>W</mi></mrow><mrow><mi>i</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113860&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113853&type= 4.57200003 3.72533321 表示第 <math id="M37"><mi>i</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114327&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114324&type= 1.10066664 2.79399991 层中要学习的参数。 在U-Net卷积神经网络中加入残差模块有助于解决深层网络难以训练的问题，提取更多的高层特征信息，缓解有效特征信息丢失的问题，使得网络更容易得到优化 ［ 24 24 ］ ，更有助于建立两点云间的对应关系。 2.4　批邻域归一化 2 当点云来自不同的传感器或不同的环境时，基于UNet的网络配准模型不能很好地处理点云间分辨率不匹配问题。为了解决点云局部密度不规则，本文引入了B-NHN ［ 23 23 ］ 归一化技术。B-NHN技术不是一个独立的操作，而是与后续的稀疏卷积操作一起执行的。 设 <math id="M38"><msubsup><mrow><mi mathvariant="bold-italic">x</mi></mrow><mrow><mi>u</mi></mrow><mrow><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi></mrow></msubsup><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><msub><mrow><mi>C</mi></mrow><mrow><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi></mrow></msub></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113888&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113884&type= 13.03866673 4.48733330 是三维空间中 <math id="M39"><msub><mrow><mi>C</mi></mrow><mrow><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113896&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113892&type= 4.23333359 3.72533321 维的特征向量，其中 <math id="M40"><mi mathvariant="bold-italic">u</mi><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mn mathvariant="normal">3</mn></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113904&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113900&type= 9.65200043 3.38666677 ；卷积核的权值为 <math id="M41"><mi mathvariant="bold-italic">W</mi><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mi>M</mi><mo>×</mo><msub><mrow><mi>C</mi></mrow><mrow><mi mathvariant="normal">o</mi><mi mathvariant="normal">u</mi><mi mathvariant="normal">t</mi></mrow></msub><mo>×</mo><msub><mrow><mi>C</mi></mrow><mrow><mi>w</mi></mrow></msub></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113911&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113908&type= 22.60600090 3.38666677 ，其中 <math id="M42"><mi>M</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113919&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113915&type= 3.89466691 2.87866688 是局部邻域的大小；则表示从中心到偏移 <math id="M43"><mi>i</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114327&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114324&type= 1.10066664 2.79399991 处的卷积核的权值。B-NHN稀疏卷积如 式（4） 式（4） 和 式（5） 式（5） 所示。 <math display="block" id="M44"><msubsup><mrow><mi mathvariant="bold-italic">x</mi></mrow><mrow><mi>u</mi></mrow><mrow><mi mathvariant="normal">o</mi><mi mathvariant="normal">u</mi><mi mathvariant="normal">t</mi><mtext> </mtext></mrow></msubsup><mo>=</mo><munder><mo movablelimits="false">∑</mo><mrow><mi>v</mi><mo>∈</mo><mi mathvariant="bold-italic">N</mi><mo stretchy="false">(</mo><mi>u</mi><mo stretchy="false">)</mo></mrow></munder><mrow><msub><mrow><mi>W</mi></mrow><mrow><mi>v</mi><mo>-</mo><mi>u</mi></mrow></msub></mrow><msubsup><mrow><mover accent="true"><mi mathvariant="bold-italic">x</mi><mo>^</mo></mover></mrow><mrow><mi>v</mi></mrow><mrow><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi></mrow></msubsup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113934&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113930&type= 31.91933441 7.02733374 ， <math display="block" id="M45"><msubsup><mrow><mover accent="true"><mi mathvariant="bold-italic">x</mi><mo>^</mo></mover></mrow><mrow><mi>v</mi></mrow><mrow><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi></mrow></msubsup><mo>=</mo><mi>γ</mi><mo>∘</mo><mfenced separators="|"><mrow><mfrac><mrow><msubsup><mrow><mi mathvariant="bold-italic">x</mi></mrow><mrow><mi>v</mi></mrow><mrow><mi>i</mi><mi>n</mi></mrow></msubsup><mo>-</mo><mfenced separators="|"><mrow><mn mathvariant="normal">1</mn><mo>-</mo><msub><mrow><mi>α</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msub></mrow></mfenced><msub><mrow><mi>μ</mi></mrow><mrow><mi>N</mi><mo stretchy="false">(</mo><mi>u</mi><mo stretchy="false">)</mo></mrow></msub><mo>-</mo><msub><mrow><mi>α</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msub><msub><mrow><mi>μ</mi></mrow><mrow><mi>B</mi></mrow></msub></mrow><mrow><msubsup><mrow><mover accent="true"><mi>σ</mi><mo>^</mo></mover></mrow><mrow><mi>N</mi><mo stretchy="false">(</mo><mi>u</mi><mo stretchy="false">)</mo></mrow><mrow><mn mathvariant="normal">1</mn><mo>-</mo><msub><mrow><mi>α</mi></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msub></mrow></msubsup><mo>⋅</mo><msubsup><mrow><mover accent="true"><mi>σ</mi><mo>^</mo></mover></mrow><mrow><mi>B</mi></mrow><mrow><msub><mrow><mi>α</mi></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msub></mrow></msubsup></mrow></mfrac></mrow></mfenced><mo>+</mo><mi>β</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113949&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113944&type= 65.19332886 10.32933331 ， 其中：矩阵运算符号 <math id="M46"><mo>∘</mo></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113957&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113955&type= 1.01600003 2.79399991 表示基本积， <math id="M47"><mi>γ</mi><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><msub><mrow><mi>C</mi></mrow><mrow><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi></mrow></msub></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113965&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113961&type= 10.92199993 3.89466691 和 <math id="M48"><mi>β</mi><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><msub><mrow><mi>C</mi></mrow><mrow><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi></mrow></msub></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113973&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113969&type= 11.17599964 3.89466691 分别代表通道的缩放尺度和偏差权重； <math id="M49"><mi mathvariant="bold-italic">N</mi><mo stretchy="false">(</mo><mi>u</mi><mo stretchy="false">)</mo></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113980&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113977&type= 8.89000034 3.55599999 表示 <math id="M50"><mi>u</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113990&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113984&type= 1.86266661 2.79399991 处的局部邻域， <math id="M51"><msub><mrow><mi>μ</mi></mrow><mrow><mi>N</mi><mo stretchy="false">(</mo><mi>u</mi><mo stretchy="false">)</mo></mrow></msub><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113996&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38113993&type= 14.47799969 4.82600021 和 <math id="M52"><msub><mrow><mi>σ</mi></mrow><mrow><mi>N</mi><mo stretchy="false">(</mo><mi>u</mi><mo stretchy="false">)</mo></mrow></msub><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114004&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114000&type= 14.05466747 4.23333359 分别表示邻域 <math id="M53"><mi mathvariant="bold-italic">N</mi><mo stretchy="false">(</mo><mi>u</mi><mo stretchy="false">)</mo></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114011&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114007&type= 8.89000034 3.55599999 在通道和空间维度上的均值和标准差。 <math id="M54"><msub><mrow><mover accent="true"><mi>σ</mi><mo>^</mo></mover></mrow><mrow><mi>N</mi><mo stretchy="false">(</mo><mi>u</mi><mo stretchy="false">)</mo></mrow></msub><mo>=</mo><mroot><mrow><msubsup><mrow><mi>σ</mi></mrow><mrow><mi>N</mi><mo stretchy="false">(</mo><mi>u</mi><mo stretchy="false">)</mo></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msubsup><mo>+</mo><mi mathvariant="normal">ϵ</mi></mrow><mrow/></mroot></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114019&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114016&type= 27.51666832 5.16466665 ， <math id="M55"><msub><mrow><mover accent="true"><mi>σ</mi><mo>^</mo></mover></mrow><mrow><mi>B</mi></mrow></msub><mo>=</mo><mroot><mrow><msubsup><mrow><mi>σ</mi></mrow><mrow><mi>B</mi></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msubsup><mo>+</mo><mi mathvariant="normal">ϵ</mi></mrow><mrow/></mroot></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114025&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114022&type= 21.08200073 4.74133301 ，其中 <math id="M56"><mi>ϵ</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114033&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114029&type= 1.69333339 2.96333337 用于防止除数为零； <math id="M57"><msub><mrow><mi>μ</mi></mrow><mrow><mi>B</mi></mrow></msub><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><msub><mrow><mi>C</mi></mrow><mrow><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi></mrow></msub></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114041&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114037&type= 12.53066730 4.82600021 和 <math id="M58"><msub><mrow><mi>σ</mi></mrow><mrow><mi>B</mi></mrow></msub><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><msub><mrow><mi>C</mi></mrow><mrow><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi></mrow></msub></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114050&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114047&type= 12.10733318 4.23333359 表示批归一化（BN）计算得到的统计量。可学习的参数 <math id="M59"><msub><mrow><mi>α</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msub><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114057&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114054&type= 10.66800022 4.23333359 和 <math id="M60"><msub><mrow><mi>α</mi></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msub><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114064&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114061&type= 10.66800022 4.23333359 用于控制批处理信息和邻域信息的均值和标准差。 B-NHN技术通过在卷积操作之前减少或去除特征均值和标准偏差的潜在变化 ［ 23 23 ］ ，提高了三维特征对点密度变化的鲁棒性。 2.5　动态图注意力机制 2 点云经常因为传感器的限制或遮挡而丢失数据，这使得两片点云之间重叠区域很小，配准难度更大。为了解决此问题，本文引入自注意力机制和交叉注意力机制，通过对源点云和目标点云的局部特征和全局特征进行聚合，丰富点云信息，加强点云间的联系 ［ 29 29 ］ 。图中包含两种类型的边；连接同一点云中的“自边” <math id="M61"><msub><mrow><mi mathvariant="bold-italic">E</mi></mrow><mrow><mi mathvariant="normal">s</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">l</mi><mi mathvariant="normal">f</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114071&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114069&type= 5.75733376 3.72533321 和连接另一个点云中的“交叉边” <math id="M62"><msub><mrow><mi mathvariant="bold-italic">E</mi></mrow><mrow><mi mathvariant="normal">c</mi><mi mathvariant="normal">r</mi><mi mathvariant="normal">o</mi><mi mathvariant="normal">s</mi><mi mathvariant="normal">s</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114079&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114075&type= 7.02733374 3.72533321 ［ 30 30 ］ 。“自边”的设计用于帮助网络根据关键点的邻近信息学习关键点的特征表示，描述了特征空间中一个点与它相邻点之间的特征关系，而“交叉边”的设计用于帮助网络与其他点集中的关键点进行信息交流，更好地帮助网络确定点云间可能的重叠区域，动态图注意力机制结构如 图1 图1 所示。 本文提出的动态图注意力模块类似于Predator ［ 27 27 ］ 中提出的重叠注意力模块，但与之不同的是，Predator采用DGCNN ［ 29 29 ］ 来设计自注意力模块。然而DGCNN会对下采样后的所有点进行计算，不仅计算量大，而且在学习描述性特征表示上效果也微乎其微。Predator采用SuperGlue ［ 31 31 ］ 设计交叉注意力模块，通过构造一个全连通图，将每个节点的特征与图中其他所有节点的特征进行聚合，使模型能够利用图的拓扑结构进行特征学习。然而Xie ［ 32 32 ］ 等人最近研究发现，不同的 <math id="M63"><mi>k</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114631&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114628&type= 1.69333339 2.79399991 近邻点的数目会对网络产生不同的影响；当 <math id="M64"><mi>k</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114631&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114628&type= 1.69333339 2.79399991 过小时，网络无法提取足够的特征信息，当 <math id="M65"><mi>k</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114631&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114628&type= 1.69333339 2.79399991 过大时，对物体的几何结构描述无法带来更大的优势，反而增大了计算量 ［ 33 33 ］ 。所以本文借鉴SuperGlue的思想提出一种动态图注意力机制，该机制按照注意权重系数 <math id="M66"><msub><mrow><mi>α</mi></mrow><mrow><mi>i</mi><mi>j</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114111&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114107&type= 3.30200005 3.72533321 为每个节点找到前 <math id="M67"><mi>k</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114631&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114628&type= 1.69333339 2.79399991 个权重最大的边，并且仅使用前 <math id="M68"><mi>k</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114631&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114628&type= 1.69333339 2.79399991 个边和相应的节点来构造图。本文没有使用固定数量的 <math id="M69"><mi>k</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114631&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114628&type= 1.69333339 2.79399991 来选择所有层中节点的边，而是使用了一种衰减策略，当层加深时，这种策略会逐渐减少图节点与边的连接。 为了加强点云特征间的匹配，本文首先将点云位置的正弦编码信息 ［ 15 15 ］ 嵌入到注意力模块中： <math display="block" id="M70"><mmultiscripts><mrow/><mprescripts/><mrow/><mrow><mo stretchy="false">(</mo><mn mathvariant="normal">0</mn><mo stretchy="false">)</mo></mrow></mmultiscripts><msub><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>=</mo><mmultiscripts><mrow><mi mathvariant="bold-italic">f</mi></mrow><mprescripts/><mrow/><mrow><mo stretchy="false">(</mo><mn mathvariant="normal">0</mn><mo stretchy="false">)</mo></mrow></mmultiscripts><msub><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>+</mo><mi>E</mi><mi mathvariant="normal">n</mi><mi mathvariant="normal">c</mi><mo stretchy="false">(</mo><msub><mrow><mi>p</mi></mrow><mrow><mi>i</mi></mrow></msub><mo stretchy="false">)</mo></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114142&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114138&type= 33.86666870 5.58799982 ， 其中， <math id="M71"><msub><mrow><mi>p</mi></mrow><mrow><mi>i</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114152&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114147&type= 3.04800010 4.57200003 表示点 <math id="M72"><mi>i</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114327&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114324&type= 1.10066664 2.79399991 的坐标。 本文使用消息传递的方式 ［ 31 31 ］ 来更新下一层的节点，以此增强特征的表达能力。动态图注意力模块首先通过线性投影对图中的特征节点计算查询向量 <math id="M73"><msub><mrow><mi mathvariant="bold-italic">q</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mi>b</mi></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114165&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114160&type= 10.32933331 4.82600021 、键向量 <math id="M74"><msub><mrow><mi mathvariant="bold-italic">k</mi></mrow><mrow><mi>j</mi></mrow></msub><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mi>b</mi></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114173&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114170&type= 10.15999985 4.31799984 和值向量 <math id="M75"><msub><mrow><mi mathvariant="bold-italic">v</mi></mrow><mrow><mi>j</mi></mrow></msub><mo>∈</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mi>b</mi></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114181&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114178&type= 10.32933331 4.23333359 ，其中 <math id="M76"><mi>b</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114243&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114237&type= 1.86266661 2.79399991 为特征的维数，用于图结构更新和注意力聚合，如 公式7 公式7 所示： <math display="block" id="M77"><mtable columnalign="left"><mtr><mtd><msub><mrow><mi mathvariant="bold-italic">q</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>=</mo><msub><mrow><mi mathvariant="bold-italic">W</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msub><mmultiscripts><mrow><mi mathvariant="bold-italic">f</mi></mrow><mprescripts/><mrow/><mrow><mo stretchy="false">(</mo><mi>l</mi><mo stretchy="false">)</mo></mrow></mmultiscripts><msup><mrow><msub><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>i</mi></mrow></msub></mrow><mrow><mi>Q</mi></mrow></msup><mo>+</mo><msub><mrow><mi>b</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msub></mtd></mtr><mtr><mtd><mfenced open="[" close="]" separators="|"><mrow><mtable columnalign="left"><mtr><mtd><msub><mrow><mi mathvariant="bold-italic">k</mi></mrow><mrow><mi>j</mi></mrow></msub></mtd></mtr><mtr><mtd><msub><mrow><mi mathvariant="bold-italic">v</mi></mrow><mrow><mi>j</mi></mrow></msub></mtd></mtr></mtable></mrow></mfenced><mo>=</mo><mfenced open="[" close="]" separators="|"><mrow><mtable columnalign="left"><mtr><mtd><msub><mrow><mi mathvariant="bold-italic">W</mi></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msub></mtd></mtr><mtr><mtd><msub><mrow><mi mathvariant="bold-italic">W</mi></mrow><mrow><mn mathvariant="normal">3</mn></mrow></msub></mtd></mtr></mtable></mrow></mfenced><mmultiscripts><mrow><mi mathvariant="bold-italic">f</mi></mrow><mprescripts/><mrow/><mrow><mo stretchy="false">(</mo><mi>l</mi><mo stretchy="false">)</mo></mrow></mmultiscripts><msubsup><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>j</mi></mrow><mrow><mi>S</mi></mrow></msubsup><mo>+</mo><mfenced open="[" close="]" separators="|"><mrow><mtable columnalign="left"><mtr><mtd><msub><mrow><mi>b</mi></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msub></mtd></mtr><mtr><mtd><msub><mrow><mi>b</mi></mrow><mrow><mn mathvariant="normal">3</mn></mrow></msub></mtd></mtr></mtable></mrow></mfenced></mtd></mtr></mtable></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114198&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114194&type= 36.40666580 16.17133331 ， 其中 <math id="M78"><mo stretchy="false">{</mo><mi>Q</mi><mo>,</mo><mi>S</mi><mo stretchy="false">}</mo><mo>∈</mo><msup><mrow><mo stretchy="false">{</mo><mi>X</mi><mo>,</mo><mi>Y</mi><mo stretchy="false">}</mo></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114207&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114202&type= 26.83933067 3.80999994 。当 <math id="M79"><mi>Q</mi><mo>=</mo><mi>S</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114216&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114212&type= 9.82133293 3.21733332 时，表示自注意力； <math id="M80"><mi>Q</mi><mo>≠</mo><mi>S</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114226&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114221&type= 9.82133293 3.30200005 时表示交叉注意力。 <math id="M81"><mi>W</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114234&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114230&type= 4.06400013 2.87866688 和 <math id="M82"><mi>b</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114243&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114237&type= 1.86266661 2.79399991 为可学习的投影参数。 <math id="M83"><mmultiscripts><mrow/><mprescripts/><mrow/><mrow><mo stretchy="false">(</mo><mi>l</mi><mo stretchy="false">)</mo></mrow></mmultiscripts><msubsup><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>i</mi></mrow><mrow><mi>Q</mi></mrow></msubsup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114252&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114249&type= 7.28133297 5.33400011 表示点云 <math id="M84"><mi>Q</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114261&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114257&type= 2.87866688 3.21733332 中位于动态图注意模块 <math id="M85"><mi>l</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114270&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114266&type= 1.26999998 2.79399991 层关键点的特征，可表示为查询节点，点云 S 中所有节点可以表示为源节点。 通过计算 <math id="M86"><msub><mrow><mi>q</mi></mrow><mrow><mi>i</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114278&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114274&type= 2.62466669 4.57200003 和各个 <math id="M87"><msub><mrow><mi>k</mi></mrow><mrow><mi>j</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114293&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114290&type= 2.37066650 3.72533321 的相似性或者相关性，得到每个 <math id="M88"><msub><mrow><mi>k</mi></mrow><mrow><mi>j</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114293&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114290&type= 2.37066650 3.72533321 对应 <math id="M89"><msub><mrow><mi>v</mi></mrow><mrow><mi>j</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114303&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114298&type= 2.53999996 3.72533321 的权重系数 <math id="M90"><msub><mrow><mi>α</mi></mrow><mrow><mi>i</mi><mi>j</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114310&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114307&type= 3.30200005 3.72533321 ，然后对 <math id="M91"><msub><mrow><mi>v</mi></mrow><mrow><mi>j</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114320&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114316&type= 2.53999996 3.72533321 进行加权求和，即得到了最终的Attention数值。消息通过加权平均值来计算，表示节点 <math id="M92"><mi>i</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114327&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114324&type= 1.10066664 2.79399991 所有相邻节点的聚合。 <math display="block" id="M93"><msub><mrow><mi>m</mi></mrow><mrow><mi mathvariant="bold-italic">E</mi><mo>→</mo><mi>i</mi></mrow></msub><mo>=</mo><munder><mo movablelimits="false">∑</mo><mrow><mi>j</mi><mo>:</mo><mo stretchy="false">(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo stretchy="false">)</mo><mo>∈</mo><mi mathvariant="bold-italic">E</mi></mrow></munder><mrow><msub><mrow><mi>α</mi></mrow><mrow><mi>i</mi><mi>j</mi></mrow></msub></mrow><msub><mrow><mi>v</mi></mrow><mrow><mi>j</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114336&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114331&type= 27.77066803 7.19666624 ， 其中：权重系数 <math id="M94"><msub><mrow><mi>α</mi></mrow><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo>=</mo><mi mathvariant="normal">s</mi><mi mathvariant="normal">o</mi><mi mathvariant="normal">f</mi><mi mathvariant="normal">t</mi><mi mathvariant="normal">m</mi><mi mathvariant="normal">a</mi><msub><mrow><mi mathvariant="normal">x</mi></mrow><mrow><mi>j</mi></mrow></msub><mfenced separators="|"><mrow><msubsup><mrow><mi>q</mi></mrow><mrow><mi>i</mi></mrow><mrow><mi mathvariant="normal">Τ</mi></mrow></msubsup><msub><mrow><mi>k</mi></mrow><mrow><mi>j</mi></mrow></msub></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114345&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114341&type= 30.39533424 4.82600021 ，表示特征 <math id="M95"><mmultiscripts><mrow/><mprescripts/><mrow/><mrow><mo stretchy="false">(</mo><mi>l</mi><mo stretchy="false">)</mo></mrow></mmultiscripts><msup><mrow><msub><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>i</mi></mrow></msub></mrow><mrow><mi>Q</mi></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114356&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114349&type= 7.61999989 5.33400011 对特征 <math id="M96"><mmultiscripts><mrow/><mprescripts/><mrow/><mrow><mo stretchy="false">(</mo><mi>l</mi><mo stretchy="false">)</mo></mrow></mmultiscripts><msubsup><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>j</mi></mrow><mrow><mi>S</mi></mrow></msubsup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114364&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114360&type= 6.94266701 5.33400011 的关注程度； <math id="M97"><mi mathvariant="bold-italic">E</mi><mo>∈</mo><mfenced open="{" close="}" separators="|"><mrow><msub><mrow><mi mathvariant="bold-italic">E</mi></mrow><mrow><mi mathvariant="normal">s</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">l</mi><mi mathvariant="normal">f</mi></mrow></msub><mo>,</mo><msub><mrow><mi mathvariant="bold-italic">E</mi></mrow><mrow><mi mathvariant="normal">c</mi><mi mathvariant="normal">r</mi><mi mathvariant="normal">o</mi><mi mathvariant="normal">s</mi><mi mathvariant="normal">s</mi></mrow></msub></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114373&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114369&type= 24.38400078 3.97933316 。 经过注意力机制聚合后的特征为； <math display="block" id="M98"><mmultiscripts><mrow/><mprescripts/><mrow/><mrow><mo stretchy="false">(</mo><mi>l</mi><mo>+</mo><mn mathvariant="normal">1</mn><mo stretchy="false">)</mo></mrow></mmultiscripts><msup><mrow><msub><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>i</mi></mrow></msub></mrow><mrow><mi>Q</mi></mrow></msup><mo>=</mo><mmultiscripts><mrow><mi mathvariant="bold-italic">f</mi></mrow><mprescripts/><mrow/><mrow><mo stretchy="false">(</mo><mi>l</mi><mo stretchy="false">)</mo></mrow></mmultiscripts><msup><mrow><msub><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>i</mi></mrow></msub></mrow><mrow><mi>Q</mi></mrow></msup><mo>+</mo><mi mathvariant="normal">M</mi><mi mathvariant="normal">L</mi><mi mathvariant="normal">P</mi><mfenced separators="|"><mrow><mi mathvariant="normal">c</mi><mi mathvariant="normal">a</mi><mi mathvariant="normal">t</mi><mfenced open="[" close="]" separators="|"><mrow><msub><mrow><mi>q</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>,</mo><msub><mrow><mi>m</mi></mrow><mrow><mi mathvariant="bold-italic">E</mi><mo>→</mo><mi>i</mi></mrow></msub></mrow></mfenced></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114381&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114377&type= 60.11333084 5.50333309 ， 其中， <math id="M99"><mi>M</mi><mi>L</mi><mi>P</mi><mo stretchy="false">(</mo><mo>⋅</mo><mo stretchy="false">)</mo></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114388&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114385&type= 11.68400002 3.55599999 表示一个三层全连接网络。 一旦对所有层进行了注意力聚合，节点的最终特征可表示为： <math display="block" id="M100"><msub><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>=</mo><mi>W</mi><mmultiscripts><mrow><mi mathvariant="bold-italic">f</mi></mrow><mprescripts/><mrow/><mrow><mo stretchy="false">(</mo><mi>L</mi><mo stretchy="false">)</mo></mrow></mmultiscripts><msub><mrow><mi mathvariant="bold-italic">f</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>+</mo><mi>b</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114399&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114395&type= 25.14599991 5.33400011 ， 其中， <math id="M101"><mi>L</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114907&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114906&type= 2.45533323 2.79399991 表示动态图注意力的层数。 之后采用Predator ［ 27 27 ］ 中提出的打分机制，通过线性投影将特征表示为重叠分数和匹配分数，为后序进行关键点选择做准备。 2.6　网络架构 2 本文的深度特征学习模型将自注意力机制和交叉注意力机制两大模块集成到ResUNet中。网络直接使用目标点云和源点云作为输入，首先经过4个残差块来对特征进行编码，然后通过多层的自注意力模块和交叉注意力模块将经过编码的特征进行局部和全局的聚合，加强点云间的联系。之后解码器通过反卷积解码出特征 <math id="M102"><mi>F</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114419&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114414&type= 2.62466669 2.79399991 、重叠分数 <math id="M103"><mi>O</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114429&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114424&type= 2.96333337 2.87866688 以及匹配分数 <math id="M104"><mi>M</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114517&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114513&type= 3.89466691 2.87866688 ，按照每个点的重叠分数和匹配分数的乘积进行关键点选择，最后结合随机抽样一致性算法来计算配准所需的刚性矩阵。网络结构图如 图2 图2 所示。 1;2; 3 实验结果及分析 1 3.1　实验环境 2 本文实验的硬件环境为Intel i7-10700K的处理器，32.00 GB内存，显卡为RT 2060；系统环境为Ubuntu18.04版本的操作系统；软件环境为开源的Open3D点云库和Minkowski Engine稀疏张量自动微分库，使用PyTorch1.7作为深度学习框架。 3.2　实验数据和评价指标 2 本文使用多个不同的3DMatch ［ 34 34 ］ 数据集和来自西北大学文化遗产数字化国家地方联合工程中心拥有的兵马俑模型进行实验。标准的3DMatch数据集总共包括62个真实的场景，本文使用其中的54个场景进行训练，使用8个场景进行测试。标准的3DMatch数据集只考虑重叠度大于30%的点云对，Huang等人 ［ 27 27 ］ 针对其中的8个测试场景计算点云之间的重叠率并构建了一个新的基准；3DLoMatch。该基准主要考虑重叠率为10%~30%之间的点云对，所以也将该基准作为测试集进行测试。此外，为了模拟点密度变化，本文对标准3DMatch数据集进行体素网格下采样并进行测试。 对于3DMatch、3DLoMatch和分辨率不匹配的3DMatch数据集，本文使用特征召回率（Feature Matching Recall， FMR） ［ 35 35 ］ 、内点率（Inlier Ratio， IR）、以及配准召回率（Registration Recall， RR） ［ 35 35 ］ 作为评价标准。 其中内点率是指在所有点的匹配中，内联点所占的比例。如果在真实变换矩阵的作用下，点云对中两个点之间的距离小于阈值 <math id="M105"><msub><mrow><mi>τ</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114798&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114795&type= 2.70933342 3.72533321 （默认10 cm），则认为这两个点为内联点，定义如 式（11） 式（11） 所示。而特征召回率是指点云对中内点率大于阈值 <math id="M106"><msub><mrow><mi>τ</mi></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114814&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114810&type= 2.70933342 3.72533321 （默认5 cm）的比例，其常用来衡量特征的质量，定义如 式（12） 式（12） 所示。 <math display="block" id="M107"><mi>I</mi><mi>R</mi><mo>=</mo><mfrac><mrow><mn mathvariant="normal">1</mn></mrow><mrow><mo stretchy="false">|</mo><mi mathvariant="normal">Ω</mi><mo stretchy="false">|</mo></mrow></mfrac><munder><mo movablelimits="false">∑</mo><mrow><mo stretchy="false">(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo stretchy="false">)</mo><mo>∈</mo><mi>Ω</mi></mrow></munder><mrow><mn mathvariant="normal">1</mn></mrow><mfenced separators="|"><mrow><mo stretchy="false">|</mo><mo stretchy="false">|</mo><mover><mrow><mi mathvariant="bold-italic">T</mi></mrow><mo>¯</mo></mover><msub><mrow><mi mathvariant="bold-italic">x</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>-</mo><msub><mrow><mi>y</mi></mrow><mrow><mi>j</mi></mrow></msub><mo stretchy="false">|</mo><mo stretchy="false">|</mo><mo><</mo><msub><mrow><mi>τ</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msub></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114499&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114496&type= 51.47733307 9.22866726 ， <math display="block" id="M108"><mi>F</mi><mi>M</mi><mi>R</mi><mo>=</mo><mfrac><mrow><mn mathvariant="normal">1</mn></mrow><mrow><mo stretchy="false">|</mo><mi>M</mi><mo stretchy="false">|</mo></mrow></mfrac><mstyle displaystyle="true"><munderover><mo largeop="true">∑</mo><mrow><mi>m</mi><mo>=</mo><mn mathvariant="normal">1</mn></mrow><mrow><mo stretchy="false">|</mo><mi>M</mi><mo stretchy="false">|</mo></mrow></munderover></mstyle><mrow><mn mathvariant="normal">1</mn></mrow><mfenced separators="|"><mrow><mi>I</mi><msub><mrow><mi>R</mi></mrow><mrow><mi>m</mi></mrow></msub><mo>></mo><msub><mrow><mi>τ</mi></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msub></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114508&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114503&type= 44.19599915 8.89000034 ， 其中： <math id="M109"><mi>M</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114517&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114513&type= 3.89466691 2.87866688 为所有点云对的集合， <math id="M110"><mi mathvariant="normal">Ω</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114527&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114521&type= 2.45533323 2.79399991 是两点云中对应点的集合， <math id="M111"><mover><mrow><mi mathvariant="bold-italic">T</mi></mrow><mo>¯</mo></mover></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114537&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114532&type= 2.62466669 3.47133350 表示两点云间真实的变换矩阵。 配准召回率是衡量配准效果最可靠的指标，因为它可以直接衡量点云端到端配准的性能。配准召回采用一组具有真实变换的重叠点云片，测量应用配准算法后能够正确恢复原始姿态的重叠点云片的数量。配准召回率定义如 式（13） 式（13） 所示： <math display="block" id="M112"><mi>R</mi><mi>R</mi><mo>=</mo><mfrac><mrow><mn mathvariant="normal">1</mn></mrow><mrow><mo stretchy="false">|</mo><mi>M</mi><mo stretchy="false">|</mo></mrow></mfrac><mstyle displaystyle="true"><munderover><mo largeop="true">∑</mo><mrow><mi>m</mi><mo>=</mo><mn mathvariant="normal">1</mn></mrow><mrow><mo stretchy="false">|</mo><mi>M</mi><mo stretchy="false">|</mo></mrow></munderover></mstyle><mrow><mn mathvariant="normal">1</mn></mrow><mfenced separators="|"><mrow><mroot><mrow><mfrac><mrow><mn mathvariant="normal">1</mn></mrow><mrow><mfenced open="|" close="|" separators="|"><mrow><msup><mrow><mi mathvariant="normal">Ω</mi></mrow><mrow><mi mathvariant="normal">*</mi></mrow></msup></mrow></mfenced></mrow></mfrac><munder><mo movablelimits="false">∑</mo><mrow><mfenced separators="|"><mrow><msup><mrow><mi>x</mi></mrow><mrow><mi mathvariant="normal">*</mi></mrow></msup><mo>,</mo><msup><mrow><mi>y</mi></mrow><mrow><mi mathvariant="normal">*</mi></mrow></msup></mrow></mfenced><mo>∈</mo><msup><mrow><mi mathvariant="normal">Ω</mi></mrow><mrow><mi mathvariant="normal">*</mi></mrow></msup></mrow></munder><mrow><msup><mrow><mfenced open="‖" close="‖" separators="|"><mrow><mi mathvariant="bold-italic">T</mi><msup><mrow><mi mathvariant="bold-italic">x</mi></mrow><mrow><mi mathvariant="normal">*</mi></mrow></msup><mo>-</mo><msup><mrow><mi mathvariant="bold-italic">y</mi></mrow><mrow><mi mathvariant="normal">*</mi></mrow></msup></mrow></mfenced></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msup></mrow></mrow><mrow/></mroot><mo><</mo><mn mathvariant="normal">0.2</mn></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114546&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114540&type= 75.35333252 12.36133385 ， 其中： <math id="M113"><msup><mrow><mi mathvariant="normal">Ω</mi></mrow><mrow><mi mathvariant="normal">*</mi></mrow></msup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114556&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114550&type= 3.55599999 2.96333337 是两点云中真实对应点的集合， <math id="M114"><mi mathvariant="bold-italic">T</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114563&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114559&type= 2.87866688 2.79399991 表示通过计算所得的变换矩阵。 对于秦俑模型，本文使用两组秦俑点云数据进行配准测试，因为FMR，RR不适用于衡量单次点云的配准结果（FMR/RR结果只能为1或0），所以本文使用相对平移误差 <math id="M115"><mi>R</mi><mi>T</mi><mi>E</mi><mo>=</mo><mfenced open="‖" close="‖" separators="|"><mrow><mover><mrow><mi mathvariant="bold-italic">t</mi></mrow><mo>¯</mo></mover><mo>-</mo><mi mathvariant="bold-italic">t</mi></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114571&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114567&type= 23.45266724 5.24933338 ［ 36 36 ］ 和相对旋转误差 <math id="M116"><mi>R</mi><mi>R</mi><mi>E</mi><mo>=</mo><mo stretchy="false">|</mo><mi mathvariant="normal">a</mi><mi mathvariant="normal">r</mi><mi mathvariant="normal">c</mi><mi mathvariant="normal">c</mi><mi mathvariant="normal">o</mi><mi mathvariant="normal">s</mi><mo stretchy="false">(</mo><mo stretchy="false">(</mo><mi>t</mi><mi>r</mi><mo stretchy="false">(</mo><msup><mrow><mi mathvariant="bold-italic">R</mi></mrow><mrow><mi>T</mi></mrow></msup><mover><mrow><mi mathvariant="bold-italic">R</mi></mrow><mo>¯</mo></mover><mo stretchy="false">)</mo><mo>-</mo><mn mathvariant="normal">1</mn><mo stretchy="false">)</mo><mo>/</mo><mn mathvariant="normal">2</mn><mo stretchy="false">)</mo><mo stretchy="false">|</mo></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114583&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114576&type= 55.62599945 4.06400013 ［ 37 37 ］ 作为评价指标，其中 <math id="M117"><mi mathvariant="bold-italic">R</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114592&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114586&type= 2.87866688 2.79399991 和 <math id="M118"><mover><mrow><mi mathvariant="bold-italic">R</mi></mrow><mo>¯</mo></mover></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114602&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114596&type= 2.70933342 3.47133350 分别表示预测的旋转变换矩阵和真实的旋转变换矩阵，符号 <math id="M119"><mfenced open="‖" close="‖" separators="|"><mrow><mo>⋅</mo></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114609&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114605&type= 4.31799984 3.97933316 表示二范数。若点云变换后具有小于 <math id="M120"><mn mathvariant="normal">10</mn><mo>°</mo></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114616&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114612&type= 4.82600021 3.04800010 的相对旋转误差和小于30 cm的相对平移误差时，则认为两点云配准成功 ［ 38 38 ］ 。 3.3　模型参数 2 由于设备显存限制，本文选取轻量级的FCGF作为模型的基础架构。本模型首先将编码器4次下采样时输出维度设置为（32，64，128，256）；将动态图注意力层数 <math id="M121"><mi>L</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114907&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114906&type= 2.45533323 2.79399991 设置为6，注意力的头数设置为4。使用衰减策略来选择K近邻的数量。对于自注意力机制；前两层采用全连通的图结构，后4层的 <math id="M122"><mi>k</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114631&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114628&type= 1.69333339 2.79399991 设定为 <math id="M123"><msubsup><mrow><mi>k</mi></mrow><mrow><mn mathvariant="normal">4,5</mn></mrow><mrow><mi mathvariant="normal">s</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">l</mi><mi mathvariant="normal">f</mi></mrow></msubsup><mo>=</mo><mn mathvariant="normal">64</mn></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114640&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114634&type= 13.37733269 3.97933316 和 <math id="M124"><msubsup><mrow><mi>k</mi></mrow><mrow><mn mathvariant="normal">6,7</mn></mrow><mrow><mi mathvariant="normal">s</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">l</mi><mi mathvariant="normal">f</mi></mrow></msubsup><mo>=</mo><mn mathvariant="normal">32</mn></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114647&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114643&type= 13.37733269 3.97933316 。对于交叉注意力机制；6层结构都设定为全连通图。最后将模型解码器4次上采样时输出的维度设置为（128，64，64，64）。 3.4　训练过程 2 该模型使用随机梯度下降法对3DMatch数据集进行70个阶段的有监督训练。由于显存限制，本文将实验的batchsize设置为1。在训练时，首先对数据进行一个随机的刚性变换，包括随机缩放［0.9，1.1］，以及绕任意轴随机旋转［0°，360°）。对于分辨率不匹配的3DMatch数据集，为了模拟实际中遇到的点云分辨率变化问题，本文使用体素网格下采样来对点云进行处理。因为3DMatch数据集为室内场景数据集，所以将随机网格的大小设置为2~7 cm，并且需要对网络模型进行重新训练。 本文使用Sun等人 ［ 39 39 ］ 提出的circle loss和Huang等人 ［ 27 27 ］ 提出的overlap loss，matchability loss作为损失函数，三者权重为1∶1∶ <math id="M125"><mi>λ</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114711&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114705&type= 1.77800000 2.79399991 ， <math id="M126"><mi>λ</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114711&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114705&type= 1.77800000 2.79399991 只有在特征召回率大于0.3时设置为1。Circle loss是点云配准中常见的triplet loss的一种变体，它可以帮助网络更好地对关键点地匹配进行监督，加快网络收敛速度。Overlap loss将重叠区域的估计转换为二元分类问题，可以帮助网络更好地预测重叠区域。 3.5　实验对比与分析 2 3 . 5 . 1　3DMatch数据集 3 本实验将本文提出的网络配准模型与FCGF ［ 17 17 ］ ，D3Feat ［ 18 18 ］ ，Predator ［ 27 27 ］ 配准模型进行比较。本实验在标准的3DMatch数据集、3DLoMatch数据集和分辨率不匹配的3DMatch数据集上进行测试。最后提取不同数量的关键点结合RANSAC算法进行测试。在标准的3DMatch数据集上测试结果如 表1 表1 所示。 Samples 5 000 2 500 1 000 500 250 6 Feature Matching Recall（%）↑ FCGF ［ 17 17 ］ 97.2 97.0 97.2 96.4 94.8 D3Feat ［ 18 18 ］ 95.8 95.6 94.6 94.3 93.3 Predator ［ 27 27 ］ 96.6 96.6 96.5 96.3 96.5 DGATNet（ours） 97.6 97.5 97.8 97.5 97.1 6 Inlier Ratio（%）↑ FCGF ［ 17 17 ］ 55.5 52.9 47.5 41.2 33.0 D3Feat ［ 18 18 ］ 40.7 40.6 42.7 44.1 45.0 Predator ［ 27 27 ］ 58.0 58.4 57.1 54.1 49.3 DGATNet（ours） 63.4 63.5 61.7 58.4 52.8 6 Registration Recall（%）↑ FCGF ［ 17 17 ］ 85.0 84.7 85.5 82.2 75.0 D3Feat ［ 18 18 ］ 82.2 84.4 84.9 82.5 79.3 Predator ［ 27 27 ］ 89.0 89.5 89.8 88.5 85.5 DGATNet（ours） 89.4 89.3 90.1 89.1 87.5 为了验证网络模型处理低重叠点云的能力，在3DLoMatch测试集测试该模型的性能，结果如 表2 表2 所示。 Samples 5 000 2 500 1000 500 250 6 Feature Matching Recall（%）↑ FCGF ［ 17 17 ］ 75.2 74.5 73.7 71.8 65.9 D3Feat ［ 18 18 ］ 67.3 66.7 67.0 66.7 66.6 Predator ［ 27 27 ］ 78.6 77.4 76.3 75.7 75.3 DGATNet（ours） 78.2 79.4 78.8 78.4 76.8 6 Inlier Ratio（%）↑ FCGF ［ 17 17 ］ 20.4 19.1 16.5 14.1 11.1 D3Feat ［ 18 18 ］ 13.2 13.1 14.0 14.6 15.0 Predator ［ 27 27 ］ 26.7 28.1 28.3 27.5 25.8 DGATNet（ours） 28.4 30.3 29.6 29.0 26.8 6 Registration Recall（%）↑ FCGF ［ 17 17 ］ 42.4 40.1 38.8 35.7 25.2 D3Feat ［ 18 18 ］ 37.2 42.7 46.9 43.8 39.1 Predator ［ 27 27 ］ 59.8 61.2 61.8 60.8 57.8 DGATNet（ours） 60.0 61.0 60.8 60.6 58.2 本文使用Open3D点云库对点云配准的过程进行可视化。对于3DLoMatch数据集，选取其中一对重叠度为12.0%的点云，配准对比结果如 图3 图3 所示（彩图见期刊电子版）。其中黄色点云为源点云，蓝色点云为目标点云。从配准结果中可以看出，即使是重叠度低的点云对，Predator和本文的配准模型仍能表现出很好的配准效果。 为了验证网络模型对点密度和重叠度变化的鲁棒性，本文在一个分辨率不匹配的3DMatch测试集上测试它的性能。为了模拟密度的变化，将目标点云下采样网格的大小设置为 <math id="M127"><mn mathvariant="normal">3.5</mn></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114744&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114740&type= 5.75733376 2.79399991 cm，源点云下采样网格的大小将从集合 <math id="M128"><mi>λ</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114711&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114705&type= 1.77800000 2.79399991 中选出，其中 <math id="M129"><mi mathvariant="bold-italic">λ</mi><mo>=</mo><mfenced open="{" close="}" separators="|"><mrow><mn mathvariant="normal">2.5,4.5,5.5,6.5</mn></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114719&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114716&type= 38.01533508 3.97933316 ，选取1 000个关键点并执行RANSAC算法，测试结果如 表3 表3 所示。 λ i /cm 2.5 4.5 5.5 6.5 5 Feature Matching Recall（%）↑ FCGF ［ 17 17 ］ 76.7 74.9 12.2 5.6 D3Feat ［ 18 18 ］ 92.4 92.6 87.9 77.9 Predator ［ 27 27 ］ 95.3 94.8 87.2 58.2 DGATNet（ours） 96.4 95.1 93.7 91.9 5 Inlier Ratio（%）↑ FCGF ［ 17 17 ］ 20.2 16.4 2.0 1.6 D3Feat ［ 18 18 ］ 42.5 34.7 23.3 18.9 Predator ［ 27 27 ］ 42.6 37.4 24.6 10.2 DGATNet（ours） 58.4 52.5 49.7 43.9 5 Registration Recall（%）↑ FCGF ［ 17 17 ］ 49.6 47.3 14.1 8.2 D3Feat ［ 18 18 ］ 77.7 79.2 76.0 60.8 Predator ［ 27 27 ］ 85.1 84.2 78.5 57.6 DGATNet（ours） 86.9 86.8 85.3 81.2 对于分辨率不匹配的3DMatch数据集，选取其中一对重叠度为48.3%的点云，分别对源点云和目标点云进行体素下采样，网络大小分别为 <math id="M130"><mn mathvariant="normal">6.5</mn></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114736&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114732&type= 5.75733376 2.79399991 cm和 <math id="M131"><mn mathvariant="normal">3.5</mn></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114744&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114740&type= 5.75733376 2.79399991 cm。采样后源点云和目标点云中点的数量分别减少至原点云的1/8和1/2，配准结果如 图4 图4 所示。 通过以上实验的结果可以看出，不论是在标准的3DMatch数据集、重叠率低的3DLoMatch数据集或分辨率不匹配的3DMatch数据集，本文提出的方法均表现出不错的配准效果。此外，本文提出的方法在标准的3DMatch数据集上也达到了90%的配准召回率，在另外两个数据集上的配准召回率相较于同类方法也提高了5%~20%。 另外，为了验证噪声对模型配准性能的影响，本实验在标准的3DMatch数据集上进行测试。本文选取1 000个关键点并设置不同的零均值高斯噪声值来观察配准召回率、特征召回率以及内点率的变化，结果如 图5 图5 所示。从图中可以看出，不同的高斯噪声对该模型性能的影响不大，即使在高噪声的情况下，也明显优于同类方法，并且能获得86%以上的配准召回率、95%以上的特征召回率以及52%以上的内点率。 1;2;3; 此外，通过改变特征匹配召回中的错误阈值（最初定义为 <math id="M132"><msub><mrow><mi>τ</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114798&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114795&type= 2.70933342 3.72533321 =10 cm， <math id="M133"><msub><mrow><mi>τ</mi></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114814&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114810&type= 2.70933342 3.72533321 =5%）来证明本文提出模型的鲁棒性。如 图6 图6 所示，可以观察到DGATNet在所有条件下都表现良好。特别是，DGATNet在更严格的内点率阈值下（例如 <math id="M134"><msub><mrow><mi>τ</mi></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114814&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114810&type= 2.70933342 3.72533321 =20%）明显优于其他方法。 3 . 5 . 2　兵马俑数据 3 为了进一步测试本文所提方法在秦俑点云模型配准的有效性，采用了两组秦俑点云数据，并添加标准差为0.005的高斯噪声进行实验。其中第一组数据是秦俑的头部点云，第二组数据是秦俑的足部点云，如 图7 图7 所示。在点密度不同和点云部分重叠的情况下，将本文的方法与RANSAC ［ 20 20 ］ ，ICP ［ 40 40 ］ ，FCGF ［ 17 17 ］ ，D3Feat ［ 18 18 ］ ，Predator ［ 27 27 ］ 、以及最新的传统配准方法Teaser++ ［38］ 进行比较，其中ICP算法初始矩阵设置为 <math id="M139"><mi>E</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114865&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114863&type= 2.70933342 2.79399991 ，算法的相对旋转误差以及平移误差等运行结果如 表4 表4 和 表5 表5 所示，配准结果如 图8 图8 所示。 Number of points Overlap ratio Methods RRE/rad RTE/m Time/s ICP ［ 40 40 ］ 1.184 0.231 0.069 FPFH ［ 11 11 ］ +RANSAC ［ 20 20 ］ 0.757 0.176 3.723 FPFH ［ 11 11 ］ +Teaser++ ［ 38 38 ］ 0.181 0.049 0.400 3 741，7 719 40.7% FCGF ［ 17 17 ］ 1.010 0.215 0.190 D3Feat ［ 18 18 ］ 0.751 0.126 9.526 Predator ［ 27 27 ］ 0.933 0.163 0.429 DGATNet 0.071 0.016 0.435 Number of points Overlap ratio Methods RRE/rad RTE/m Time/s ICP ［ 40 40 ］ 1.554 0.091 0.052 FPFH ［ 11 11 ］ +RANSAC ［ 20 20 ］ 0.579 0.111 3.774 FPFH ［ 11 11 ］ +Teaser++ ［ 38 38 ］ 0.126 0.046 0.467 3 946，8 260 30.2% FCGF ［ 17 17 ］ 0.190 0.096 0.194 D3Feat ［ 18 18 ］ 0.149 0.065 9.760 Predator ［ 27 27 ］ 0.075 0.061 0.516 DGATNet 0.060 0.011 0.531 从 表4 表4 和 表5 表5 可见，本文方法的配准效果要明显优于ICP，RANSAC等算法的配准效果，该算法大大提高了带有噪声点云的配准个数，并在点密度变化、点云部分重叠和噪声的环境下表现出较强的鲁棒性。 3 . 5 . 3　消融实验 3 为了了解动态图注意力模块不同层数的性能效果，将动态图注意力模块的层数 <math id="M140"><mi>L</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114907&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114906&type= 2.45533323 2.79399991 分别设置为1~7，采样1 000个关键点并在3DMatch和3DLoMatch数据集上进行比较，结果如 图9 图9 所示。 可以看到，网络模型的性能会随着动态图注意力网络层数的增加而增加，并在 <math id="M141"><mi>L</mi><mo>=</mo><mn mathvariant="normal">6</mn></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114939&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114936&type= 9.22866726 2.79399991 时性能达到了饱和。这表明深层的图神经网络可以更好地提取和聚合点云深层的特征。 为了了解全连通图注意力和动态图注意力模块对网络性能的影响，本文将全连通图注意力模块和每层设置不同K近邻数量的动态图注意力模块进行对比，层数L均设置为6，结果如 表6 表6 所示。 2 Methods 3 3DMatch FMR（%）↑ IR（%）↑ RR（%）↑ DGATNet v1 96.9 57.4 87.3 DGATNet v2 97.2 60.0 87.5 DGATNet v3 97.6 61.2 88.3 DGATNet（ours） 97.8 61.7 90.1 2 Methods 3 3DLoMatch FMR（%）↑ IR（%）↑ RR（%）↑ DGATNet v1 75.7 26.7 55.6 DGATNet v2 76.0 26.6 56.1 DGATNet v3 76.9 27.4 58.9 DGATNet（ours） 78.8 29.6 60.8 4 DGATNet v1： <math id="M142"><msup><mrow><mi>k</mi></mrow><mrow><mi mathvariant="normal">s</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">l</mi><mi mathvariant="normal">f</mi></mrow></msup><mo>,</mo><msup><mrow><mi>k</mi></mrow><mrow><mi mathvariant="normal">c</mi><mi mathvariant="normal">r</mi><mi mathvariant="normal">o</mi><mi mathvariant="normal">s</mi><mi mathvariant="normal">s</mi></mrow></msup><mi>f</mi><mi>u</mi><mi>l</mi><mi>l</mi><mi>y</mi><mtext> </mtext><mi>c</mi><mi>o</mi><mi>n</mi><mi>n</mi><mi>e</mi><mi>c</mi><mi>t</mi><mi>e</mi><mi>d</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114946&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114942&type= 31.15733528 3.38666677 4 DGATNet v2： <math id="M143"><msubsup><mrow><mi>k</mi></mrow><mrow><mn>3,4</mn></mrow><mrow><mi mathvariant="normal">s</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">l</mi><mi mathvariant="normal">f</mi></mrow></msubsup><mo>=</mo><msubsup><mrow><mi>k</mi></mrow><mrow><mn>3,4</mn></mrow><mrow><mi mathvariant="normal">c</mi><mi mathvariant="normal">r</mi><mi mathvariant="normal">o</mi><mi mathvariant="normal">s</mi><mi mathvariant="normal">s</mi></mrow></msubsup><mo>=</mo><mn>128</mn><mo>,</mo><msubsup><mrow><mi>k</mi></mrow><mrow><mn>5,6</mn></mrow><mrow><mi mathvariant="normal">s</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">l</mi><mi mathvariant="normal">f</mi></mrow></msubsup><mo>=</mo><msubsup><mrow><mi>k</mi></mrow><mrow><mn>5,6</mn></mrow><mrow><mi mathvariant="normal">c</mi><mi mathvariant="normal">r</mi><mi mathvariant="normal">o</mi><mi mathvariant="normal">s</mi><mi mathvariant="normal">s</mi></mrow></msubsup><mo>=</mo><mn>128</mn></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114952&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114949&type= 46.90533447 3.80999994 4 DGATNet v3： <math id="M144"><msubsup><mrow><mi>k</mi></mrow><mrow><mn>3,4</mn></mrow><mrow><mi mathvariant="normal">s</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">l</mi><mi mathvariant="normal">f</mi></mrow></msubsup><mo>=</mo><mn>128</mn><mo>,</mo><msubsup><mrow><mi>k</mi></mrow><mrow><mn>5,6</mn></mrow><mrow><mi mathvariant="normal">s</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">l</mi><mi mathvariant="normal">f</mi></mrow></msubsup><mo>=</mo><mn>128</mn><mo>,</mo><msup><mrow><mi>k</mi></mrow><mrow><mi mathvariant="normal">c</mi><mi mathvariant="normal">r</mi><mi mathvariant="normal">o</mi><mi mathvariant="normal">s</mi><mi mathvariant="normal">s</mi></mrow></msup><mi>f</mi><mi>u</mi><mi>l</mi><mi>l</mi><mi>y</mi><mtext> </mtext><mi>c</mi><mi>o</mi><mi>n</mi><mi>n</mi><mi>e</mi><mi>c</mi><mi>t</mi><mi>e</mi><mi>d</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114958&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114955&type= 54.86399841 4.14866638 4 DGATNet（ours）： <math id="M145"><msubsup><mrow><mi>k</mi></mrow><mrow><mn>3,4</mn></mrow><mrow><mi mathvariant="normal">s</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">l</mi><mi mathvariant="normal">f</mi></mrow></msubsup><mo>=</mo><mn>64</mn><mo>,</mo><msubsup><mrow><mi>k</mi></mrow><mrow><mn>5,6</mn></mrow><mrow><mi mathvariant="normal">s</mi><mi mathvariant="normal">e</mi><mi mathvariant="normal">l</mi><mi mathvariant="normal">f</mi></mrow></msubsup><mo>=</mo><mn>32</mn><mo>,</mo><msup><mrow><mi>k</mi></mrow><mrow><mi mathvariant="normal">c</mi><mi mathvariant="normal">r</mi><mi mathvariant="normal">o</mi><mi mathvariant="normal">s</mi><mi mathvariant="normal">s</mi></mrow></msup><mi>f</mi><mi>u</mi><mi>l</mi><mi>l</mi><mi>y</mi><mtext> </mtext><mi>c</mi><mi>o</mi><mi>n</mi><mi>n</mi><mi>e</mi><mi>c</mi><mi>t</mi><mi>e</mi><mi>d</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114965&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=38114961&type= 50.79999924 4.14866638 为了评估BNHN归一化技术对模型鲁棒性的影响，本文在分辨率不匹配的3DMatch进行测试，源点云和目标点云下采样网格大小分别设置为6.5 cm和3.5 cm，结果如 表7 表7 所示。可以看出，BNHN归一化技术和动态图注意力模块均能提高模型对点密度的鲁棒，并且同时使用两模块仍能进一步提高网络性能。 2 Methods 3 3DMatch（resolution-mismatch） FMR（%）↑ IR（%）↑ RR（%）↑ Baseline 8.2 1.6 5.6 Baseline+BNHN 85.2 30.5 75.2 Baseline+Attention 87.4 38.4 76.6 DGATNet 91.9 43.9 81.2 最后，为了更好地了解各个模块对模型配准效果的影响，本文在3DMatch数据集上采样1 000个点进行测试，结果如 表8 表8 所示。 2 Methods 3 3DMatch FMR（%）↑ IR（%）↑ RR（%）↑ Baseline 97.2 47.5 85.5 Baseline+BNHN 96.3 46.7 85.3 Baseline+Attention 97.5 60.0 88.3 Baseline+Attention+Position embedding 97.5 61.2 88.7 Baseline+Attention+Sin position embedding 97.8 61.7 90.1 可以看出，BNHN归一化技术虽然能提升模型对点密度的鲁棒，但在标准的3DMatch数据集上，作用不大；嵌入的动态图注意力模块能大大提升网络性能；并且可以看出点云正弦位置编码模块相对于可学习多层MLP的点云位置嵌入模块更能提升配准效果。 4 结 论 1 针对目前的点云配准算法不能有效地处理点云密度不匹配，点云间重叠度低等问题，本文提出一种基于动态图注意力机制的ResUNet网络模型DGATNet。该网络使用BNHN标准化方法来提高三维特征对点密度变化的鲁棒性，利用多层自注意力机制和交叉注意力机制聚合点云局部和上下文特征，最后结合RANSAC算法完成点云的鲁棒配准。实验表明，本文提出的方法与传统配准方法和基于特征学习的配准方法相比，能有效处理点云配准中点密度不匹配、部分重叠、包含大量噪声点等问题。在3DMatch和3DLoMatch数据集上，配准召回率分别达到了90.1%和61.0%；在分辨率不匹配的3DMatch数据集上，配准召回率也提升了5%~20%，在秦俑数据集中，相较于Teaser++算法，相对平移误差平均降低了71.6%，相对旋转误差平均降低了56.5%。在未来的工作中，针对文物等模型的复杂性，还要考虑点云配准中更多的因素影响，如过多的异常、尺度因素等，进一步提高点云配准的鲁棒性。 参考文献 王宾 ， 刘林 ， 侯榆青 ， 等 . 应用改进迭代最近点方法的三维心脏点云配准 ［J］. 光学 精密工程 ， 2020 ， 28 （ 2 ）： 474 - 484 . doi: 10.3788/OPE.20202802.0474 http://dx.doi.org/10.3788/OPE.20202802.0474 应用改进迭代最近点方法的三维心脏点云配准 WANG B ， LIU L ， HOU Y Q ， et al . Three-dimensional cardiac point cloud registration by improved iterative closest point method ［J］. Opt. Precision Eng. ， 2020 ， 28 （ 2 ）： 474 - 484 . （in Chinese） . doi: 10.3788/OPE.20202802.0474 http://dx.doi.org/10.3788/OPE.20202802.0474 Three-dimensional cardiac point cloud registration by improved iterative closest point method 李晓燕 . 低重叠率三维点云配准技术研究 ［D］. 太原 ： 中北大学 ， 2021 . 低重叠率三维点云配准技术研究 LI X Y . Reaserch on 3 D Point Cloud Registration Technology with Low Overlap ［D］. Taiyuan ： North University of China. School of Data Science and Technology ， 2021 . （in Chinese） Reaserch on 3D Point Cloud Registration Technology with Low Overlap HUANG X S ， MEI G F ， ZHANG J ， et al . A comprehensive survey on point cloud registration ［OL］. ［ 2021-03-03 ］. https：//arxiv.org/abs/2013.02690 https://arxiv.org/abs/2013.02690 A comprehensive survey on point cloud registration 张顺利 ， 徐艳芝 ， 周明全 ， 等 . 基于自适应邻域匹配的点云配准方法 ［J］. 计算机学报 ， 2019 ， 42 （ 9 ）： 2114 - 2126 . doi: 10.11897/SP.J.1016.2019.02114 http://dx.doi.org/10.11897/SP.J.1016.2019.02114 基于自适应邻域匹配的点云配准方法 ZHANG SH L ， XU Y Z ， ZHOU M Q ， et al . Registration of point clouds based on matching of general adaptive neighborhood ［J］. Chinese Journal of Computers ， 2019 ， 42 （ 9 ）： 2114 - 2126 . （in Chinese） . doi: 10.11897/SP.J.1016.2019.02114 http://dx.doi.org/10.11897/SP.J.1016.2019.02114 Registration of point clouds based on matching of general adaptive neighborhood 吴庆华 ， 蔡琼捷思 ， 黎志昂 ， 等 . 扩展高斯图像聚类的缺失点云配准 ［J］. 光学 精密工程 ， 2021 ， 29 （ 5 ）： 1199 - 1206 . doi: 10.37188/OPE.20212905.1199 http://dx.doi.org/10.37188/OPE.20212905.1199 扩展高斯图像聚类的缺失点云配准 WU Q H ， CAI Q J S ， LI ZH A ， et al . Registration of losing point cloud based on clustering extended Gaussian image ［J］. Opt. Precision Eng. ， 2021 ， 29 （ 5 ）： 1199 - 1206 . （in Chinese） . doi: 10.37188/OPE.20212905.1199 http://dx.doi.org/10.37188/OPE.20212905.1199 Registration of losing point cloud based on clustering extended Gaussian image 刘跃生 ， 陈新度 ， 吴磊 ， 等 . 混合稀疏迭代最近点配准 ［J］. 光学 精密工程 ， 2021 ， 29 （ 9 ）： 2255 - 2267 . doi: 10.37188/OPE.20212909.2255 http://dx.doi.org/10.37188/OPE.20212909.2255 混合稀疏迭代最近点配准 LIU Y SH ， CHEN X D ， WU L ， et al . Sparse mixture iterative closest point registration ［J］. Opt. Precision Eng. ， 2021 ， 29 （ 9 ）： 2255 - 2267 . （in Chinese） . doi: 10.37188/OPE.20212909.2255 http://dx.doi.org/10.37188/OPE.20212909.2255 Sparse mixture iterative closest point registration TOMBARI F ， SALTI S ， STEFANO L . Unique signatures of histograms for local surface description ［C］. Computer Vision-ECCV 2010 ， 2010 ： 356 - 369 . Unique signatures of histograms for local surface description TOMBARI F ， SALTI S ， STEFANO L D . Unique shape context for 3d data description ［C］. 3DOR '10 ： Proceedings of the ACM workshop on 3D object retrieval . 2010 ： 57 - 62 . doi: 10.1145/1877808.1877821 http://dx.doi.org/10.1145/1877808.1877821 Unique shape context for 3d data description GUO Y L ， SOHEL F ， BENNAMOUN M ， et al . Rotational projection statistics for 3D local surface description and object recognition ［J］. International Journal of Computer Vision ， 2013 ， 105 （ 1 ）： 63 - 86 . Rotational projection statistics for 3D local surface description and object recognition BIRDAL T ， ILIC S . Point pair features based object detection and pose estimation revisited ［C］. 2015 International Conference on 3D Vision . Lyon， France . IEEE ， 2015 ： 527 - 535 . Point pair features based object detection and pose estimation revisited RUSU R B ， BLODOW N ， BEETZ M . Fast point feature histograms （FPFH） for 3D registration ［C］. 2009 IEEE International Conference on Robotics and Automation . Kobe， Japan . IEEE ， 2009 ： 3212 - 3217 . Fast point feature histograms （FPFH） for 3D registration CHEN H ， BHANU B . 3D free-form object recognition in range images using local surface patches ［J］. Pattern Recognition Letters ， 2007 ， 28 （ 10 ）： 1252 - 1262 . 3D free-form object recognition in range images using local surface patches YEW Z J ， LEE G H . RPM-net： robust point matching using learned features ［C］. 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）. Seattle ， WA ， USA . IEEE ， 2020 ： 11821 - 11830 . RPM-net： robust point matching using learned features WANG Y ， SOLOMON J M . Prnet： Self-supervised learning for partial-to-partial registration ［OL］. ［ 2019-10-27 ］. https：//arxiv.org/abs/1910.12240 https://arxiv.org/abs/1910.12240 . Prnet： Self-supervised learning for partial-to-partial registration VASWANI A ， SHAZEER N ， PARMAR N ， et al .. Attention is all you need ［C］ Proceedings of the 31st Annual Conference on Neural Information Processing Systems ， 2017 ： 5998 - 6008 . Attention is all you need GOJCIC Z ， ZHOU C F ， WEGNER J D ， et al . The perfect match： 3D point cloud matching with smoothed densities ［C］. 2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）. Long Beach ， CA， USA . IEEE ， 2019 ： 5540 - 5549 . The perfect match： 3D point cloud matching with smoothed densities CHOY C ， PARK J ， KOLTUN V . Fully convolutional geometric features ［C］. 2019 IEEE/CVF International Conference on Computer Vision （ICCV）. Seoul ， Korea （South） . IEEE ， 2019 ： 8957 - 8965 . Fully convolutional geometric features BAI X Y ， LUO Z X ， ZHOU L ， et al . D3Feat： joint learning of dense detection and description of 3D local features ［C］. 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）. Seattle ， WA ， USA . IEEE ， 2020 ： 6358 - 6366 . D3Feat： joint learning of dense detection and description of 3D local features YU H ， LI F ， SALEH M ， et al . CoFiNet： reliable coarse-to-fine correspondences for robust point cloud registration ［EB/OL］. 2021 ： arXiv ： 2110.14076［cs.CV］. https：//arxiv.org/abs/2110.14076 https://arxiv.org/abs/2110.14076 CoFiNet： reliable coarse-to-fine correspondences for robust point cloud registration FISCHLER M ， BOLLES R . Random sample consensus： a paradigm for model fitting with applications to image analysis and automated cartography ［J］. Commun ACM ， 1981 ， 24 ： 381 - 395 . Random sample consensus： a paradigm for model fitting with applications to image analysis and automated cartography SARODE V ， DHAGAT A ， SRIVATSAN R A ， et al . MaskNet： a fully-convolutional network to estimate inlier points ［C］. 2020 International Conference on 3D Vision （3DV）. Fukuoka ， Japan . IEEE ， 2020 ： 1029 - 1038 . MaskNet： a fully-convolutional network to estimate inlier points XU H ， LIU S C ， WANG G F ， et al . OMNet： learning overlapping mask for partial-to-partial point cloud registration ［C］. 2021 IEEE/CVF International Conference on Computer Vision （ICCV）. Montreal ， QC， Canada . IEEE ， 2021 ： 3112 - 3121 . OMNet： learning overlapping mask for partial-to-partial point cloud registration LIU X T ， KILLEEN B D ， SINHA A ， et al . Neighborhood normalization for robust geometric feature learning ［C］. 2021 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）. Nashville ， TN ， USA . IEEE ， 2021 ： 13044 - 13053 . Neighborhood normalization for robust geometric feature learning HE K M ， ZHANG X Y ， REN S Q ， et al . Deep residual learning for image recognition ［C］. 2016 IEEE Conference on Computer Vision and Pattern Recognition . Las Vegas， NV， USA . IEEE ， 2016 ： 770 - 778 . doi: 10.1109/cvpr.2016.90 http://dx.doi.org/10.1109/cvpr.2016.90 Deep residual learning for image recognition RONNEBERGER O ， FISCHER P ， BROX T . U-net： convolutional networks for biomedical image segmentation ［C］. Medical Image Computing and Computer-Assisted Intervention-MICCAI 2015 ， 2015 ： 234 - 24 . doi: 10.1007/978-3-319-24574-4_28 http://dx.doi.org/10.1007/978-3-319-24574-4_28 U-net： convolutional networks for biomedical image segmentation CHOY C ， DONG W ， KOLTUN V . Deep global registration ［C］. 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）. Seattle ， WA ， USA . IEEE ， 2020 ： 2511 - 2520 . Deep global registration HUANG S Y ， GOJCIC Z ， USVYATSOV M ， et al . PREDATOR： registration of 3D point clouds with low overlap ［C］. 2021 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）. Nashville ， TN ， USA . IEEE ， 2021 ： 4265 - 4274 . PREDATOR： registration of 3D point clouds with low overlap SZEGEDY C ， LIU W ， JIA Y Q ， et al . Going deeper with convolutions ［C］. 2015 IEEE Conference on Computer Vision and Pattern Recognition . Boston， MA . IEEE ， 2015 ： 1 - 9 . doi: 10.1109/cvpr.2015.7298594 http://dx.doi.org/10.1109/cvpr.2015.7298594 Going deeper with convolutions WANG Y ， SUN Y B ， LIU Z W ， et al . Dynamic graph CNN for learning on point clouds ［J］. ACM Transactions on Graphics ， 2019 ， 38 （ 5 ）： 1 - 12 . doi: 10.1145/3326362 http://dx.doi.org/10.1145/3326362 Dynamic graph CNN for learning on point clouds SHI C H ， CHEN X ， HUANG K H ， et al . Keypoint matching for point cloud registration using multiplex dynamic graph attention networks ［J］. IEEE Robotics and Automation Letters ， 2021 ， 6 （ 4 ）： 8221 - 8228 . Keypoint matching for point cloud registration using multiplex dynamic graph attention networks SARLIN P E ， DETONE D ， MALISIEWICZ T ， et al . SuperGlue： learning feature matching with graph neural networks ［C］. 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）. Seattle ， WA ， USA . IEEE ， 2020 ： 4937 - 4946 . SuperGlue： learning feature matching with graph neural networks XIE Y Q ， LI S ， YANG C ， et al . When do GNNs work： understanding and improving neighborhood aggregation ［C］. Proceedings of the Twenty-Ninth International Joint Conference on Artificial Intelligence. July 11 - 17 ， 2020 . Yokohama， Japan. California ： International Joint Conferences on Artificial Intelligence Organization ， 2020 . When do GNNs work： understanding and improving neighborhood aggregation 杨军 ， 李博赞 . 基于自注意力特征融合组卷积神经网络的三维点云语义分割 ［J］. 光学 精密工程 ， 2022 ， 30 （ 7 ）： 840 - 853 . doi: 10.37188/OPE.20223007.0840 http://dx.doi.org/10.37188/OPE.20223007.0840 基于自注意力特征融合组卷积神经网络的三维点云语义分割 YANG J ， LI B Z . Semantic segmentation of 3D point cloud based on self-attention feature fusion group convolutional neural network ［J］. Opt. Precision Eng. ， 2022 ， 30 （ 7 ）： 840 - 853 . （in Chinese） . doi: 10.37188/OPE.20223007.0840 http://dx.doi.org/10.37188/OPE.20223007.0840 Semantic segmentation of 3D point cloud based on self-attention feature fusion group convolutional neural network ZENG A ， SONG S R ， NIEßNER M ， et al . 3DMatch： learning local geometric descriptors from RGB-D reconstructions ［C］. 2017 IEEE Conference on Computer Vision and Pattern Recognition . Honolulu， HI， USA . IEEE ， 2017 ： 199 - 208 . 3DMatch： learning local geometric descriptors from RGB-D reconstructions DENG H W ， BIRDAL T ， ILIC S . PPFNet： global context aware local features for robust 3D point matching ［C］. 2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition . Salt Lake City， UT， USA . IEEE ， 2018 ： 195 - 205 . PPFNet： global context aware local features for robust 3D point matching ELBAZ G ， AVRAHAM T ， FISCHER A . 3D point cloud registration for localization using a deep neural network auto-encoder ［C］. 2017 IEEE Conference on Computer Vision and Pattern Recognition . Honolulu， HI， USA . IEEE ， 2017 ： 2472 - 2481 . 3D point cloud registration for localization using a deep neural network auto-encoder MA Y X ， GUO Y L ， ZHAO J ， et al . Fast and accurate registration of structured point clouds with small overlaps ［C］. 2016 IEEE Conference on Computer Vision and Pattern Recognition Workshops . Las Vegas， NV， USA . IEEE ， 2016 ： 643 - 651 . Fast and accurate registration of structured point clouds with small overlaps YANG H ， SHI J N ， CARLONE L . TEASER： fast and certifiable point cloud registration ［J］. IEEE Transactions on Robotics ， 2021 ， 37 （ 2 ）： 314 - 333 . TEASER： fast and certifiable point cloud registration SUN Y F ， CHENG C M ， ZHANG Y H ， et al . Circle loss： a unified perspective of pair similarity optimization ［C］. 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）. Seattle ， WA ， USA . IEEE ， 2020 ： 6397 - 6406 . Circle loss： a unified perspective of pair similarity optimization BESL P J ， MCKAY N D . A method for registration of 3-D shapes ［J］. IEEE Transactions on Pattern Analysis and Machine Intelligence ， 1992 ， 14 （ 2 ）： 239 - 256 . doi: 10.1109/34.121791 http://dx.doi.org/10.1109/34.121791 A method for registration of 3-D shapes 10.37188/OPE.20223024.3210 TP394.1 TH691.9 A 1004-924X（2022）24-3210-15 海琳琦,耿国华,杨兴等.基于动态图注意力机制的秦俑点云鲁棒配准[J].光学精密工程,2022,30(24):3210-3224. 海琳琦,耿国华,杨兴等.基于动态图注意力机制的秦俑点云鲁棒配准[J].光学精密工程,2022,30(24):3210-3224. HAI Linqi,GENG Guohua,YANG Xing,et al.Robust point cloud registration of terra-cotta warriors based on dynamic graph attention mechanism[J].Optics and Precision Engineering,2022,30(24):3210-3224. HAI Linqi,GENG Guohua,YANG Xing,et al.Robust point cloud registration of terra-cotta warriors based on dynamic graph attention mechanism[J].Optics and Precision Engineering,2022,30(24):3210-3224. 国家自然科学基金资助项目（No.61902317， No.61731015）； 国家重点研发计划资助项目（No.2019YFC1521102， No.2019YFC1521103）； 陕西省重点产业链项目资助（No.2019ZDLSF07-02）； 陕西省自然科学基金资助项目（No.2019JQ-166）； 青海省重点研发计划资助项目（No.2020-SF-142， No.2020-SF-143） 2022-05-12 2022-08-15 2022-12-25 2022-12-27 光学精密工程 24 30