CVPR 2020|开源实时“人手-物体”姿态估计算法HOPE-Net
向大家安利一篇CVPR 2020的论文 HOPE-Net: A Graph-based Model for Hand-Object Pose Estimation,基于自适应图卷积技术,作者提出了一种称之为HOPE-Net的“人手-物体”姿势估计模型,在这个问题上不仅计算结果精度更高、速度也更快,GPU上达到实时!而且代码已开源。
以下是作者信息:
作者来自美国印第安纳大学和华盛顿大学。
何为“人手-物体”姿势估计?
如下图所示:
在手拿物体这个动作时,对人手和物体分别进行3D检测,输出物体的2D和3D顶点和手部的关节点。对于理解场景中的人-物交互可以带来很多信息。
提出算法
下图为作者提出算法的流程图:
作者的核心思想是使用轻量级CNN网络 + 两步图卷积级联网络。
如上所示,图片经过ResNet10网络进行特征编码,并预测初始2D坐标点(人手关节点和物体8个顶点),然后将得到的2D坐标点和图像特征进行图卷积,得到提精的2D坐标点,然后再将得到结果输入作者提出的自适应图U-Net网络(Adaptive Graph U-Net),得到最终的人手和物体的3D坐标。
自适应图U-Net架构如下:
损失函数分三部分:
实验结果
作者在First-Person Hand Action 和 HO-3D 数据集上进行了实验,并与之前的方法进行了比较。
下图分别代表与其他方法在2D 关键点和3D关键点上的结果比较:
可见,该文方法在精度上取得了一致的提高。
部分检测结果可视化:
该方法计算速度很快,在Nvidia titan Xp GPU上运行,整个推断过程仅需要0.005s。
值得一提的是,该文使用的两步自适应图卷积的方法不仅适用于“人手-物体”姿态估计,在其他需要将2D坐标点3D化的场合都可以使用。
论文地址:
https://arxiv.org/abs/2004.00060
代码地址:
https://github.com/bardiadoosti/HOPE/
喜欢这样的论文分享吗?欢迎文末点在看鼓励我^_^
END
备注:姿态
姿态估计交流群
人体姿态估计、手势识别等更多新鲜资讯,若已为CV君其他账号好友请直接私信。
欢迎点在看,鼓励更多分享