人体姿态估计是什么?从图像中定位人的各个关节
人体姿态估计(Human Pose Estimation,HPE)是计算机视觉中的一项任务,它要在人的图像或视频中,检测和估计各个身体部位的位置。通过它,可以了解人的姿势、动作和行为,实现人机交互、视频监控、运动分析等应用。
它做什么
人体姿态估计的核心,是找出人体的一组关键点,通常包括头部、颈部、双肩、双肘、双腕、双髋、双膝、双踝等主要关节的位置,然后按照人体的结构把这些点连接起来,形成一个骨架,就像一个“火柴人”。有了这个骨架,计算机就能知道这个人是站着还是坐着、在举手还是在跑步、身体朝向哪个方向。更精细的姿态估计还会检测手指的关节、面部的特征点,以及脚部的细节。
二维和三维
二维姿态估计:在图像平面上定位关键点的像素坐标。三维姿态估计:进一步推断出关键点在三维空间中的位置,包括深度信息,能更准确地还原人的真实动作,但难度更大,因为从单张二维图像推断三维信息本身存在歧义。此外,还可以估计出完整的三维人体网格模型,不只是骨架,而是包括身体的形状。
单人和多人
处理画面中有多个人的情况,主要有两种思路。自顶向下:先用目标检测找出画面中的每一个人,再对每个人分别估计姿态。准确率通常较高,但人越多速度越慢。自底向上:先检测出画面中所有的关键点,不管它们属于谁,再把这些关键点组合分配给不同的人。速度受人数影响较小。卡内基梅隆大学的 OpenPose 是自底向上方法的代表,曾被广泛使用。
难点
遮挡,身体的部分被其他物体或其他人挡住;姿势千变万化,包括各种不常见的、复杂的动作;衣服宽松遮住了身体的轮廓;多人拥挤、相互重叠;光照条件差、图像模糊;以及从二维推断三维时的深度歧义。
应用
健身和运动:健身应用通过摄像头识别用户的动作,判断动作是否标准并实时纠正;体育训练中分析运动员的技术动作。动作捕捉和动画:用普通的摄像头就能捕捉人的动作,驱动虚拟角色,降低了动画制作和虚拟主播的成本。人机交互:体感游戏、手势控制。医疗康复:评估病人的康复训练动作和步态。安防:识别跌倒、打架等异常行为,用于老人看护和公共安全。AI 图像和视频生成:用骨架图来控制生成人物的姿势和动作。在这些应用中,需要注意保护被拍摄者的隐私。