实时捕获交互式手部姿势并获得逼真的结果是计算中特别是以人为中心的计算和动作捕捉技术中经过深思熟虑的问题。人类的手是复杂的 - 一个复杂的屈肌,伸肌和感觉能力系统,作为我们操纵物理对象和相互交流的主要手段。对于诸如游戏,增强和虚拟现实领域,机器人和生物医学行业的许多应用而言,精确的手部动作捕获是相关且重要的。
来自苏黎世联邦理工学院和纽约大学的全球计算机科学家团队通过开发用户友好的拉伸感应数据手套进一步推进了这一研究领域,以更精确地捕捉实时,交互式手部姿势。
研究团队,包括苏黎世联邦理工学院的Oliver Glauser,Shihao Wu,Otmar Hilliges和Olga Sorkine-Hornung以及纽约大学的Daniele Panozzo,将于7月28日至8月1日在洛杉矶举行的SIGGRAPH 2019展会上展示他们的创新手套。这个年度聚会展示了世界领先的专业人士,学者和创意人才,他们处于计算机图形学和互动技术的最前沿。
研究人员表示,他们的拉伸感应手套的主要优点是,它们不需要基于摄像头的设置 - 或任何其他外部设备 - 并且只需极少的校准就可以实时跟踪手部姿势。
“据我们所知,我们的手套是第一款完全基于拉伸传感器的手动捕获数据手套,”该工作的第一作者,苏黎世联邦理工学院博士生Glauser说。“即使在拥有44个嵌入式传感器的情况下,手套也很柔软,很薄,使得它们非常舒适且不易磨损。它们可以用制造实验室常用的工具以低成本制造。”
Glauser和合作者开始着手克服精确手部姿势复制中的一些持续挑战。在这项工作中,他们解决了各种障碍,例如在各种环境和环境中实时捕捉手部动作,以及仅使用用户友好的设备和易于学习的设置方法。他们证明,即使在用户拿着物理物体时,以及在低照度等条件下,他们的弹力感应软手套也能成功地实时精确计算手部姿势。
研究人员使用了一种配有44个拉伸传感器的手形硅胶化合物,并将其连接到由柔软薄织物制成的手套上。为了从传感器读数重建手部姿势,研究人员使用数据驱动模型,利用传感器本身的布局。模型只训练一次;为了收集训练数据,研究人员使用了一种廉价的,现成的手姿势重建系统。
在研究中,他们将传感器手套的准确性与两种最先进的商用手套产品进行了比较。除了单手姿势之外,研究人员的新型弹力感应手套在每个交互式姿势中都获得了最低的误差回报。
在未来的工作中,该团队打算探索如何使用类似的传感器方法来跟踪整个手臂以获得手套的全球位置和方向,或者甚至是全身套装。目前,研究人员制造了中型手套,他们希望扩展到其他尺寸和形状。
“这是一个已经得到充分研究的问题,但我们发现了根据我们设计中使用的传感器和我们的数据驱动模型来解决这个问题的新方法,”Glauser指出。“这项工作令人兴奋的是解决这个问题的多学科性质。它需要各个领域的专业知识,包括材料科学,制造,电气工程,计算机图形学和机器学习。”