首页 >资管 > > 正文

Meta这套生成式AI,专为全身Avatar而来 播资讯

青亭网 2023-03-27 19:21:06

一提起Meta Avatar虚拟化身,常常有人吐槽它只有半截身子,看起来不自然。的确,尽管Quest整体VR体验优秀,但出于对硬件设计、成本的考虑,技术上依然有限制,比如不能准确追踪下半身,而这种限制也影响了早期的一些VR社交应用,比如《Rec Room》。


(资料图片仅供参考)

Quest不能追踪下半身,是因为头显不具备相应的传感器,而Meta也没有推出官方的体感追踪套件(比如PC VR头显可使用Vive Tracker)。Meta的策略,是尽可能简化VR的使用流程,如果为头显配备定位模块,无疑让设置过程更复杂,且硬件成本更高。为了满足用户对全身Avatar的需求,Meta不久前为Avatar加入了模拟的腿部运动,并通过Body Tracking API开放给开发者。

据了解,Meta Avatar将通过头、手三点的定位信息来推算下半身动作,这显然并不精准。拿《VRChat》来讲,虽然该应用中的虚拟化身有下半身,但并不能跟随用户下半身运动而变化,,意味着Avatar不能模拟自然下蹲、躺下等动作,如果用户在开启VR应用时摘下头显放在桌上或地上,VR内的Avatar可能会呈现奇怪的姿势,具有一定恐怖谷效应。

为了完善Avatar下半身模拟的效果,Meta研发了一种基于MLP架构的条件扩散模型:AGRoL,该模型宣称可根据稀疏的信号生成全身姿态,由于其运行速度足够快,因此也适合VR社交等在线多人应用。

关于AGRoL

Meta指出,随着AR/VR用户群增长,越来越多的人渴望能自然、精准控制的全身Avatar。然而,VR一体机在下半身追踪上具有一定局限,因为它只通过头显、手柄来定位,只能捕捉到少量、稀疏IMU的信号,而且通常仅用于定位和重建上半身部位,比如头部和手腕。想要定位下半身,通常需要额外的IMU模块,缺点是成本高、使用不方便。

简单来讲,Quest系统不能通过头显捕捉的信息准确的追踪下半身,而只能通过追踪上半身关节运动来提取有限的信息,用于合成下半身运动。也就是说,用算法来预测和模拟Avatar的下半身动作。通常,从头、手三点预测全身动作的算法依赖于生成模型,比如标准化流(Normalizing Flow),或是变分自编码器(VAE)。而在各类生成模型中,扩散模型开始在图像、视频生成方面取得不错的成果,尤其是条件扩散模型。

因此,Meta科研人员提出了一种全新的条件扩散模型:AGRoL(全称为“Avatar长腿”),该模型由简单的多层感知器架构(MLP)、运动数据调节方案组成,专门以稀疏信号为条件,根据上半身定位来生成全身姿态。据了解,这种只利用稀疏定位信息重建全身姿态的扩散模型,为市面上首例。

据称,AGRoL是专门为条件运动合成任务量身定制的,可预测出准确、流畅的全身运动。与常见的扩散架构相反,它基于紧凑型架构,可实时运行(在单个NVIDIA V100 GPU上运行时,计算过程仅6毫秒),因此可用于在线身体追踪应用,比如VR社交软件、多人VR游戏等等。

此外AGRoL提升了MLP网络性能,并超越了此前的方案,明显降低了抖动误差,因此和AvatarPoser等其他模型相比,ARGoL生成的动作更加平滑。此外,在追踪信号丢失的情况下,ARGoL的准确度下降不多,因此在追踪信号稀疏的情况下也能较准确的模拟运动。

不过,目前ARGoL方案可能出现地板穿透伪影,后续或许可以通过额外的物理约束,来改善该问题。

其他VR全身定位方案

除了预测算法外,VR也可以使用其他的全身动捕方案,比如:光学Marker、深度相机、RGB相机骨骼动作识别等等。相比之下,AGRoL虽然依靠预测而非准确追踪,但它的优势是成本低,用户无需购买甚至设置额外的硬件,因此用起来很方便。

除了AGRoL外,此前也有将人体运动数据与机器学习模型结合的方案,比如Standable。这是一种无摄像头全身追踪方案,主要是通过算法来模拟VR追踪不到的下肢(如骨盆、膝盖、腿部或关节处),其特点是校准流程轻量化,只需要确认眼部位置即可,此外支持复杂的动作模拟,比如蹲下、躺下、趴下、走路、慢跑等等。相比于Standable,AGRoL的优势是专为Quest打造,与硬件配合更好,尤其是实时运行能力强。

此前青亭网也曾报道多种VR全身定位方案,比如卡内基梅隆大学,在VR手柄上配备广角相机来追踪下半身,或是Meta此前提出的基于电磁原理的6D姿态追踪方案。值得注意的是,索尼在去年也推出了便携式全身动捕产品:Mocopi(售价360美元),未来也许和VR可以有很好的结合。参考:Meta

上一篇:60万个岗位等你来 河南启动“公共就业服务进校园”活动-环球即时 下一篇:最后一页
x
推荐阅读

Meta这套生成式AI,专为全身Avatar而来 播资讯

2023-03-27

60万个岗位等你来 河南启动“公共就业服务进校园”活动-环球即时

2023-03-27

天天报道:2023江苏南通市如皋市市场监督管理局招聘市场监管辅助人员笔试成绩及资格复审公告

2023-03-27

211毕业生从世界500强公司辞职做保洁!当事人这样说 全球热点

2023-03-27

重新起帆!中超8冠王,广州队集结了

2023-03-27

国内专属管辖的范围有哪些-世界短讯

2023-03-27

华升股份3月27日盘中跌幅达5%|速读

2023-03-27

信贷资金违规回流借款人开立存单 招商银行荆州分行被罚30万_全球热点评

2023-03-27

新疆阿克苏地区库车市发生3.7级地震,震源深度18千米

2023-03-27

全球资讯:萨拉热窝的桥(关于萨拉热窝的桥的简介)

2023-03-27

获国际生态学校项目绿旗认证-环球头条

2023-03-27

武汉警方打掉一个涉“两卡”“跑分”洗钱犯罪团伙

2023-03-26

英飞拓03月24日被深股通减持33.22万股 最新快讯

2023-03-26

世界速看:哪最多?2022年安阳市各县(市、区)常住人口

2023-03-26

新消息丨腊月是几月几号开始

2023-03-26

环球聚焦:保值率榜|降价车和二手车,到底谁更香?

2023-03-26

技术驱动,浪潮软件助力政务服务智能化

2023-03-26

全国文物行业职业技能大赛开赛|天天微速讯

2023-03-26

正月初四如何迎财神 大年初四迎什么神|每日快播

2023-03-26

今日报丨国足亚运队vs新西兰U23首发出炉!

2023-03-26

天天视讯!秀场分享|Maison_Rabih_Kayrouz 2023春夏

2023-03-26

胃窦溃疡活检恶性几率_胃窦溃疡_每日聚焦

2023-03-26

全球今日讯!美专家:日方公布的核污染水数据不透明

2023-03-25

qq空间暗恋功能在哪

2023-03-25

天天微资讯!原油多头终于可以松一口气了?因为这一数据暗示拐点或已至?

2023-03-25

三亚开展专项整治!涉及海鲜餐饮、婚纱摄影、旅游住宿等|资讯

2023-03-25

李玫瑾推荐的儿童书籍(李玫瑾育儿有哪些书籍) 观点

2023-03-25

热讯:隶属于国防科工委的高校有哪些

2023-03-25

餐馆反向抹零多收4毛被顾客投诉 被罚1200

2023-03-25

兰州住房公积金管理中心推进数字化转型升级_环球讯息

2023-03-25

欧预赛联播!法国队4-0 比利时3-0 捷克3-1 卢卡库3球 姆巴佩双响_天天头条

2023-03-25

bully什么意思中文_bully什么意思

2023-03-25

南唐和唐朝的关系_今日关注

2023-03-24

世界快看点丨冰雪消融 新疆昆仑山腹地迎春来

2023-03-24

环球观热点:首程控股深耕C-REITs领域,净利润创十年新高

2023-03-24

2023年知危险会避险交通安全课在线直播收看指南(附官方入口)

2023-03-24

国乒迎来好消息!日本主帅提出一项新建议,陈梦有望再战伊藤美诚

2023-03-24

讯息:福建出台16条指导意见 推动区域多层次金融市场建设

2023-03-24

每日热门:怎样设置拍一拍的后缀

2023-03-24

当前讯息:3月23日15时四川乐山市犍为县发生3.2级地震

2023-03-24

又是苦尽甘来!梅西收获生涯800球!膝盖被铲出血也毫不在乎

2023-03-24

熊猫金币和金条,你选哪个?

2023-03-24

这车真不错|新的更强?旧的更好?我选择了新款宝马325i|世界报资讯

2023-03-24

微动态丨保护我方车企!中国新能源汽车2022年销量图鉴

2023-03-24

拓尔思(300229)3月23日主力资金净买入9023.44万元

2023-03-24

世界热消息:全国一线城市有哪些

2023-03-24

今日快讯:我国5G基站总数达238.4万个

2023-03-24

快消息!马的英文怎么读_马的英文

2023-03-24

环球观天下!德馨食品:子公司曾陷商标侵权风波 标的被置入前后消防抽检不合格

2023-03-23

湖北襄阳3.12亿元挂牌3宗涉宅地块 总面积约157.59亩 世界观天下

2023-03-23

商丘市哪可以钓鱼_环球快资讯

2023-03-23

陇县天成镇铁塬小学开展“我是小厨师 劳动最光荣” 烹饪实践活动

2023-03-23

工业和信息化部:1—2月电信业务收入、总量同比分别增长7.9%和17.7% 聚焦

2023-03-23

天天报道:《我们的日子》东方宏离开了,雪花根本不知

2023-03-23

情系新市民,服务暖人心!践行新市民服务,兴业一直在路上|环球微头条

2023-03-23

ALARM是什么接口

2023-03-23

当前资讯!2023款迈巴赫S5804MATIC,科技感满满,你喜欢吗

2023-03-23

短讯!沙发如何处理

2023-03-23

跳起广场舞 拥抱好生活(健身新视野) 今日精选

2023-03-23

报道:国海证券给予劲仔食品增持评级

2023-03-23

世界快报:鱼缸用品品牌排行榜_鱼缸用品

2023-03-23

【环球速看料】iPhone15Plus渲染图:库克的打法让人措手不及,果粉钱包又要空了

2023-03-23

旦那在日语里是什么意思(旦那)_全球热门

2023-03-23

什么是被挡访客_环球时快讯

2023-03-22

“把太平洋变成我的下水道”

2023-03-22

每日视点!环宇物流(亚洲)(06083.HK)盈喜:预期年度除税后溢利增加约30%至40%

2023-03-22

好消息!大桥社区卫生服务中心新址建设项目正式开工

2023-03-22

泰坦尼克号故事简介|全球观点

2023-03-22

今日如何在招商交易系统进行网上投票?-环球聚焦

2023-03-22

热评丨抓紧春招时机,为大学生送去就业“春风”

2023-03-22

明新旭腾董秘回复:目前整个车市竞争激烈,燃油车降价后有可能会进行内饰材料的重新规划

2023-03-22

南充阆中疾控中心二价四价九价HPV疫苗预约通知

2023-03-22

这波浙A新指标的发放会导致杭州交通更堵吗?|全球快播报

2023-03-22

报告:2022年干旱或已造成索马里4.3万例“超额死亡” 速看料

2023-03-22

红色之子·单刀赴会_关于红色之子·单刀赴会介绍

2023-03-22

23华泰S2票面利率为2.6500% 天天速看

2023-03-21

固收类理财怎么算收益_固收类理财什么意思-天天微资讯

2023-03-21

当前时讯:负债4000万又怎样!李亚鹏的豪华人脉圈,连杨丽萍都是其中一角

2023-03-21

环球今亮点!楚留香怎么在电脑上玩_电脑如何安装楚留香

2023-03-21

以考代练战中考 张家界慈利苗市镇中学组织体育模拟考试

2023-03-21

财政部召开财会监督和预算执行监督专项行动动员部署会-全球今头条

2023-03-21

全球速读:当传统艺术成为"综艺""文创",可还相看俨然?

2023-03-21

金牛化工(600722):第九届第四次监事会会议决议,审议关于提名公司股东代表监事候选人的议案

2023-03-21

诙谐搞笑的修仙小说_搞笑的修仙小说 环球时快讯

2023-03-21

银行数字大写转换_银行数字大写

2023-03-20

天天新资讯:dnf打字发出去不显示怎么回事_dnf打字发出去不显示

2023-03-20

偷渡到缅甸的3名中国学生已被找回 具体详细内容是什么

2023-03-20

头条焦点:停止党籍是什么意思_停止党籍与保留党籍有何区别

2023-03-20

键盘怎么打出反斜杠_键盘反斜杠怎么输入

2023-03-20

3月21日下午北京鼓楼临时闭馆的公告-每日热门

2023-03-20

煎鸡腿菇的做法-鸡腿菇的做法|每日快报

2023-03-20

这届年轻人开始健一种很新的身……

2023-03-20

速递!即日起,交通乱象整治全面开启,车辆乱停乱放的请注意!

2023-03-20

如何预防静脉曲张初期_如何预防静脉曲张|每日热讯

2023-03-19

新消息丨上市九年亏77亿元,2023年的途牛“等风来”

2023-03-19

昔日小布手下败将今两盘完胜瑞士一哥,或激励小布奋勇赶上

2023-03-19

蛋糕巨头克莉丝汀所有门店暂停运营 自曝欠款5700万

2023-03-19

AresII不再孤单Club3D也有水冷版HD7990

2023-03-19

擒组词语_擒组词_全球新资讯

2023-03-19

ps怎么改背景图层颜色深浅_ps怎么改背景图层颜色-世界观天下

2023-03-18