平面照片直接生成3D虚拟形象,普通摄像头也可支持
3D 人脸Avatar并不是件新鲜事,依托深度传感摄像头与面部识别功能,IPhoneX以及华为、小米等品牌的旗舰款手机上都推出了Animoji 或 Memoji这样的功能。那么问题来了,有没有可能突破设备限制,让普通摄像头也能重建全动态3D虚拟形象呢?
近期,36氪接触到一家公司「相芯科技」(FaceUnity),其P2A(photo-to-avatar)技术可以将2D照片转成3D立体模型,利用普通手机摄像头也可重建3D虚拟形象。
详细来说,用户上传单张2D人脸照片,P2A的深度学习算法系统会在云端对照片进行分析和重建,先依靠肖像神经网络来提取人脸真实信息(如外观特征),再由风格化神经网络进行虚拟形象风格定制(如漫画风、电影风等),从而生成3D虚拟人像模型(Avatar),用户也可以后期进行捏脸、换衣等个性化定制。基于FaceUnity自研的Nama SDK,用户可以用表情驱动自己的Avatar,创立自己的Memoji。
由相芯科技提供,P2A系统流程图
值得一提的是,整套解决方案并不需要依赖深度传感摄像头,普通的智能手机摄像头完全可以支持,这也拓宽了该技术的支持机型范围。那么这是如何做到的?相芯科技市场总监秦飞告诉36氪:FaceUnity的P2A深度学习算法系统是基于75个人脸定位点进行解析和重建的,因此对设备的兼容性要求并不高,以苹果机型为例,iPhone6以上机型均可支持,安卓则近五年机型均可支持。
提及建模成像精度问题,秦飞表示: 对于卡通化虚拟形象来说,当前的人脸定位点已能提取人脸的关键特征,更多的定位并不一定能带来效果上的优化,而会在功耗及机型要求上带来诸多限制。
由相芯科技提供,2D照片生成3D形象实例
应用上,相芯科技目前产品包括虚拟形象生成、虚拟形象驱动、智能美颜、动态AR贴纸及智能手势识别等,主要应用场景包括短视频、直播、游戏、自拍、影视、教育、医疗等。此外,FaceUnity也与一线硬件手机厂商合作,为之提供类似Animoji和Memoji的功能支持。
由相芯科技提供,漫画风AR滤镜效果
商业模式上,FaceUnity以To B业务为主,根据客户诉求提供基于三维虚拟形象生成和驱动的定制化解决方案,合作客户包括百度、美图、数字王国、猎豹移动、LiveChat等400余家。据悉,除软件类的业务支持,FaceUnity也在和华为、传音这类硬件手机厂商合作,提供美颜滤镜、Animoji和Memoji类的产品功能解决方案。据悉,去年FaceUnity的营收在数千万级别。
团队方面,相芯科技核心成员曾任职于微软公司,团队成员大多毕业于清华大学和浙江大学。核心团队在计算机3D图形、VR/AR技术领域拥有20余年的研发经验。
据悉,相芯科技成立于2016年,曾获得传媒梦工厂的天使轮融资,2018年获得东方富海、陌陌的1.2亿元A轮融资。