当我还是个孩子的时候,我最喜欢的就是美术课。
给我一盒24色水彩笔,我可以坐在那里一下午都不拿。
因为,对于每个人来说,从小到大,在白纸上涂鸦、创作、玩耍的感觉是非常美妙的。
可以理解为情感的宣泄,也可以充满对未来的想象。
今天,Meta推出了全新的AI系统,可以将我们在纸上绘制的涂鸦变成生动的动画。
当我还是个孩子的时候,我梦想着我写的人物可以从纸上跳出来并移动,Meta帮助我们实现了这个美丽的幻想。
论文地址:https://arxiv.org/abs/2303.12741
18万张照片!数据集
而且实现过程并没有那么复杂。
Meta拥有包含18万张每日随机图画的数据集,以及一套完整的动画代码。该数据集也是世界上第一个以涂鸦作为艺术品的注释数据集。
这里有一个概念需要理解。
诚然,人们通过绘画来表达自己,但绘画和绘画之间也有区别。对于人工智能来说,重要的是学习。如果没有清晰的表达,AI学习起来就会更加困难。
这就是为什么我们有这么大的数据集,有180,000 幅涂鸦。有了这样的数据集,研究人员就可以开发工具来更轻松、更准确地分析不同涂鸦中的内容。

事实上,早在2021年底,Meta就发布了他们开发的动画图片演示,并邀请用户在网络上上传自己的图片。
然后,用户会收到他们上传的画作中的角色的简短动画。
据统计,当时约有320万人访问该网站,上传了约670万张图片。然后,Meta 的人工审核员会对图像进行质量和隐私问题的筛选。
当时,Meta只能让涂鸦中的人物执行一组简单的动作,用户反映希望在线有更多功能。例如,可以让包含多个角色的涂鸦作品移动,或者可以让涂鸦角色做出更困难的动作,或者眨眼。
如下图所示,这些弹跳的GIF图像是Meta开源代码和数据集后扩展产品创造力和教育目的的一个例子。
有了这些资源,研究人员可以进一步添加分析这些涂鸦的方法,以扩展原有的功能。
您甚至可以为恶棍添加背景,让涂鸦在环境中跳舞。
能跑、能跳、活泼
前面说过,涂鸦的形式所涉及的内容实在是太奇葩了,每个人的涂鸦都是独一无二的。
那么在这种情况下,如何训练模型就是问题的关键。
Meta说常见的方法有两种。第一个是使用带注释的绘画来训练新模型。但这种方法的问题是,带注释的画太少了,人们可能只上传没有注释的涂鸦。因此,训练神经网络的材料并不多。
第二种方法是通过合成来绘画,比如以素描的形式重画照片。但这种方法存在问题。
使用生成方法进行训练需要大量样本数据来学习,并且上述方法可能无法捕获绘画和照片之间的所有差异。另外,使用这种方法生成用于学习的数据可能无法捕获绘画特有的一些细节,例如纸张折痕、橡皮擦线、阴影等。

最终,Meta选择的方法是将整个任务拆分为一系列子任务,包括人物检测、涂鸦分割、姿势预测和动画生成。
用户选择上传涂鸦到系统后,可以选择边框位置(确定范围)、确定角色关节位置等,最后选择一个动作生成动画。
甚至有很多动作可供选择,这完全取决于个人用户。
Meta的系统结合了根据拍摄的照片训练的计算机视觉模型,由于涂鸦和照片之间的差异,Meta进一步使用了18万张图像的数据集来微调模型。
那么这个数据集是如何创建的呢?
与2021 年项目类似,Meta 仍然依赖用户上传来创建数据集。
Meta在隐私方面做得很好。人们可以选择上传图像+注释进行元研究。同时,Meta对上传的信息采取非常谨慎的态度,最大限度地减少数据被滥用的可能性。
此外,对上传数据的筛选也非常重要。由于该项目的主要重点是将涂鸦变成动画,因此非涂鸦图像将被Meta 的审稿人筛选掉。
更何况含有泄密、低俗文字的内容,一定要屏蔽掉。
每个人都是创造者
有了这样一个有用的工具,每个人都可以成为艺术创作者。
毕竟,能够看到自己写的字栩栩如生,能够成为一时的笔大师马良,一定是一件很酷的事情!
参考:
用户评论
孤败
哇,这个Meta技术真是酷炫啊!我小时候的梦想就是能画出自己的动画,现在居然成真了!火柴人宇宙又添新活力,我要试试看。
有19位网友表示赞同!
空谷幽兰
这个标题就让我热血沸腾了!我一直想尝试动画制作,但觉得太难了。现在只需涂鸦,太简单了,我一定要试试。
有7位网友表示赞同!
若他只爱我。
哈哈,这技术听起来就像魔法一样。 Meta让火柴人宇宙变得更生动了,我可以自由奔跑跳跃,还能添加背景,太好玩了!
有19位网友表示赞同!
大王派我来巡山!
我之前对动画制作完全没信心,但现在这个一键转换的技术让我看到了希望。Meta真是改变了游戏规则!
有9位网友表示赞同!
疯人疯语疯人愿
哎,我一直觉得动画制作离我很遥远,但这个Meta技术让我觉得,每个人都有可能成为动画大师!
有9位网友表示赞同!
笑傲苍穹
这个技术听起来太棒了,我以前看过一些火柴人动画,觉得好有趣。现在我自己也能做了,太兴奋了!
有8位网友表示赞同!
珠穆郎马疯@
Meta真是让火柴人宇宙焕发了新生,以前那些简单的动画人物现在可以奔跑跳跃,感觉好有生命力。
有12位网友表示赞同!
如梦初醒
这个标题让我想起了小时候画画的日子,那时候总是梦想着能画出自己的动画。现在这个技术让我重拾梦想。
有17位网友表示赞同!
请在乎我1秒
这个技术真的太实用了,我之前做过一些简单的动画,但总是觉得不够专业。现在有了Meta,我可以轻松提升自己的作品了。
有19位网友表示赞同!
一纸愁肠。
我之前尝试过用软件做动画,但总是遇到各种问题。这个Meta技术听起来简单易学,我一定要试试。
有19位网友表示赞同!
余笙南吟
火柴人动画一直是我的最爱,现在有了Meta,我可以自己制作自己喜欢的动画了,太激动了!
有16位网友表示赞同!
初阳
这个Meta技术让我想起了小时候的涂鸦,那时候总是梦想着能将它们变成动画。现在这个梦想终于要实现了!
有20位网友表示赞同!
容纳我ii
我之前对动画制作一窍不通,但现在这个一键转换的技术让我觉得,原来动画制作也可以这么简单。
有18位网友表示赞同!
墨城烟柳
这个技术让我看到了动画制作的无限可能,我想要尝试不同的风格和创意,让我的火柴人动画独一无二。
有18位网友表示赞同!
刺心爱人i
我一直想为我的火柴人动画添加背景,但不知道怎么操作。现在有了Meta,我可以轻松实现这个想法了!
有16位网友表示赞同!
强辩
这个Meta技术真是太神奇了,我之前觉得动画制作很复杂,但现在我觉得自己也能成为动画师。
有12位网友表示赞同!
淡抹丶悲伤
火柴人宇宙因为Meta而变得更加丰富多彩,我迫不及待想要尝试这个技术,让自己的作品大放异彩!
有12位网友表示赞同!
哭花了素颜
这个标题让我想起了小时候看动画的乐趣,现在我可以自己动手制作,感觉回到了那个无忧无虑的时光。
有15位网友表示赞同!
ˉ夨落旳尐孩。
Meta让火柴人动画变得更加有趣,我迫不及待想要和朋友们分享这个好消息,一起创作属于我们的动画故事!
有14位网友表示赞同!