“蚂蚁，蚂蚁，蚂蚁，蚂蚁，蚂蚁，蚂蚁，蚂蚁，蚂蚁，哈哈哈………………
然而，这款名为Avatarify、风靡网络的AI换脸软件却在2月底冲上了苹果App Store免费榜榜首，并在3月2日凌晨悄然从中国区App Store“下架”。只用了不到一周时间时间。目前官方并未给出具体的下架原因，业界猜测这款软件可能涉及隐私等问题。
因为“蚂蚁，嘿嘿”的特效风靡全网。
近日，在某短视频社交平台上，一种名为“蚂蚁呵呵”的特效走红。许多网民将他们的照片导入一个名为Avatarify的“换脸”软件。照片会被算法驱动，变成随节奏晃动的视频。
这个软件有多受欢迎？
根据移动应用数据分析平台Seven Veins的数据，2月25日，Avatarify在中国App Store的免费应用排行榜中仅排在第65位，但在当天下午5点，Avatarify就跃升至免费应用排行榜第一位，这一排名一直持续到3月1日。
截至3月5日，Tik Tok #蚂蚁#相关话题播放量已超过29亿次，特效使用量达785万人次。
据东方。Avatarify的名字来源于电影《阿凡达》。创建者是一名开发工程师。刚开始只是因为疫情期间太无聊，就开发了这个变脸app，并且开源。其实Avatarify早在去年7月就上线了，只是不冷不热，直到“蚂蚁嘿嘿”特效走红，才带火了这款软件。
这款软件通过AI变脸技术让图片动起来，给网友带来新奇好玩的娱乐体验。同时，蚂蚁溜溜球短视频的灵魂在于BGM，为人物增加了对比效果。从马斯克、马等科技公司大腕，到、等娱乐明星，再到《帕梅拉丽莎》等世界名画，甚至猫狗，都唱起了《蚂蚁溜溜球》。
软件的工作原理是将别人的脸实时驱动到自己的表情上。用户只需要三步：在手机中导入人脸图片，选择视频模板，软件就可以自动生成一个短视频，然后一键保存。根据Tik Tok大多数视频制作教程，如果你想让照片中的许多人移动，你需要一些编辑软件来帮助你。
据中国商报报道，目前的换脸技术与国外开源的AI换脸软件deepfake非常相似。deepfake的核心技术是一个叫做生成对抗网络(GAN)的框架，它有两个模块，一个负责生成虚假图像，另一个负责识别生成图像的质量。通过“对抗游戏”的方式不断进化，达到以假乱真的程度。
已从中国应用商店移除
3月2日，正当一群网友在玩的时候，Avatarify在流行了不到一个星期后，悄然从App store下架。
关于下架原因，目前官方并未说明。有网友表示，Avatarify在国内仅被App Store下架，其余地区仍可正常下载。移除Avatarify的原因与之前流行的“ZAO”类似，涉及隐私和安全问题。但目前在App Store上，也有一批“蚂蚁，嘿，一样特效”App。
其实Avatarify遇到的问题已经出现了。
早在2019年，一款名为“ZAO”的变脸社交软件就在朋友圈刷屏了。这款应用是陌陌这个陌生人社交巨头开发的。用户只需拍摄一张正面照片，就可以替换影视作品或小视频中的人物，生成以自己为主角的视频片段。
然而，这项技术在带来创新体验的同时，也存在被滥用甚至侵犯他人权益等额外风险，这也是Avatarify和ZAO提出质疑的共同原因。
尽管ZAO已在其官方微博中发布声明，称不收集个人生物特征，不存储个人面部生物特征，使用ZAO不会产生支付风险，但仍无法打消用户的疑虑，并引起了相关部门的重视。ZAO的声誉遭到惨败。
值得注意的是，Avatarify是免费下载和内购的形式，用户要想在生成的运动图片和视频中去除水印和增加内存需要付费。据了解，Avatarify的周使用价格为人民币18元，年费为人民币253元，第一周免费。对于这个价格和服务，用户的接受度并不高。
反而是网店赚钱。尽管Avatarify突然下架，但大众对“蚂蚁，嘿嘿”视频的需求并未减弱。据《北京日报》报道，目前在淘宝、闲鱼等平台上仍有此类视频制作服务。“很多人想把‘蚂蚁嘿嘿’这样的视频上传到Tik Tok，但他们不会花钱买Avatarify，所以他们会要求我们制作。”一位淘宝卖家表示，他们的团队已经达到10人，最快可以在30分钟内完成相关视频的制作，收费一个9.9元。
AI变脸安全争议不可避免
据央视消息，类似“蚂蚁，嘿嘿”的特效也有相应的风险。采访中，演示者向央视记者演示了如何利用深度合成中表情操纵方法的安全漏洞攻击人脸识别系统。
主讲人张天翼：您正在看的视频是深度合成中使用表情操纵法生成的假视频。也就是说，我们可以操纵一张图片，让它做和右边视频一样的动作。比如点头，摇头，说话。可以用来攻击人脸识别系统。
央视记者杜思远：我们可以看一下具体的攻击过程吗？
Demo张天翼：我们可以生成这些系统指令的指定动作，比如张嘴、点头、摇头，最后可以伪装成这个人完成人脸验证。
央视记者杜思远：也就是说，我们只需要这个人的照片，就可以冒充他，然后破解系统。
主讲人张天一：对。
2019年11月底，国家网信办、文化和旅游部、广电总局联合发布《网络音视频信息服务管理规定》，其中明确了“利用基于深度学习、虚拟现实的虚假图像和音视频生成技术制作、发布、传播谣言的，应当采取相应措施及时辟谣”等变脸技术新规。同时，规定指出，使用基于深度学习、虚拟现实等新技术、新应用的人员。制作、发布、传播不真实的音像信息，应当以显著方式予以标注。并且不得利用该技术“制造、发布或传播虚假信息”。此外，规定还强调，不得利用相关音视频技术“侵害他人的名誉、肖像、隐私、知识产权等合法权益”。
近年来，围绕人脸识别的争议不断。全国信息安全标准化技术委员会等机构发布的《人脸识别应用公众调研报告（2020）》显示，超过90%的受访者使用过人脸识别，其中60%的人认为人脸识别技术有滥用倾向，30%的人声称因为人脸信息的泄露和滥用而遭受过隐私或财产损失。
用户个人信息的安全也引起了相关部门的重视。早在2019年11月底，国家网信办、文化和旅游部、广电总局联合发布《网络音视频信息服务管理规定》，其中第十一条指出，基于deepfake技术制作的变脸视频“应当以显著方式予以标注”，禁止利用该技术“制作、发布、传播虚假新闻信息”。
在近日举行的全国政协十三届四次会议新闻发布会上，大会发言人郭卫民也表示，个人信息保护法草案已提交全国人大常委会审议，将在保护个人信息安全方面发挥重要作用。
主编：秦虹，文字编辑：杨蓉，标题图片来源：图片编辑：朱元
来源：作者：国家商报