创业公司吹嘘技术骗取信任和融资的例子屡见不鲜，但近日，一家西班牙技术公司被曝惊天造假，不仅技术和产品demo视频被怀疑是造假合成，连团队里的工程师，都是GAN合成的“AI造人”。 六人的工程师团队介绍中，只有Delgado和Balcells两人确有其人。 有网友评论：这算是给GAN的图像生成技术找了个绝佳的落地场景么？ 一起看看。 自动棋盘众筹项目火爆全网，用AI远程跟网友“云”下棋 上周，众筹网站Kickstarter上的一项自动棋盘的项目被迫暂停了，多个知名的在线国际象棋社区联合发表声明，称该产品是个骗局。 被举报的这家初创公司名叫REGIUM，主要开发用于在线比赛的全自动国际象棋棋盘，该公司设计的棋盘通过将内置的电磁铁移入其中，从而自动操作棋盘上的棋子。 根据REGIUM的介绍，这个棋盘可以和可以进行网络对战的国际象棋应用同步，原本在PC画面上进行的国际象棋操作可以在物理上进行，自称是“划时代的项目”。 REGIUM称，他们的自动棋盘是高科技棋盘，用到了AI、自动跟踪技术等，用户移动棋子是快速、无声的，可以将棋盘状态与各种在线象棋APP 同步，与人远程“云”下棋，还能实时载入更多棋类游戏。 REGIUM于2019年12月公开了demo视频，随后在Kickstarter上发起众筹，以商品化为目标募集资金。 这一项目迅速获得了不少围棋爱好者和平台的关注，视频迅速在YouTube上获得了超过4万的点击量。在Kickstarter上，从上线到项目被叫停，不到10天时间就获得了33111美元的筹款。 但是，随着在Kickstarter上的信息公开，用户针对REGIUM提出了各种各样的问题，其中最为严重的是，有人发现，“作为开发团队介绍的成员脸部照片是假的”。 知名在线国际象棋社区Chess.com、Chess24.com和Lichess.org的撰稿人相继发文表示，REGIUM官网上介绍的6名工程师中有4人是不存在的，是在网站thispersondoesnotexist上利用AI生成不存在的人类面部照片。这也导致人们进一步怀疑，“该产品本身可能就不存在”。 REGIUM官网链接：https://solves-1302936535.cos.ap-chongqing.myqcloud.com/file/p/2021/06-03/11/0603115940hfvi5xxvxtb personpersondoesnotexist.com的创建人Phil Wang告诉Chess.com，这四个疑似不存在的人的脸部照片存在部分失真，和机器学习算法生成的照片具有相同的特征。这些图像也没有托管在互联网上的其他任何地方。 随后，Wang使用AI技术生成了不存在的人的面孔，将有关与REGIUM的相关页面链接的肖像的信息转发给Chess.com，并表示，“根据我的经验，它的确来自英伟达的生成模型”。 “可以从眼镜周围的变形以及背景中的伪影看出来，这确实是伪造的照片。” 在使用公开可用的信息与同事进行协调之后，Chess.com还能够在公开在线论坛中验证了与该公司有关联的个人虚假陈述。 目前，Chess.com和Chess24.com都终止了对REGIUM的投资。 不过，在一封发送给科技媒体Motherboard的回应邮件中，REGIUM否认了这些说法，但也没有提供进一步的证据来证明其开发团队是真实存在的。 REGIUM在邮件写道，这个事根本不值得一提，一些人总是会乱说些事情，比如首席技术官不是工程师，他不是门萨的人，这个团队没有成员等等。甚至有人猜测，这些照片的标准尺寸是1024x1024，以及关于董事会和团队成员的说法…… 他们知道互联网上的阴谋论是如何进行发酵的，有些人就是喜欢胡言乱语。这些团队成员有家人，有些也在正经公司工作，但在这些疯狂的攻击之后，有人担心这将影响到他们正常的职业生涯，于是他们决定从网上撤除他们的数据。 除了被举报伪造工程师，视频国际象棋网站还认为，在Kickstarter上的demo视频中，录像有被明显篡改的证据。在线象棋平台Lichess的开发者在博客中表示，棋子在棋盘上自动移动的画面很可能是使用定格动画（stop motion）做出来的。 博客链接：https://solves-1302936535.cos.ap-chongqing.myqcloud.com/file/p/2021/06-03/11/0603115943ojf42szhhlq REGIUM对此进行了回应，称自己根本不擅长制作宣传视频，在拍摄被编辑掩盖的视频时还有出错。 一些怀疑者“要求用手机录制一段视频，以证明这不是定格动画或CGI”。REGIUM在一封电子邮件中表示，“我们照做了，也把视频发送过去了。任何人都可以看到，在视频中定格动画或CGI是绝对不可能存在的”。用GAN生成人脸图像真的这么无懈可击吗？ Wang所提到伪造人脸的StyleGAN来自英伟达，可以说是近年火遍全网的“造假”神器了。与其他生成器不同，StyleGAN可以根据需要更改生成图像的结果，绘制出的图片更加逼真，不仅可以创造假的人类肖像，也被疯狂应用于其他机器学习应用项目，例如汽车、房间、甚至是动漫人头等。 REGIUM疑似使用的就是这个利用GAN来生成不存在的人脸图像的网站，点开网站之后，每次刷新页面，算法都会从头开始生成新的人脸图像。 网站链接：https://solves-1302936535.cos.ap-chongqing.myqcloud.com/file/p/2021/06-03/11/0603115944nbc0a4tgx5q 该网站使用的是一种称为StyleGAN的机器学习技术，StyleGAN最初是由英伟达在一篇论文中《一种用于生成式对抗网络的基于生成器体系结构的方式（A Style-Based Generator Architecture for Generative Adversarial Networks）） 论文下载地址：https://solves-1302936535.cos.ap-chongqing.myqcloud.com/file/p/2021/06-03/11/0603115945u35busv2gkwpdf.pdf 据论文介绍，StyleGAN是一步一步地生成人工图像的，从非常低的分辨率开始，一直到高分辨率（1024×1024）。通过分别地修改网络中每个级别的输入，它可以控制在该级别中所表示的视觉特征，从粗糙的特征（姿势、面部形状）到精细的细节（头发颜色），而不会影响其它的级别。 这种技术不仅可以更好地理解所生成的输出，而且还可以产生最高水平的结果，即比以前生成的图像看起来更加真实的高分辨率图像。 英伟达的代码链接：https://solves-1302936535.cos.ap-chongqing.myqcloud.com/file/p/2021/06-03/11/0603115946prndoqraatb Philip Wang还在一封电子邮件中表示，绝大多数人都不知道，将来AI在合成图像方面会有多么出色。 不过，尽管非常逼真，但是StyleGAN生成的图片中还是存在一些技术缺陷，文摘菌之前也曾报道过，如何区分真假图片的几个方法，比如，有时候在生成的照片中，乍一看似乎与真实照片没有什么区别，但仔细一看，会发现图像中有一些奇怪的光线会漂浮在人物周围，或者是局部出现奇怪的变形。这也是Wang能够一眼看出照片伪造的关键所在。 GAN于2014年由计算机科学家Ian Goodfellow及其同事首次引入，从那之后，GAN变得越来越强大，现在已经可以以惊人的高分辨率生成高度逼真的图像。 不仅如此，这些程序还可以用于生成人们跳舞的视频，甚至是“将夏天的场景变成冬天的仙境”。不过也有令人苦恼的地方，就是这项技术也有随时被用于以“deepfakes”为核心的的假色情影片制作中。 Wang的网站在租用的服务器上运行，该服务器配有运行Nvidia软件的强大GPU，Wang透露道，每两秒钟生成一张随机的脸，随后以可扩展的方式展示给全世界，这其中没什么花哨。 REGIUM这次事件，不管真假，都足以再次让我们反思技术带来的双面性，的确，大规模的虚假复制将对于平台、个人都将造成不同程度的伤害。 显然，看似作为罪魁祸首的GAN技术，仍然是一种通用的东西，而真正将此滥用的，正是我们人。或许正是出于对现在以及未来GAN的逐渐“疯魔化”趋势，Wang曾表示，他想要在以后坚持真实的脸部图像，“人的脸对我们的认知最重要，因此我决定提出该特定的预训练模型”。 对此，你又是怎么看的？相关报道：https://solves-1302936535.cos.ap-chongqing.myqcloud.com/file/p/2021/06-03/11/0603115948ui4wohuhc1x