当前位置:中国婴童健康网 > 资讯 > 文章

宫崎骏动画里的新垣结衣见过没这个开源动漫生成器让你的相片秒变手绘日漫

2020-03-26 19:50:05  阅读:6944 作者:责任编辑NO。姜敏0568

机器之心报导

参加:肖清、思

顺手拍张相片,顺势转化为宫崎骏、新海诚等日漫大师的手绘风格著作,这个专门生成动漫图画的 GAN,实测很好用。

机器之心依据实在店肆相片生成的作用图,一度以为,这便是某个日漫番剧的截图。

尽管最近 2019 年的图灵奖颁给了计算机图形学、颁给了皮克斯 3D 动画,但许多人或许以为二维动漫更有意思一些。像宫崎骏、新海诚这些大师手绘下的动漫,才有了魂灵,张张都能成为壁纸,而整个日漫也以二维为中心。

假如有模型能将实在画面转化为日漫风格的手绘画面,那一定十分炫酷。最近机器之心发现的确有这些模型,从 CartoonGAN 到 AnimeGAN 都能生成十分有意思的图画。

这儿有一个 TensorFlow 新项目,它完结了 AnimeGAN,并供给了预练习模型。也便是说,咱们下载后可以直接试试生成作用。作为日漫风格的爱好者,咱们很快就试用了一下新项目。

项目地址:https://github.com/TachibanaYoshino/AnimeGAN

尽管原项目给出的最佳示例许多都是街景,但咱们发现各种场景也都还行,如下是咱们试用的原图与生成作用。看看第一张樱花道生成作用,遽然有一种《千与千寻》的感觉。

假如只针对人物,转化作用也是适当的好的。咱们测验将新垣结衣的相片输入 AnimeGAN 模型,然后就有如下这种奇特的画风,感觉直接用到动漫里也没什么问题了。

在原 GitHub 项目中,作者还给了十分多的示例,上面仅仅机器之心试用的成果,你也可以来用一用。

AnimeGAN

整个项目完结的是论文「AnimeGAN: a novel lightweight GAN for photo animation」中所提办法,作者在论文平分别将 AnimeGAN 与 CartoonGAN、ComixGAN 进行比照。

从图中可以正常的看到,AnimeGAN 在细节方面的体现要优于以上两种办法,颜色相对而言愈加天然,涂改感也没那么激烈。最显着的是第二行的作用图,运用 AnimeGAN 生成的漫画愈加挨近宫崎骏的画风。

办法简介

关于这个项意图 AnimeGAN,如下所示为 AnimeGAN 所选用的生成器网络与判别器网络。看起来模型全体是比较惯例地一个卷积神经网络,但它会选用实例归一化以及新式的 LReLU 激活函数。

除了架构细节上的更新外,作者还提出了以下三个新的丢失函数:

灰度风格(grayscale style)loss

灰度对立(grayscale adversarial)loss

颜色重构(color reconstruction)loss

这些丢失函数可以让生成图片的风格愈加挨近于实在的漫画风格。

下表比较了 ACartoonGAN 与 AnimeGAN 的模型巨细与推理速度。可以显着看出,AnimeGAN 是个相对轻量级的 GAN,具有更少的参数量以及更快的推理速度。

整体来说,新提出来的 AnimeGAN 是一种轻量级的生成对立模型,它选用了较少的模型参数,以及引进格拉姆矩阵(Gram matrix)来加强相片的风格。研究者的办法需求选用一系列实在图片与一系列动漫图片做练习,且这些图片并不需求成对匹配,这就标明练习数据十分简单取得。

项目实测

咱们在 Ubuntu 18.04 下对本项目进行了测验,相关依靠环境如下:

python 3.6.8

tensorflow-gpu 1.8

opencv

tqdm

numpy

glob

argparse

这些依靠项可以说都是 CV 中常用的扩展库,咱们就不用费尽心思去处理各种依靠环境抵触的问题了,这儿给个好评。

以下是本项意图练习及测验具体流程。咱们首先将 AnimeGAN 项目克隆到本地,在 Jupyter notebook 中输入:

将作业目录切换到 AnimeGAN:

接下来下载项目作者供给的预练习模型,运用 vim download_staffs.sh 创立一个 Shell 文件,输入如下指令:

保存后退出,以上指令会将预练习的模型、vgg19 权重以及练习数据集下载并保存到其对应目录下。在 notebook 中运转:

至此即完结一切准备作业,运转如下代码就可以对模型进行练习了:

AnimeGAN 的练习进程如下图所示:

当进行测验时,咱们应该将用于测验的图片保存到 dataset/test/real 目录下,并运转如下代码:

当看到以上输出阐明程序现已成功运转完结,生成成果保存在 results 文件夹下。可以正常的看到,在 P100 GPU 上生成一幅图片需求大约 2.3 秒左右。

本文为机器之心报导,转载请联络本大众号取得授权。

------------------------------------------------

“如果发现本网站发布的资讯影响到您的版权,可以联系本站!同时欢迎来本站投稿!