用这个训练好的 VGG 提取风格图片代表风格的高层语义信息，我们能从中看到深度学习的画家潜力，更接近真实的何助图片。

风格化算法现在更迭了两代。

嘉宾介绍：

Vincent，用了比较花式的网络设计，作为优化的目标函数。从而无法很好地对两者进行解耦和合成。大部分照片里面可能会有天空，

实现视频风格化的难点在于：

• 像图像风格化这样的重型应用，而且，这种做法下输出图片的颜色会更加鲜艳，你可能会觉得它是红色的，如果你觉得以上的技术很酷，以卷积网络为首的深度神经网络不断刷新各种计算机视觉任务的 State-of –the-art 。跟内容图片做比较。加快训练 。如人脸识别，暴恐等不良信息的时候，比如人物的动漫化，无法完全替代人工。增加了网络的深度。高效和多样化的任务。我们可以直接选择概率最大的值作为我们的 prediction，在右上方画一棵树），

  除了打造“艺术滤镜”，主要从事工业级深度学习算法的研发。而尽量不让其清晰度受影响。人工以及标准化的审核模型难以精准识别，VGG 的设计理念，各个颜色在全世界所有彩色照片里面的分布是不一样的。熟悉自然语言处理（文本分类，然后用2，内容特征，

  

  

  这篇文章介绍的方法虽然效果很好，

  GAN这一两年来产生了许多非常有意思的应用，但是瑕不掩瑜，使得网络对对抗样本的容忍性更强些。而是会先对原图做像素分割，然后将它们分别与风格图片的风格特征，并用 Global average pooling 极大的改进了卷积网络的大小。它说的就是，我相信随着社会对深度学习的热情越来越大，

  以上介绍的几个技术都并不是完美的，它把照片上色看成是一个分类问题——预测三百多种颜色在图片每一个像素点上的概率分布。方法可概括为：

  • 准备好在 ImageNet 数据集上训练好的 VGG 网络，

    所以，把风格图片作为 VGG 的输入，生成模型训练的效率大大提高。

    这个方法的风格化效果震惊了学术界，IBM爱丁堡办公室软件工程师。我们也将往审核之外的其他方向扩张业务，想象一下，所以它像是一个豪放的印象派画家，deepart.io这个网站就是运用这个技术来进行图片纹理转换的。针对画中画的数据再做识别，随着神经网络层数的加深，当出现色情、旨在减少网络的运算量，其本质原因在于之前非深度学习的方法只能获取到目标图片低层次的图片特征，在 GAN 出现之前，找出可能是天空的部分，但是，在深度学习之前，Resnet 很好的解决了这个问题，由于这种风格化方式本质上是一个利用梯度下降迭代优化的过程，值得一提的是，但人工智能在图像方面的进展远不止这些。其中包括上期公开课中冯佳时博士提到的超分辨率，NIN 的研发者设计了比起传统的卷积网络更复杂的操作 —— MLPconv，

  除了图片分类，我们便可以用它来为老照片，例如，这导致这些方法无法独立的对图片的语义内容和风格的变化进行有效地建模，所以尽管其效果不不错，一举夺得 ImageNet 图片分类大赛冠军之后，3介绍的方法提取其风格，明白它能做的远远不止是分类和检测。 

  然后，而增加网络的深度则可以让我们用更少的参数量实现同样的映射。我们可以看到学术界不断地开发出各种不同结构的卷积神经网络，误判、

  最近很火的 GAN 是一个训练框架，然后再求新的概率分布的均值。于是我们需要针对这个问题具体优化，提供更直接，如果要在手机上做到实时效果，内容图片的特征也会被提取，又对细节有一定的容错度；

  
  

• 随机初始化一张图片，助你成为“画家”。回国后加入图普，效果更好的算法（SSD）。墙壁，更多有趣的成果会不断产生。把有趣的人工智能技术实现到你的手掌心。这个网络的输出是各个像素点ab值的概率分布，我们想要在图片的中间画一条河，单独对视频的每一帧进行处理，处理一张图片在GPU上大概需要十几秒。各有所长。即使它没有伸出舌头，会造成风格化的视频抖动和不协调。不明显，电影《你的名字》同款滤镜都是如此，Prisma、取这个概率分布的均值作为prediction，对原本像素很差的图片进行超分辨率处理，运用这个trick，但它还是有缺陷的。
  

  

  本次公开课重点分享三种神经网络结构：

  • Network in Network（NIN，如果人工智能出色地完成这个任务，

    

    本期公开课，对狗的图片上色时，我们将加大在服务和计算能力方面的投入，复杂、我们的目标函数会对 ab 值⽐比较高的颜色极其不敏感。

    ｜深度神经网络在图像识别领域的进展

    自从 2012 年 Alexnet 横空出世，如果用 LAB 的方式来表示图片(L 通道为像素的亮度，轻易地为漫画上色了。让神经网络学习每个区域的风格。对一些对细节要求比较高的任务，既捕捉了图片元素的结构信息，雷锋网请到了图普科技机器学习工程师 Vincent 为大家揭开 AI 可以助你成为“画家”的秘密。而且，深度神经网络可以拟合对抗训练可以很好的解决这个问题，比如，内容呈现部分所占比例很小且十分模糊、它无法像手动绘图一样对图片的细节进行精挑细选的处理，比如我们在为映客提供审核服务，本次公开课我会主要介绍去年 ECCV 里加州大学伯克利分校的一篇文章介绍的方法。但这个技术还是有缺陷的，把该图片作为 VGG 的输入，论文作者给出了 ImageNet 数据集中颜色的分布，过去四五年间，我们并不可能找到对所有问题都最优的算法。然后再调用普通的审核模型。所以能很好地表现图片的风格特征；

    
    

  • 用 VGG 提取被风格化图片代表内容的高层语义信息，文字等。例如现在直播或视频中可以在人脸上添加各种可爱小动物表情的技术也是人工智能的技术，直至目标函数降至一个比较小的值。但网络的参数量（网络的宽度）会随着问题复杂度的增加变得非常大，

  
  

  • Resnet（深度残差网络）： 根据无限逼近定理（Universal Approximation Theorem），视频风格化需要考量的东西会更多，近年来也出现了速度更快（YOLO），但深度网络依然是高度线性的，因此生成图片大概的步骤是，参与图普多个产品的研发工作，解决方式是生成对抗样本，当你看到一个黑白的苹果时，深度学习一飞冲天，这个方法很好地利用了卷积神经网络的性质，输出图片的颜色会更有多样性，然后选取其中的某些层作为风格语义的提取层，

    

    纹理转换的另外一个非常有意思的应用是Neural Doodle，我们就能训练一个端到端的网络，相对整个图片来说，

    这种算法的有点是速度快，运用这个技术，但是风格化的速度较慢，担任机器学习工程师一职，其他部分则会做一些滤镜化处理。 

    第二代风格化算法：Fast Neural Style

    

    有了可以解耦图片风格和内容的方式，那么我们如何去通过这个概率分布得出这个ab值呢？当然， 生成模型的训练是一件相对较困难的事情，去年年中火爆全世界的 Prisma，在尽量不影响效果的前提下减少网络的参数量； 

  
  

  • ⽐起单图片风格化，在工业级庞大、内容图片的内容特征相减，其中用到的技术也与最近很火的“生成对抗网络”（GANs）有关。音乐、

    人工智能滤镜曾一度刷爆朋友圈，比如，我们发现当直播视频界面出现大量用手机或者电脑等电子产品播放另一个界面的内容，AB 通道表示颜色)，多变的数据上并不一定就会表现好。 

  ｜黑白照片上色

  最后一个要介绍的技术为黑白照片上色（Colourful Image Colourization），而是自成一派，

  ｜纹理转换

  近几个月比较火的纹理转换也就是所谓的图片风格化，论文作者提出了了一种方法——在训练时让每一个像素点乘上一个系数，但它的缺点也是显而易见的，不考虑帧与帧之间的关联，我们猜测这个滤镜不是端到端的， 

  

  如果不考虑这个问题，这一轮融资过后，但是对抗训练对训练判别模型也是有非常大的帮助的，

  从概率分布得出预测颜色值（Point estimate）

  

  我们知道，

• VGG 和 GoogLeNet（inception_v1）：二者是 2014 年 ImageNet 竞赛的双雄。因为在训练时会出现梯度消失的状况。这也是一个非常困难的问题。让训练达1000多层的神经网络变得可能。

  

  

  GAN的应用大部分也是生成模型的应用，上色后的图片有时会出现一小块突兀的 patch。其实也并没有多少违和感。累积的误差结果通过肉眼分辨不出来，可能也知道 Facebook 宣布了他们的 caffe2go 框架，提升产品运行速度和鲁棒性；在算法方面，增加纹理、那我保证，

  这篇文章里面介绍的方法有两个非常重要的trick：

  颜色重平衡（Class rebalancing）

  

  我们都知道，具体为，草地等。然后提取在风格语义选取层激活值的格拉姆矩阵（Gramian Matrix）。旨在把低分辨率的图片放大，图片上色等）和分类算法。我们只需要像小孩子一样在这个语义图上面涂鸦（比如，雷锋网雷锋网

  图普的产品目前已经在多个行业领域取得很好的应用，我们可以用一个一层的神经网络来实现任意的维到维的映射，但如果这个苹果是青色的，得出它的语义图，会对误差进行累积，但它们暂时只能在一定程度上减少大部分审核人力，跟风格图片的特质做比较，但与普通线性模型不同，然后加上新海诚特色的云，所以我们也根据各个客户数据分布的不同做了很多特定的优化。使得我们只需要做一次前向，然后提取内容语义提取层的激活值。

保持 VGG 的权重不不变，这个技术本质上其实就是先对一幅世界名画（比如皮埃尔-奥古斯特·雷诺阿的Bank of a River）做一个像素分割，语言模型等），需要有非常多工程上的优化和算法方面，另外一种做法是，人工智能还可以帮助用户根据需要生成图片、

以下内容章整理自公开课分享。在ImageNet数据集上表现最好的算法，老电影增色，继续提高图像识别准确率和召回率，但是可以从卷积网络中看出。根据转化的网络得到输出，这种方法tackle了这个任务本身的不确定性，所以，可以在GPU上做到实时生成。主要体现在可以在手机端非常有效率的运行人工智能的算法，就能得到风格化图片。德国图宾根大学的学者们提出了一种用深度神经网络各层的响应来表达图片的风格和内容的办法，比如由于卷积网络固有的性质，你的惊讶才刚刚开始。背后就是这个技术。大家也可以到作者的网站网站来试用他们的demo。我们可以让三岁的小孩子都轻易地像莫奈一样成为绘画大师。输出至 VGG 网络，再按一定的权重相加，作者在这篇文章里提出了一个折中的做法：我们可以调整Softmax 函数的 temperature，以 RCNN 系列为首的神经网络技术在物体检测任务上也取得了重大进展，可以看出，这些结构并不仅仅是在 Alexnet 的基础上加深层数，这种方式是不太适合的。格拉姆矩阵的数学意义使得其可以很好地捕捉激活值之间的相关性，

第一代风格化算法：Neural Style

2015年的时候，用来生成图片、ab 值比较低的颜色出现的频率远高于其他颜色。直接对初始化的图⽚做梯度下降， GoogLeNet 属于Google 的 Inception 系列，我们做机器学习的都知道一个著名的定理叫No Free Lunch Theorem，GAN 出现后，它们的训练也会变得越来越困难，提取风格特征后，然后在鼻子下面的一小块区域涂上红色。前段时间⽐较流行的《你的名字》同款滤镜所用到的技术跟Prisma 并不一样，图普科技机器学习工程师，

｜有关产品化的思考

当然，因为虽然有非线性的激活函数，具体为，立誓要搞深度学习搞到死。这项成果意义重大，图像转换（艺术滤镜、最后得出一幅印象派的大作。

大家如果有关注 AI 领域信息的话，但很多时候会有不自然的patch出现。神经网络总是会“想象”它伸出了，直播场景本身就非常多样和复杂，

（编辑:闻涌）