NVIDIA|还要啥PS！NV搞了款新软件简直零基础P图神器
12 月 5 日消息 ， 英伟达的最新 AI 工具又让网友用户们激动了 。“我已经等不及了！”
一位网友在看完演示视频后表示 。
对于“手残党”来说 ， 英伟达的 EditGAN 简直就是零基础 P 图神器 。能够高质量、高精细度地对图像进行修改 ， 让 P 图方式从未如此容易 。
例如 ， 让画像和雕塑“挤眉弄眼” 。只要你会上传图片、能画草图 ， 就能够轻松 P 图 。如此“魔性”的工具 ， 难怪得到了网友热捧 。
EditGAN 甚至能精细到修改车轮辐条大小和方向：
文章图片
当然 ， 真人照片也不在话下 ， 如控制人眼朝向、头发量等 ， 还能给猫咪修改耳朵大小：
文章图片
而你要做的 ， 只是上传一张图片 ， 然后由程序生成一张语义分割草图 ， 直接在草图上涂抹修改 。
EditGAN 只会修改你想要改变的部位 ， 其他部分都原封不动 。
和最近的 GauGAN2 一样 ， 英伟达也为 EditGAN 开发了一个电脑软件：
文章图片
这项研究已经被 NeurIPS 2021 接收 。
本文一作是来自多伦多大学的华人博士生凌欢 ， 他同时在该校人工智能研究院（Vector Institute）和英伟达做研究 。
首个 GAN 驱动的图像编辑器
研究人员表示 ， EditGAN 是第一个 GAN 驱动的图像编辑框架 ， 它的主要特点是：
1、提供非常高的精度编辑 ，
2、只需要很少的注释训练数据 ，
3、可以实时交互式运行 ，
4、允许多个编辑的直接合成 ，
5、适用于真正的嵌入式、GAN 生成甚至域外图像 。
首先 ， EditGAN 使用 StyleGAN2 生成图像 。
StyleGAN2 的工作流程是：获取图像 ， 将其编码到潜在空间 ， 并使用生成器将这个编码子空间转换为另一个图像 。
但问题在于 ， 这个空间是多维的 ， 我们很难将其可视化 ， 也很难确定该子空间的哪一部分负责重建图像中的哪个特征 。
通常 ， 需要庞大的标注数据集 ， 才能知道模型中潜在空间哪一部分控制哪些特征 。
而 EditGAN 仅通过对少数标记的数据集示例进行学习 ， 就能将分割与图像相匹配 ， 从而实现图像图像的编辑 。EditGAN 保留了完整的图像质量 ， 同时提供了前所未有的细节和自由度 。
更重要的是 EditGAN 不仅知道潜在空间对应控制那个部分 ， 而且还将它们与草图对应起来 。这样 ， 我们就可以通过修改草图轻易地修改图像了 。
EditGAN 基于 DatasetGAN ， 结合了图像建模及其语义分割 。
EditGAN 的关键思想在于利用图像和像素级语言分割联合分布 。
具体而言 ， 就是将图像嵌入 GAN 的潜在空间 ， 并根据分割编辑执行条件潜在代码优化 。
以上展示了 EditGAN 的训练过程：修改语义分割并优化共享的潜在代码 ， 与编辑区域内的新分割 ， 以及编辑区域外的 RGB 外观保持一致 。相应的梯度通过共享生成器进行反向传播 。
为了摊销优化 ， 作者在实现编辑的潜在空间中找到“编辑矢量” 。该框架允许学习任意数量的编辑矢量 ， 然后以实时的速率直接应用于其他图像 。
P 图工具即将发布
作者团队在英伟达内部 GPU 集群上使用 V100 执行底层 StyleGAN2、编码器和分割分支的训练以及嵌入和编辑的优化 。
该项目使用了大约 14000 个 GPU 小时 ， 其中大约 3500 个 GPU 小时用于最终实验 ， 其余用于研究项目早期阶段的探索和测试 。至于 EditGAN 的运行 ， 在 V100 上进行 30 (60) 步优化需要 11.4 (18.9) 秒 。
虽然训练不起 ， 但是用训练好的模型来 P 图还是有可能的 。
此前英伟达发布的 Canvas 就集成了 GauGAN2 等最新成果 ， 可以用手绘草图生成精细的 PS 文件 。
推荐阅读
- ARM|ARM中国区CEO表态：NVIDIA收购ARM失败是好事
- 测试|海外大神徒手掰断一加10 Pro引热议！网友吐槽：这测试没啥意义
- NVIDIA|RTX 3060 Ti悄然变"心"：索泰上架三款GA103核心新版本
- NVIDIA|RTX 30 LHR显卡挖矿限制被破解 算力提升几乎翻倍
- ARM|4000多亿的ARM交易被搅黄 NVIDIA黄仁勋谈笑风生：改变不了什么
- NVIDIA|七彩虹RTX 3080、RTX 3080 Ti新春礼盒开卖：12499元送超级鼠标垫
- NVIDIA|显卡刚降价 RTX 30 LHR显卡又被破解了：挖矿算力满血
- NVIDIA|硬件追上GTX 1050 国产GPU公司景嘉微：JM9系列后续持续优化
- 食物|专家建议晚饭只吃七分饱上热搜：“七分饱”到底是啥感觉？
- AMD|“矿难”真的来了？爆料称3月份AMD、NVIDIA显卡价格将暴跌