转自 机器之心

耳听为虚？在AI期间，这句话该逾期了。

AI正掀翻一场「作秀」新风暴。近日，一项名为Deep Live Cam的直播换脸姿色火了，在Github上狂揽5.8k Star量，一跃成为Github热点榜单第一。

先望望它的品性，换脸成马斯克，360 度打光都莫得违和感。

有网友惊呼，太纵情了，还认为这便是马斯克的游戏直播。

此外，AI 生成的谷歌密斯姐还登上 TED 进行演讲，那传神进程，一个字，绝！也曾科幻片中的场景，如今渐成现实，黑镜来得太快，不得不让东谈主担忧。正如 AI 大牛 Anderj Karpathy 所言，要行善，往日的 AI 们都看着呢。

东谈主东谈主都是董宇辉的期间到来了！AI 作秀几乎「逆天」。这项名为 Deep Live Cam 的姿色只需要一张图片，就能一键进行实时直播换脸。Catena Labs 首席家具官@jay_wooow第一时期赶到「吃瓜」前列。他本东谈主长这么：

但当他大开电脑录像头，仅花 5 分钟装置了 Deep Live Cam，他的状貌短暂被替换成 JD Vance：

英伦大帅哥休・格兰特（Hugh Grant）：

还有「蜥蜴东谈主」扎克伯格（Zuckerburg））：

以及帅到老的乔治・克鲁尼（George Clooney）：

不管是作念鬼脸、挑眉毛，傍边摇头，如故切换多样刁顽角度，脸部都涓滴没崩，也没偶然期延伸。此外，它还提供实时预览功能，能够立即看到替换后果，同期复旧实时东谈主脸增强、科罚归拢图像或视频中的多张东谈主脸等。这似乎意味着，以后咱们插足在线会议、直播带货时不错用任何东谈主的状貌示东谈主。因此有网友驳倒称，以后开会不错换成总公司 CEO 的脸了。

不外，也有不少网友惦记，罪犯分子会趁便假想纵情的骗局，假新闻也将更进一竿。

Deep Live Cam 开采者强项到潜在的奢侈风险，原意选拔防护标准。该应用内置查验机制，幸免科罚流露、暴力或干戈等明锐履行。如有必要，他们也将会在输出履行上添加水印。

开采者还在 Github 上注重先容了 Deep Live Cam 的装置运行攻略。感趣味趣味的一又友不错前去稽查：

姿色地址：https://github.com/hacksider/Deep-Live-Cam?tab=readme-ov-file谷歌密斯姐真假难辨与此同期，一位 Google 密斯姐启动刷爆外交媒体。只见一位带着谷歌使命证的密斯姐在 TED 中中途落发的进行着演讲，常常时的和现场瞻念众互动，分解的特等当然。然则，这位密斯姐并不是真东谈主，而是由 AI 生成的。

这个讯息让东谈主一时难以经受，怎么说，咫尺的 AI 搞得视频还是不确实了，眼见不一定为真，视频如实不错 P。就连小细节亦然拿持的特等精确。不外从视频来看，使命牌如故有些污点的，当东谈主物漂泊躯壳时，咱们如故能看到白色部分的伪影。诚然有些小破绽，但也不妨碍 AI 本领正变得越来越先进，难怪网友发出这么的感叹「咫尺的 FLUX + Runway Gen-3 Alpha 便是一个杀手组合。（上述视频便是这个组合生成的）」。

然则，细看的话，生成的手指如故有劣势，出现了三手指。LoRA

据了解，上述视频都是在这张图的基础上生成的，图像生成用的是 Flux +图片是一位名叫 Leo Kadieff 的小哥在领英上领先发出，他示意这些图片莫得经由放大或其他科罚，是 Flux +LoRA 的原始输出。。

回思三年前，图片生成还停留在牛油果座椅，咫尺还是能生成真假难辨的东谈主物图片了。不仅能生成东谈主物视频，Flux + Gen 3 这个组合生成的动物寰宇也让东谈主真假难辨。

图源：https://x.com/javilopen/status/1821883326375825609

在视频生成如斯爆火的今天，就算你有一对明察其奸，可能也会靠近一个真假难辨的逆境。那些 AI 作秀惹出的乱子Deepfake 自出生起就伴跟着精深的争议，致使搞出了不少乱子。举例，哄骗 AI 坐法，侵扰他东谈主苦衷和肖像权。本年年头时，一组 AI 换脸生成的霉霉（泰勒・斯威夫特）瞻念照在外交平台上疯传，致使惊动了好意思国白宫，发言东谈主让・皮埃尔（Karine Jean-Pierre）示意：「咱们对此类破绽图像的流传感到担忧。」再如，AI 换脸本领让外交媒体充斥着假新闻。本年的 Met Gala 红毯上，凯蒂・佩里和蕾哈娜明明未现身，但 AI 生成的红毯照满天飞，要是不细看很难找出破绽。（以下像片均为 AI 生成）

AI 诳骗的案例更是比比王人是。本年 1 月份，一家跨国公司成了 deepfake 诳骗的运筹帷幄，其香港职工被骗了 2 亿港元。这名职工受邀插足总部首席财务官发起的「多东谈主视频会议」，并按照条款先后将 2 亿港元分 15 次转到 5 个账户内。得知上圈套后，他才发现，那场会议中除了他我方，其它与会东谈主员通盘是经由「AI 换脸」和「AI 换声」的诳骗团队。AI 诳骗放肆的进程，连巴菲特都坐不住了。他在 2024 年度鞭策大会上示意，「基于深度伪造本领带来的 AI 诓骗投资可能将会成为一个『不断增长的行业』」。大要以后，专家都不可再深信视频通话，或者仅通过像片来证据身份，要是好一又友告贷，最保障的步地将是切身碰头。

参考团结：https://x.com/jesselaunz/status/1822009842317558058https://x.com/tonyzhu1984/status/1822036026661224945https://amp.cnn.com/cnn/2024/05/16/tech/arup-deepfake-scam-loss-hong-kong-intl-hnk

本公众号发布的履行仅供学习换取使用，履行版权归原作家悉数。如有侵扰您的权利，请实时与咱们相关，咱们将于第一时期删除履行。履作为作家个东谈主瞻念点，不代表本公众号态度和对其真确性厚爱。