通过和
教皇没有穿巴黎世家的衣服。电影制作人也没有伪造登月。
但人工智能图像生成器已经创造出逼真的场景，描绘出能够欺骗普通观众的图像。
为什么教宗方济各是人工智能生成照片的明星
这项技术，包括Midjourney和OpenAI的DALL-E，已经让一大批专门从事人工智能伪造的艺术家感到高兴。然而，虚假信息监管机构越来越担心，这项技术将使他们比以往任何时候都更难以确定网上的真假。
进入人工智能探测器。一款新软件正在开发中，声称可以使用自己的一套人工智能算法来确定图像是否由数字手制作。
在《纽约时报》的测试中，该软件在许多情况下表现良好，经常能识别出可能欺骗肉眼的人工智能图像。但这项技术并不完美，缺少一些明显的图像，专家表示，它将很难跟上人工智能发电机的步伐nstantly改善。
我们可以不去吗?“相信我们看到的一切?”
其中一张照片显示，亿万富翁企业家埃隆·马斯克拥抱着一个栩栩如生的机器人。该图像是由使用人工智能技术的艺术家Guerrero Art使用人工智能图像生成器Midjourney创建的。
尽管图像不可信，但它成功地欺骗了几个人工智能图像检测器。
这些检测器，包括收费版本，如Sensity，以及免费版本，如um -maybe的AI Art Detector，旨在检测嵌入在人工智能生成的图像中的难以识别的标记。他们在像素的排列方式中寻找不寻常的模式，包括它们的清晰度和对比度。这些信号往往是在人工智能程序创建图像时产生的。
但探测器忽略了所有的背景线索，所以它们不会认为马斯克的照片中存在一个逼真的机器人是不可能的。这是依靠该技术检测假货的一个缺点。
包括Sensity、Hive和Illuminarty背后的公司Inholo在内的几家公司没有对结果提出异议，并表示他们的系统一直在改进，以跟上人工智能图像生成的最新进展。图像检测工具Hive补充说，当它分析质量较低的图像时，可能会导致错误分类。Umm-maybe和《人工智能或非人工智能》背后的公司Optic没有回应置评请求。
检测技术被认为是减轻人工智能图像危害的一种方法。
芝加哥大学(University of Chicago)计算机科学助理教授、芝加哥人类+人工智能研究实验室主任陈浩(Chenhao Tan)等人工智能专家不太相信这种说法。
“总的来说，我不认为他们很好，我也不乐观，”他说。“在短期内，人工智能可能会有一定的准确性，但从长远来看，人类对图像所做的任何特别的事情，人工智能都将能够重新创造出来，而且很难区分两者之间的区别。”
大多数关注都集中在栩栩如生的肖像上。共和党总统候选人、佛罗里达州州长罗恩·德桑蒂斯(Ron DeSantis)的竞选团队在一篇帖子中使用了人工智能生成的图像，受到了批评。以风景为中心的合成美术作品也曾在政治选举中引起混乱。
人工智能探测器背后的许多公司承认，他们的工具并不完美，并警告说，这是一场技术军备竞赛:探测器必须经常追赶似乎每时每刻都在改进的人工智能系统。
杜克大学(Duke University)计算机科学与工程教授辛西娅·鲁丁(Cynthia Rudin)说，“每次有人造出更好的生成器，人们就会造出更好的鉴别器，然后人们用更好的鉴别器造出更好的生成器。”她也是杜克大学可解释机器学习实验室(Interpretable Machine Learning Lab)的首席研究员。“这些发电机被设计成能够骗过探测器。”
有时，即使图像明显是假的，检测器也会失败。
与人工智能合作的艺术家丹·利特尔(Dan Lytle)经营着一个名为The_AI_Experiment的TikTok账户，他要求Midjourney创作一张古老的照片，上面是一个巨大的尼安德特人站在正常人中间。它产生了一幅年老的肖像:一只高大的、像雪人一样的野兽，旁边是一对古怪的夫妇。
Hive的联合创始人兼首席执行官郭凯文(Kevin Guo)表示，每项服务测试的错误结果都表明了当前人工智能检测器的一个缺点:它们往往难以识别与原始输出不同或质量较低的图像。
当Midjourney等AI生成器创造出逼真的艺术作品时，它们会用数百万像素填充图像，每个像素都包含有关其起源的线索。“但是如果你扭曲它，如果你调整它的大小，降低分辨率，所有这些东西，从定义上讲，你改变了那些像素，额外的数字信号就消失了，”郭说。
例如，当Hive运行一个更高分辨率的雪人艺术品版本时，它正确地确定了图像是人工智能生成的。
这种不足可能会削弱人工智能探测器成为打击虚假内容武器的潜力。随着图片在网上疯传，它们通常会被复制、保存、缩小或裁剪，从而模糊了人工智能探测器所依赖的重要信号。Adobe Photoshop的一个新工具，被称为生成填充，使用人工智能来扩展照片的边界。(在使用生成填充放大的照片上进行测试时，这项技术让大多数检测服务感到困惑。)
《纽约时报》摄影师达蒙·温特(Damon Winter)在宾夕法尼亚州葛底斯堡为乔·拜登(Joe Biden)总统拍摄的一幅不同寻常的肖像，分辨率要高得多。许多探测器都正确地认为这幅画像是真的;但并不是所有人都这样。
错误地将真实图像标记为人工智能生成是人工智能检测器的重大风险。Sensity能够正确地将大多数人工智能图像标记为人造图像。但同样的工具错误地将许多真实照片标记为人工智能生成的。
这些风险可能会延伸到艺术家身上，他们可能会被错误地指责在创作艺术品时使用了人工智能工具。
杰克逊·波洛克(Jackson Pollock)的一幅名为《汇聚》(Convergence)的画作，以这位艺术家熟悉的彩色喷溅为特色。大多数(但不是全部)人工智能探测器确定图像是真实的，而不是人工智能生成的复制品。
Illuminarty的创造者说，他们想要一种能够识别假艺术品的探测器，比如油画和素描。
在测试中，Illuminarty正确地评估了大多数真实照片的真实性，但只有大约一半的人工智能图像被标记为假的。创作者表示，该工具有意谨慎设计，以避免错误地指责艺术家使用人工智能。
Illuminarty的工具和大多数其他探测器一起，正确地识别出了《纽约时报》使用Midjourney制作的波洛克风格的类似图像。
人工智能检测公司表示，他们的服务旨在帮助提高透明度和问责制，帮助标记错误信息、欺诈、未经同意的色情、艺术欺诈和其他滥用技术的行为。业内专家警告称，金融市场和选民可能容易受到人工智能欺诈的影响。
其中一张黑白肖像的照片相当有说服力。它是由新西兰艺术家马克·菲本斯(Marc fibens)与Midjourney合作创作的，他与人工智能合作。大多数人工智能探测器仍然能够正确地识别出它是假的。
然而，人工智能探测器在引入一点谷物后就陷入了困境。像Hive这样的探测器突然相信假图像是真实的照片。
这种微妙的纹理几乎是肉眼看不见的，干扰了它分析像素以寻找人工智能生成内容的能力。除了仔细检查像素外，一些公司现在正试图通过评估视角或受试者四肢的大小来识别人工智能在图像中的应用。
人工智能不仅能够生成逼真的图像——这项技术已经在创造文本、音频和视频，它们愚弄了教授，欺骗了消费者，并被用来试图扭转战争的局势。
研究人员表示，人工智能检测工具不应该是唯一的防御手段。宾夕法尼亚州立大学(Pennsylvania State University)社会责任人工智能中心(Center for social Responsible Artificial Intelligence)主任s·希亚姆·桑达尔(S. Shyam Sundar)说，图像创作者应该在作品中嵌入水印。他说，网站可以将检测工具整合到它们的后端，这样它们就可以自动识别人工智能图像，并更仔细地为用户提供警告和限制共享方式的服务。
桑达尔说，图像尤其强大，因为它们“有引起本能反应的倾向”。人们更容易相信自己的眼睛。”
本文最初发表于《纽约时报》。
