生图提示词手册
首页 人工智能AI AI造假如何应对?ChatGPT冒充英国记者写文章,记者:太逼真了,我都信了

AI造假如何应对?ChatGPT冒充英国记者写文章,记者:太逼真了,我都信了

据英国《卫报》4月6日报道,《卫报》社内一位记者3月收到了一封有趣的电子邮件,一名研究员在进行研究时查找到了一篇文章,是该记者在几年前写的,但在《卫报》网站中却搜不到这篇文章。这位…

据英国《卫报》4月6日报道,《卫报》社内一位记者3月收到了一封有趣的电子邮件,一名研究员在进行研究时查找到了一篇文章,是该记者在几年前写的,但在《卫报》网站中却搜不到这篇文章。这位记者也不记得自己写过,但是文风和主题都确实高度雷同,连他自己都不敢肯定到底是不是自己的文章。《卫报》方面担心出问题,把内部系统翻了个底朝天,但是这篇文章的确从来没有存在于他们的官方网页中,连删除的记录都没有。

为什么?因为这篇文章是ChatGPT编写的,而非记者写的。

研究员称,他在研究的时候用到了ChatGPT,让ChatGPT替他找来一些类似主题的文章,于是GPT就编了这篇文章出来给他。内容非常流畅,完全看不出来拼凑的痕迹。甚至记者本人都不敢说自己一定没写过,因为和他的风格实在太像。

ChatGPT等AI编造事实已经不是什么新鲜事了。特朗普被起诉后,网上开始流传一张特朗普以一种极其夸张的方式被警方围捕的照片,实际上特朗普是毫发无伤地走出法庭,坐飞机回家充满激情地辱骂检察官和拜登。照片是一个网民用AI合成的。媒体和记者都对类似现象深感不安,因为如果不是这位研究员多问了一句,他可能就真的会把这篇从未存在过的《卫报》文章拿去用在研究里,到时候万一出问题,《卫报》就百口莫辩了。专家还担心,AI这种行为可能会促进阴谋论滋生。想象一下,如果ChatGPT告诉你,某报发表过敏感内容,但却又搜不到,那会不会是该报社心虚,偷偷删除了这篇文章呢?AI的高度发展让本就半真半假的互联网更是充满了重重疑云。

4月初,推特上广泛流传的一张夸张的特朗普被捕照。实际上这是网友用图像生成AI“Midjourney”合成的。

从11月到1月,ChatGPT只用了短短两个月的时间就使注册用户增长到了1亿。不久后,微软也推出了类似的生成式人工智能。最近一项针对1000名美国学生的研究发现,89%的学生用ChatGPT辅助自己写作业。推出不到半年,AI已经以惊人的速度融入人们的日常,在提高效率的同时,带来了大量伦理问题。

生成式AI的问题在于,它能提供大量细节,如文章的遣词造句、照片中人物的皱纹和毛发,以及视频中主播的语速和腔调,让内容看起来无比流畅而真实,但这些细节都是不透明的。AI不会告诉你它是从哪里找来这些数据,不会去鉴定这些数据的真假,也不会给使用AI的人提供一个高效的去伪存真的途径。当特朗普被围捕的照片传遍网络,它本身就已经成为AI数据库的一部分,可能会滋生更多的假照片、假新闻。甚至许多自媒体信以为真,没有去核查事实,直接看图写作,发了不少“特朗普被捕”的新闻通稿,而这些假新闻又将成为AI的养分。这些都会模糊人们的认知,甚至模糊历史的真相。

亨利·阿杰德(Henry Ajder)的专业领域就是合成技术,作为顾问供职于多家公司和政府,包括Meta。阿杰德担心,网上会有太多虚假的却又十分真实的内容,误导大量网民。今后,人们的认知来源将都是一些虚假的东西,观点也都不再基于事实和实证。

据CNN报道,生成特朗普被捕图的AI工具“Midjourney”团队仅成立不到一年,只有11个全职员工,却已经造出了大量假照片,包括醉酒的教皇方济各和穿着特斯拉机器人紧身衣的马斯克,这还仅仅只是过去几天的作品。Midjourney的CEO大卫·霍尔兹(David Holz)发帖称,由于“巨大的需求和滥用”,Midjourney已经暂停了免费试用。

特朗普被捕照片的创作者声称,Midjourney已经禁止他访问。他合成照片的时候没有恶意,甚至明确标注了图片是假的,但是网上一顿疯转,许多人不标注也不关注真伪,假的慢慢就成了真。

目前,各大社交平台都在着手解决这个问题,例如引入辨别图像真伪的系统,但专家指出,此举可能也会带来反效果,即给用户虚假的信心。如果系统不小心漏掉了一张虚假图片,用户却因为该图片经过了系统检测,就认定图片一定是真的。另外,也有在图片生成时自动加上水印等方案。

此前,包括马斯克和苹果联合创始人史蒂夫·沃兹尼亚克在内的一批科技精英写了一封公开信,呼吁停止训练尖端AI至少6个月,理由是“对社会和人类造成了深刻的风险”。不过,目前还不清楚是否有团队真的停止。另外,意大利政府已经禁止使用ChatGPT,理由是ChatGPT危及用户隐私。

4月4日,一位学生联系《卫报》,询问另一篇出自该报记者之手的文章。《卫报》同样翻遍系统也没找到那篇文章。所以文章是哪来的?一问,又是ChatGPT。

特朗普团队出售印着特朗普入狱照的周边。当然是AI合成的。

《卫报》写道,他们将致力于找到和AI和平共处的方法,并继续思考新闻的意义究竟是什么,新闻的价值究竟在哪里。世界上各个机构仍然在就如何合法合规地使用AI,尽量避免产生伦理问题而绞尽脑汁。究竟要不要禁止?不禁止的话,应该怎么用?这些全都还没有一个确定有效的方案。

围绕AI的道德争议还在继续,假照片也在源源不断流出,5日有人发出特朗普竞选团队制作的特朗普周边T恤照片,虽然团队的确有打算把他的入狱照印在T恤上,但可没有发布过这种商品(而且还要价36美元)。一位网友调侃道,36美元可以买7个巨无霸,就算特朗普一次吃两个,都够喂饱三个半特朗普了——虽然他不配在局子里吃麦当劳。然而这张照片在推上已经被转疯了,甚至有的大V媒体都在转发。一位网友感慨自己竟然真的信了这些假照片——“看来我是很难在如此科幻的未来存活了。”

生成海报
免责声明:文章内容不代表本站立场,本站不对其内容的真实性、完整性、准确性给予任何担保、暗示和承诺,仅供读者参考,文章版权归原作者所有。如本文内容影响到您的合法权益(内容、图片等),请及时联系本站,我们会及时删除处理。
域名
Avatar photo

作者: AdobeEdu

AdobeEDU设计网址导航,为设计师提供无限的创意参考,欢迎大家同时关注微信公众号:UID的小伙伴们

为您推荐

深扒Altman巨型AI帝国:从核聚变工厂到永生技术中心,规模惊人!

Sam Altman构建的未来AI帝国正式曝光,规模惊人!可控核聚变、7万亿芯片产业、光量子计算,甚至是延长人类寿命的研...
12家创业公司+4家大厂全景图:谁会成为中国版Sora?

12家创业公司+4家大厂全景图:谁会成为中国版Sora?

一年前,ChatGPT 的爆火很快在大语言模型领域催生了“百模大战”。一年后,Sora 横空出世再次惊艳世人,这一次是否...

ChatGPT和文心一言对比分析

ChatGPT自上线起就受到了用户的喜爱。而文心一言是国内的第一个对标ChatGPT而研发的AI产品。本文将对比这二者的...

AI智算时代已至,算力芯片加速升级

AI正处史上最长繁荣大周期 人工智能从1956 年被正式提出以来,经历了数十年的 发展历程。人工智能诞生初期,其研究主要...

培养AIGC指导师,掌握AIGC技能,加速AIGC应用

随着人工智能技术的发展,AIGC已经成为企业创新和发展的重要路径之一。而培养AIGC指导师,掌握AIGC技能,是加速AI...

发表回复

返回顶部