标题 >>

AI谣言比人造谣言更易让人相信?研究发现前者被戳破的几率低出3%
AI谣言比人造谣言更易让人相信?研究发现前者被戳破的几率低出3%

一项新研究表明,人工智能生成的虚假信息可能比人类编写的虚假信息更容易让人相信。

研究发现,当人工智能和人类都发布了虚假推文时,人工智能被发现的几率比人类被发现的几率低 3%。

瑞士苏黎世大学的研究人员乔瓦尼·斯皮塔莱(Giovanni Spitale)表示,尽管两者的差距很小,但考虑到人工智能产生的虚假信息问题将显著增多,这种差距反映出来的问题令人担忧。他领导的这项研究发表在近日的 Science Advances 上。

他说:“人工智能生成的虚假信息不仅更便宜、更快,而且更有效,这将是一个噩梦。”他认为,如果该团队用 OpenAI 最新的大型语言模型 GPT-4 重复这项研究,考虑到 GPT-4 的强大程度,差距可能会更大。

(来源:STEPHANIE ARNETT/MITTR | ENVATO)

为了测试人们对不同类型文本的怀疑程度,研究人员选择了常见的虚假信息话题,包括气候变化和新冠。然后,他们要求 OpenAI 的大型语言模型 GPT-3 生成 10 条内容为真的推文和 10 条内容虚假的推文,并从推特上随机收集真假推文样本。

接下来,他们招募了 697 人来完成一项在线测试,以判断推文是由人工智能生成的,还是从推特上收集的,以及这些推文是准确的,还是包含虚假信息。他们发现,与人工智能杜撰的假推文相比,参与者相信人类编写的假推文的可能性要低 3%。

研究人员不确定为什么人们更容易相信人工智能写的推文,但很可能与 GPT-3 排列信息的方式有关。

他说:“与人类书写的文本相比,GPT-3 的文本往往更加结构化。但它也是精简的,所以更容易被接受。”

生成式人工智能的热潮将强大、易用的人工智能工具交到了每个人手中,也包括那些居心不良的人。像 GPT-3 这样的模型可以生成看似令人信服的虚假文本内容,这些文本可以用来快速而廉价地为阴谋论者和虚假信息活动生成虚假内容。解决这一问题的武器——人工智能文本检测工具——仍处于发展的早期阶段,许多工具并不完全准确。

OpenAI 意识到,它的人工智能工具可能会被武器化,用于制造大规模的虚假信息活动。尽管这些潜在的活动违反了它的政策,但它在 2023 年 1 月份发布的一份报告警告说,“几乎不可能确保大型语言模型永远不会被用来产生虚假信息。”OpenAI 没有立即回应置评请求。

然而,该公司也敦促在高估虚假信息活动的影响方面保持谨慎。OpenAI 报告的作者表示,需要进一步研究,以确定人工智能生成的不真实内容对哪些人群风险最大,以及人工智能模型大小与其输出的整体质量或说服力之间的关系。

剑桥大学心理学系研究错误信息的博士后研究员乔恩·鲁森贝克(Jon Roozenbeek)说,现在恐慌还为时过早。

他表示,尽管使用人工智能在网上传播虚假信息可能比人造虚假内容更容易、成本更低,但技术平台上的言论审核和自动检测系统仍然是其传播的障碍。

他补充道:“仅仅因为人工智能可以更容易地写出比某些人更有说服力的推文,并不一定意味着突然之间每个人都成了可以被虚假信息操纵的傀儡。”

支持:Ren

出处:DeepTech深科技

2023-07-09
-

(如不慎侵权,请即联系我站。)
荐读
 · “轻骑手”| 空客出了款3D打印电动摩托车
 · 猫科:优美的猎食者!
 · 激光枪真的能杀人于无形吗?
 · 菲律宾,别会错意了!
 · 不烧油,不烧电的车在中国诞生
 · 搜寻新的地球和宇宙的边缘
 · 中国海军主要作战力量,我们的征程是远海
 · 微信心里苦,但却说不出口
 · 一图看懂新一代人工智能知识体系大全
 · 世界未解之谜:有46亿高龄的地球,留下5
热搜
 · 看懂《异形:契约》真心不容易
 · 世界上最大的海上执法船:中国“海警290
 · 盘点近年来科幻片中外星人实力排行榜
 · 揭秘电视分辨率:1080p、2K、UHD、4K、8
 · 史上最具影响力的50件科技产品
 · Ai 到底是个什么鬼?
 · 攻克百年难题,扭转“角度” 石墨烯可变超
 · SpaceX实现人类史上首次海上回收火箭,马
 · 图说熊猫“吃相”
 · 美国海军的重要作战支柱:移动目标用户卫
浏览
 · 外星人发信息了吗?神秘宇宙射电信号成因
 · 他们拍下了光的慢动作,可能会刷新你的世
 · 百公里加速到1.1秒啥感觉?超级高铁Hype
 · 外星人格雷,第三类接触授权雕像
 · 热度下的冷思考——智能眼镜到底有没有前
 · 火星已死,地球是下一个!我们逃不出死亡
 · 科技可以证明一个人曾经活过吗?
 · 外星生命有谱?科学家从陨石中找到生命必
 · 美媒猜测中国米波雷达锁定F-22
 · 纳纳儿光临飞瀑镇(南希·克雷斯)
如版面不完整 请使用浏览器的【极速模式】

Ai时代(Ai.th1w.com)
E-mail:wx24cn@163.com
苏ICP备14015491号-1 苏公网安备32053150316245