首页 生活常识文章正文

目前,OpenAI不会让政客们利用其技术进行竞选活动

生活常识 2025年04月14日 16:16 13 admin

  

  

  人工智能公司OpenAI制定了计划和政策,试图阻止人们利用其技术传播有关选举的虚假信息和谎言。今年,世界上一些最大的民主国家的数十亿人将前往投票站。

  该公司生产广受欢迎的聊天机器人ChatGPT、DALL-E图像生成器,并向包括微软(Microsoft)在内的许多公司提供人工智能技术。该公司周一在一篇博客文章中说,它不会允许人们利用其技术开发用于政治竞选和游说的应用程序,以阻止人们投票或传播有关投票过程的错误信息。OpenAI表示,它还将在“今年早些时候”开始将嵌入水印(一种检测人工智能创建的照片的工具)放入用其DALL-E图像生成器制作的图像中。

  OpenAI在博客文章中表示:“我们致力于预测和防止相关的滥用行为,比如误导性的‘深度造假’、大规模的影响力操作,或冒充候选人的聊天机器人。”

  政党、国家行为体和投机取巧的互联网企业家多年来一直利用社交媒体传播虚假信息,影响选民。但活动人士、政界人士和人工智能研究人员表示,他们担心聊天机器人和图像生成器可能会增加政治错误信息的复杂性和数量。

  在OpenAI采取措施之前,其他科技公司也更新了其选举政策,以应对人工智能热潮。去年12月,谷歌表示将限制其人工智能工具对选举相关问题的回答类型。它还表示,将要求从它那里购买广告位的政治竞选活动披露他们何时使用了人工智能。Facebook母公司还要求政治广告客户披露他们是否使用了人工智能。

  但这些公司一直难以管理自己的选举虚假信息政策。尽管OpenAI禁止使用其产品制作有针对性的竞选材料,但《华盛顿邮报》8月份的一份报告显示,这些政策并未得到执行。

  人工智能工具制造与选举有关的谎言已经出现了一些引人注目的例子。今年10月,《华盛顿邮报》报道称,亚马逊的Alexa家用音箱错误地宣布2020年总统大选被盗,充满了选举欺诈。

  明尼苏达州民主党参议员艾米·克洛布查尔(Amy Klobuchar)表达了对ChatGPT可能干扰选举过程的担忧,当被问及如果投票地点排队太长该怎么办时,ChatGPT会告诉人们去一个假地址。

  例如,如果一个国家想要影响美国的政治进程,它可以制造听起来像人类的聊天机器人,在美国的社交媒体空间中传播分裂的叙事,而不必付钱给人工来做这件事。聊天机器人还可以为每位选民量身定制个性化信息,以低成本提高其效率。

  OpenAI在博客中表示,它正在“努力了解我们的工具在个性化说服方面的效果如何”。该公司最近开设了“GPT商店”,任何人都可以使用自己的数据轻松训练聊天机器人。

  生成式人工智能工具无法理解什么是真,什么是假。相反,他们会根据从开放的互联网上抓取的数十亿个句子来预测一个问题的好答案。通常,它们会提供充满有用信息的类似人类的文本。他们还经常编造不真实的信息,然后冒充事实。

  人工智能制作的图像已经出现在网络上,包括在谷歌搜索中,以真实的图像呈现。它们也开始出现在美国的竞选活动中。去年,佛罗里达州州长罗恩·德桑蒂斯(Ron DeSantis)的竞选团队发布的一则广告使用了唐纳德·特朗普拥抱前白宫冠状病毒顾问安东尼·福奇(Anthony S. Fauci)的人工智能生成的图像。目前还不清楚是哪个图像生成器制作了这些图像。

  包括谷歌(Google)和photoshop制造商Adobe在内的其他公司表示,它们也将在人工智能工具生成的图像中使用水印。但这项技术并不是解决虚假人工智能图像传播问题的灵丹妙药。可见的水印可以很容易地裁剪或编辑掉。嵌入的、加密的、人眼不可见的信号可以通过翻转图像或改变其颜色来扭曲。

  科技公司表示,他们正在努力改善这个问题,并使其防篡改,但目前似乎还没有人想出如何有效地做到这一点。

发表评论

夕阳红鲁ICP备2021033673号-3 备案号:川ICP备66666666号 Z-BlogPHP强力驱动 主题作者QQ: