OpenAI表示不良行为者正在利用其平台扰乱选举 但几乎没有“病毒式参与”

2024-10-14 1160
OpenAI正日益成为网络行动者影响全球民主选举的首选平台。在周三发布的一份54页的报告中,ChatGPT的创建者表示,它已经破坏了“来自世界各地的20多个试图使用我们模型的操作和欺骗网络”。这些威胁包括人工智能生成的网站文章,以及虚假账户在社交媒体上发布的帖子。该公司表示,其关于“影响力和网络行动”的最新信息旨在提供其所看到的“快照”,并确定“我们认为可以为人工智能如何适应更广泛威胁环境的辩论提供信息的初步趋势”。OpenAI的报告在美国总统大选前不到一个月发布。在美国之外,今年对全世界的选举来说都是重要的一年,选举将影响40多个国家的40多亿人。根据机器学习公司Clarity的数据,人工智能生成内容的兴起引发了与选举相关的严重错误信息担忧,深度伪造的数量同比增长900%。选举中的虚假信息并不是一个新现象。这是一个可以追溯到2016年美国总统竞选的主要问题,当时一些人找到了在社交平台上传播虚假内容的廉价而简单的方法。2020年,社交网络上充斥着关于新冠疫苗和选举舞弊的错误信息。如今,议员们的担忧更多地集中在生成式人工智能的崛起上。随着ChatGPT的推出,生成式人工智能于2022年底起飞,现在已被各种规模的公司采用。OpenAI在报告中写道,与选举相关的人工智能应用“从简单的内容生成请求到复杂的、多阶段的分析和回复社交媒体帖子的工作,其复杂性各不相同。”OpenAI表示,社交媒体内容主要与美国和卢旺达的选举有关,印度和欧盟的选举在较小程度上也是如此。8月下旬,一家伊朗公司使用OpenAI的产品制作了关于美国大选以及其他话题的“长篇文章”和社交媒体评论,但该公司表示,大多数已识别的帖子很少或根本没有得到点赞、分享和评论。今年7月,该公司禁止了卢旺达的ChatGPT账户在X上发布与选举有关的评论。今年5月,一家以色列公司使用ChatGPT生成有关印度选举的社交媒体评论。OpenAI写道,它能够在不到24小时内解决这个问题。今年6月,OpenAI解决了一项秘密行动,该行动利用其产品对法国的欧洲议会选举以及美国、德国、意大利和波兰的政治发表评论。该公司表示,虽然它识别的大多数社交媒体帖子几乎没有得到点赞或分享,但一些真人确实回复了人工智能生成的帖子。该公司写道,没有一项与选举相关的操作能够通过使用ChatGPT和OpenAI的其他工具吸引“病毒式参与”或建立“持续受众”。
Sign In via X Google Sign In via Google
This page link:http://www.fxcue.com/222095.html
Tips:This page came from Internet, which is not standing for FXCUE opinions of this website.
Statement:Contact us if the content violates the law or your rights

Please sign in

关注我们的公众号

微信公众号