人工智能, 威胁选举稳定

少数族裔媒体服务中心 (Ethnic Media Services, EMS) 于 7 月 12 日组织了新闻发布会,  关注 “ 人工智能威胁选举稳定 - 少数族裔选民成为虚假图像攻击目标“。专家、官员和观察人士表示, 人工智能正在加剧选举制度的威胁, 因为使用人工智能和传播合成内容变得越来越容易, 这些内容可能会煽动虚假信息并迷惑选民。据新闻报道, 过去需要工作室预算和制作团队才能制作的内容，现在只需点击鼠标即可完成。结果是选民每天都在努力应对选举环境, 很难判断图片、帖子和视频的真实性, 比如最近广为流传的黑人选民支持特朗普总统的假人工智能图片。本次简报会, 将听取专家对人工智能推动的信息传播进行监测的意见, 并报告在 2024 年大选前, 推动新的立法控制的努力。特别令人担忧的是, 人工智能不仅会影响总统选举, 还会影响地方选举。 

非营利性监督机构 California Common Cause 的执行董事 Jonathan Mehta Stein 解释了为什么社交媒体平台很难删除被人工智能操纵的内容, 尽管有内容审核员和频繁的账户暂停。他表示, “ 随着 11 月美国大选的临近，网络虚假信息是一个非常现实的问题,  人工智能加剧了这种问题，它正在我们的民主制度中日益出现。随着问题的恶化，许多社交媒体平台都对此视而不见。这些威胁不是理论上的。我们已经看到孟加拉国、斯洛伐克、阿根廷、巴基斯坦和印度的选举, 受到人工智能深度伪造和虚假信息的影响。在初选之前，新罕布什尔州有一个假的拜登的自动电话，告诉民主党选民不要投票。上周美国司法部还挫败了俄罗斯的一场虚假宣传活动，该活动涉及近 1,000 个由人工智能生成的社交媒体机器人个人资料，这些个人资料在全国各地冒充美国人，宣传俄罗斯政府讯息。此外整个人工智能生成的本地新闻网站正在涌现，目的是进行俄罗斯主导的虚假宣传，其中包括《华盛顿周刊》、《纽约新闻日报》、《芝加哥纪事报》和《迈阿密纪事报》。如果我们不教育自己，印度就是一个很好的例子，说明美国会发生什么。随着印度选民被数以百万计的深度造假轰炸，候选人已经开始接受它们。这引发了一场军备竞赛，一些候选人使用自己和对手的深度伪造图像，而不想使用这些图像的候选人, 则觉得必须使用才能跟上。” Meta 已将部分事实核查功能设为可选项, 而 Twitter 已停止使用用于识别有组织的虚假信息活动的软件。YouTube、Meta 和 X 已停止标记或删除宣传 2020 年总统大选舞弊的虚假声明的帖子。所有这些平台都解雇了查核大量虚假信息和公民诚信的团队。他说, “ 真正的新闻是对假新闻的回应。我们正处于一个对政治新闻进行双重核查的时代。如果您看到某张图片或视频, 对某个政党或候选人帮助过大, 请退出社交媒体, 查看是否有人报道过。在分享拜登从空军一号楼梯上摔下来的视频之前，看看美联社、纽约时报、华盛顿邮报或您信任的当地媒体, 是否报道过或播出过该视频。” 

非营利组织华人平权运动的项目经理 Jinxia Niu 讨论了少数族裔媒体在监控虚假信息时面临的挑战。她表示, “ 有色人种社区面临挑战,  在过去 12 个月中，我们在所有主要的中文社交媒体上, 记录了 600 多条虚假信息。排名前两位的是支持或神化特朗普，以及攻击拜登和民主政策。今年人工智能虚假信息, 以更快的速度呈现了这个问题。我们社区面临的最大挑战是，我们的母语媒体往往缺乏资金和人员来核实信息。特别是在我们的移民和英语水平有限的社区，人工智能素养往往接近于零。我们已经看到中国社交媒体上的骗局，假冒的人工智能网红,  让粉丝购买假冒产品。想象一下如果假网红误导粉丝如何投票，这将有多么危险。虽然华人社区的大多数政治虚假信息, 都是直接从英文社交媒体翻译而来，但右翼华人网红分享的一些原创内容,  包括人工智能生成的前总统特朗普与黑人支持者互动的照片,  以及人工智能生成的攻击拜登总统的照片，将他的支持者描绘成疯子。亚裔美国人社区面临的一个巨大挑战是，这些虚假信息不仅在社交媒体上传播，而且还通过加密消息应用程序, 直接由有影响力的人、朋友和家人分享，最受欢迎的是华裔美国人使用的微信、印度裔美国人使用的 WhatsApp, 和韩裔和日裔美国人使用的 Signal。这些私人聊天变得像不受监管、未经审查的公共广播一样，由于善意的数据和隐私保护，你无法监控或记录它们。这造成了一个完美的困境，很难甚至不可能干预虚假和危险的信息。尽管如此, 我们正试图通过 Piyaoba.org 来解决这个问题。这是第一个针对华裔美国人社区的事实核查网站。例如这个语言资源提供了一个智能聊天框，可以将我们最新的事实核查发送给 Telegram 聊天群中的关注者。

内容监控平台 CrowdTangle, 该平台现归 Meta 所有, 前首席执行官兼联合创始人 Brandon Silverman 讨论了可以有效打击虚假新闻和信息的解决方案, 他表示, “ 这还不足以解决我们面临的更大问题。我认为人们对虚假信息最大的误解之一是，绝大多数虚假信息都违反了社交媒体平台的规则。相反虚假信息属于’有误导性, 但严格来说并非不真实’的灰色地带。在这个灰色地带, 平台很难尽快对直接虚假信息采取任何措施。此外人工智能生成, 或外国控制账户的存在, 并不意味着它们对某个话题或选举产生了可衡量或有意义的影响。虚假信息运动的目标之一, 就是用大量不可信的内容淹没整个区域, 让人们不知道该相信什么。” 目前正在打击人工智能虚假信息的大型组织, 包括 Knight 基金会及其选举中心, 该中心为美国新闻编辑室, 提供免费和补贴服务, 涵盖 2024 年联邦、州和地方选举；以及 Brennan Center 推出了 Meedan，这是一个致力于反虚假信息新闻共享软件和计划的非营利组织。在政策层面，他表示支持对大型平台数字广告收入的一定比例征税,  以资助地方层面的少数族裔和社区新闻。