Compass Investments

– In this post.OpenAI 在 ChatGPT 上阻止了超过 250000 次生成 2024 年美国总统候选人图片的尝试，以防止通过 AI 进行政治误导。今年，虚假内容的数量增加了 900% ，美国情报机构将其中一些内容与俄罗斯破坏选举的企图联系起来。

纽约总检察长警告说，人工智能聊天机器人经常提供不准确的选举信息，建议人们相信官方消息来源。OpenAI证实，其流行的人工智能工具ChatGPT阻止了超过25万个获取2024年美国总统大选主要候选人图片的请求。用户多次试图让 ChatGPT 创建当选总统唐纳德-特朗普、当选副总统卡马拉-哈里斯、现任总统乔-拜登、明尼苏达州州长蒂姆-瓦尔兹和当选副总统JD-万斯的图像。然而，OpenAI 对所有这些请求都予以了拒绝。这大概是为了防止 ChatGPT 成为高风险虚假信息游戏中的一枚棋子。 在美国大选前夕，OpenAI 希望 ChatGPT 不要参与选举。政治造假、人工智能制造的假新闻以及彻头彻尾的谎言在互联网上如野火般蔓延。据美国情报机构称，其中一些信息与试图控制美国政治的俄罗斯特工有关。他们追踪了全球20个使用人工智能工具在网上影响人们思想的阴暗行动。他们中的一些人在网站上发布人工智能生成的文章，另一些人则在虚假的社交媒体账号上发布宣传信息。然而，据OpenAI团队称，他们能够在这些网络广泛传播之前就将其关闭。

尽管如此，这还不足以让所有人满意。一些立法者、技术观察家和怀疑论者对选举季期间让聊天机器人自由发挥作用的危险发出了警告：虽然人工智能聊天机器人确实令人印象深刻，但它们偶尔还是会产生一些有问题的信息。民主与技术中心（Center for Democracy and Technology）首席执行官亚历山德拉-里夫-吉文斯（Alexandra Reeve Givens）上周表示：这些信息的准确性和完整性存在太多隐忧。她说，当她的团队提出与选举有关的问题时，他们并不喜欢收到的回复。错误的信息击中了目标。

总检察长办公室说：纽约人如果依靠聊天机器人而不是政府官方来源来回答与投票有关的问题，就有可能被误导，甚至因为不准确的信息而失去投票的机会，OpenAI已经在ChatGPT中添加了一项功能，鼓励用户在查询选举结果时咨询可靠的新闻来源，如美联社和路透社；该功能于11月5日推出，是一项软呼吁。

今年，世界各地的政治活动可能会影响到 40 多个国家的 40 多亿人。由于事关重大，人工智能生成的虚假信息跨境传播的风险非常高。其中一些虚假视频与俄罗斯支持的影响力活动有关，这进一步凸显了问题的严重性。