加利福尼亚州现在在2024年选举前签署了三项具有开创性意义的提案，此举使该州成为美国对打击选举Deepfakes（利用AI制作的虚假图像和视频）的法律最严格之一，加州州长加文·纽森本周在旧金山的一次人工智能会议上签署了这些提案。

该州可能是第一批测试此类立法的州之一，该立法禁止在选举日前在政治广告中使用AI制作和传播虚假图像和视频。

但现在，其中两项法律，包括一项旨在遏制今后选举中此类做法的法律，正通过在萨克拉门托提起的一起诉讼面临法院质疑。

其中一项立即生效的法律允许任何人因选举Deepfakes而提起损害赔偿诉讼，而另一项则要求大型在线平台，如X公司，在明年开始删除欺诈材料。

该诉讼是由一个制作涉及修改副总统和民主总统候选人卡玛拉·哈里斯音频的恶搞视频的人提起的，他表示这些法律审查了言论自由，并允许任何人针对他们不喜欢的内容采取法律行动。埃隆·马斯克，社交媒体平台X的所有者，分享了他的视频之一，而后这促使纽森在X上发布一篇帖子誓言禁止此类内容。

州长办公室表示，该法律并不禁止讽刺和恶搞内容。相反，它要求使用AI的披露在修改后的视频或图像中显示。

新闻发言人伊齐·加尔登在一份声明中表示：“尚不清楚为何这位保守派活动人士起诉加州。这项选举虚假信息的新披露法并不比其他州已通过的法律更繁重，包括阿拉巴马州。”

代表申诉人的律师西奥多·弗兰克表示，加州法律覆盖范围太广，旨在“被迫社交媒体公司审查和骚扰人们。”

“我对阿拉巴马州的法律不太熟悉。另一方面，阿拉巴马州州长并没有像加州州长那样威胁我们的客户。”他对美联社表示。

据悉，这起诉讼似乎是美国就此类立法提出的首次法律挑战。弗兰克告诉美联社，他计划就明尼苏达州的类似法律提起另一起诉讼。

此类立法的出现使得十几个州的立法者在AI崛起加速了全球选举虚假信息威胁之后提出类似建议。

在纽森周二签署的三项法律中，有一项立即生效，以防止2024年选举中的Deepfakes，覆盖范围最为广泛。它不仅针对可能影响人们投票方式的材料，还包括任何可能误传选举公正性的视频和图像。该法律还涵盖了描述选举工作人员和投票机器的材料，不仅仅限于政治候选人。

该法律禁止在选举日前120天和选举日后60天内制作和发布与选举相关的虚假材料。它还允许法院停止这些材料的传播，违规者可能面临民事处罚。该法律排除了恶搞和讽刺。

纽森和立法者表示，该法律的目标是在“紧张的政治氛围”中防止美国选举公信力的侵蚀。

但言论自由倡导者和马斯克等批评者称加州新法律违宪，侵犯第一修正案。在这些法律签署后的几小时内，马斯克在周二晚上在X上分享了一则标有卡玛拉哈里斯音频更改的AI生成视频的帖子。

“加利福尼亚州州长刚刚让这个恶搞视频违法，违反了美利坚合众国宪法。如果这个视频传播开来就太糟糕了，”马斯克在这个标有恶搞字样的AI生成视频上写道。

公民公益组织的伊拉娜·贝勒表示，还不清楚这些法律在阻止选举Deepfakes方面的效果如何。该组织跟踪与选举Deepfakes相关的州立法。贝勒表示，这些法律尚未在法庭上进行测试。

法律的有效性可能受到法院对这种技术的缓慢反应影响，这种技术可以制作政治广告的虚假图像并以极快的速度传播。

需要几天时间才能让法院下令停止这些内容的传播，而那时，对候选人或选举造成的损害可能已经发生，贝勒说。

“在理想的世界中，我们应该能够在内容发布时立即删除它，”她说。“因为你越快删除内容，就越少人看到它，越少人通过转发等方式传播它，你释放成功的速度就越快。”

她说，虽然这样的法律规定有望成为潜在违规行为的威慑力量。

议员盖尔·佩勒林拒绝就这起诉讼发表评论，但表示她所起草的法律是一个简单的工具，用以避免虚假信息。

佩勒林表示：“我们的意图是，嘿，只要标记视频为数字修改的恶搞目的，那么很明显它就是讽刺或恶搞。”

纽森周二还签署了另一项法律，要求竞选活动在2024年选举后的明年开始披露AI生成的材料。