冒充拜登的机器人语音电话录音：把你们的选票留在11月份再投很重要。在这周二（23日）投票，只会让共和党人得逞，让特朗普再次当选为共和党候选人。

　　上周美国总统大选共和党党内初选在新罕布什尔州举行前，部分选民接到了这样一通来电。白宫新闻秘书卡里娜·让-皮埃尔22日证实，这一来电是“伪造，不是由总统录制”。

　　美国媒体日前援引消息人士的话报道称，美国人工智能初创公司“十一实验室”暂时关闭了一名用户的账户。美国语音欺诈检测公司——“静默”公司称，分析发现，“十一实验室”公司的科技被用于制作冒充拜登的机器人语音电话录音。“十一实验室”公司在一份声明中称将严肃对待人工智能技术被滥用的情况，但对近日引发关注的“假拜登来电”事件不予置评。

　　不久前，硅谷的科技开发者为总统参选人迪恩·菲利普斯创造了一个仿真聊天机器人，称用户可以与模仿菲利普斯的人工智能产品对线日，美国人工智能公司OpenAI表示，已经停用了该开发者账户，称这一做法违反了该公司禁止在竞选活动中滥用人工智能技术的政策。

　　在去年2月举行的芝加哥市长选举第一轮投票前夕，社交媒体上出现了一段关于候选人保罗·瓦拉斯的视频，伪造瓦拉斯的声音发表言论，声称“警察随随便便就可以射杀嫌疑人”，并呼吁削减警察经费。

　　在瓦拉斯向社交媒体平台发出投诉之后，社交媒体删除了这段视频，但该视频在下架前已经被浏览了数千次。

　　当前，人工智能的兴起推动了各行业的变革创新，但同时也引发了人们的不少担忧。其中，基于人工智能技术的“深度伪造”现象受到广泛关注。“深度伪造”是指对一个人的声音或图像进行数字更改并意图造成伤害。这种行为目前不仅出现在美国政治中，也波及美国娱乐圈乃至人们生活的方方面面，引发美国舆论的担忧和批评。

　　美国媒体“微软—全国广播公司”在报道中提出疑问，2024年将是“深度伪造”的大选年吗？

　　美国网络安全专家 克里斯·克雷布斯：生成这类内容非常容易，这就是所谓的20秒规则。只需要一个人20秒的声纹，就能生成这样的内容。我认为执法部门、联邦调查局和司法部长办公室将面临一些挑战。不幸的是，我认为这只是我们将在选举季看到的冰山一角。

　　美国政府监管组织“捍卫公众利益组织”负责人罗伯特·韦斯曼批评称，政治“深度伪造”时刻已经到来，政策制定者必须尽快采取保护措施，否则将面临选举混乱。“深度伪造”会播下混乱的种子，使欺诈行为永久化。

　　近日，美国流行乐歌手泰勒·斯威夫特也成为“深度伪造”技术的又一受害者，虚假合成的不雅照在社交网络疯狂传播，引发美国媒体对人工智能技术被滥用的质疑。

　　白宫发言人 卡里娜·让－皮埃尔：虽然社交媒体公司在内容管理方面有独立决策权。但我们认为，它们在严格落实其监管制度上应起到重要作用，以防止错误信息和未经本人允许的私密图像传播。令人遗憾的是，我们都知道，执法不严对妇女和女孩的影响更为恶劣。

　　人工智能技术飞速发展，但美国相关的监管政策和立法却跟进迟缓。业内人士指出，科技发展的双刃剑仅靠企业的自律是无法掌控的，人工智能技术的滥用迫切需要政府监管。

　　美国消费者技术协会首席执行官 夏皮罗：政府需要在人工智能领域扮演重要角色，确保设置安全屏障和护栏，让产业内人士知道，哪些能做，哪些不能做。

　　2023年10月，美国总统拜登签署行政令，为本国人工智能安全制定新标准，要求美国人工智能系统的研发人员与政府分享其安全测试结果及其他关键信息、完善相关标准和测试工具等，但该行政令缺乏强制执行效能。

　　密尔沃基工程学院计算机科学项目主任 德里克·赖利：我们的政府行动不够快，跟不上正在发生的变化。所以我认为，我们不太可能看到有效的监管。