总统乔·拜登的政府正在敦促科技行业和金融机构关闭利用人工智能技术制作的不断增长的色情图片市场。
新的生成式人工智能工具让将某人的肖像转换为色情人工智能深度伪造图像变得轻而易举，并在聊天室或社交媒体上分享这些逼真的图像。受害者——无论是名人还是儿童——几乎无力阻止这种行为。
白宫5月23日发出呼吁，寻求企业在联邦立法不力的情况下自愿合作。通过承诺采取一系列具体措施，官员们希望私营部门能够遏制此类未经同意的人工智能图像（包括儿童的露骨图像）的制作、传播和货币化。
“随着生成式人工智能的出现，每个人都在猜测第一个真正的危害会来自哪里。我认为我们已经找到了答案。”拜登的首席科学顾问、白宫科技政策办公室主任阿拉蒂·普拉巴卡 (Arati Prabhakar) 说。
她向美联社描述了人工智能工具推动的非自愿性图像的“惊人增长”，这些图像主要针对妇女和女孩，其方式可能会颠覆她们的生活。
“如果你是一名少女，如果你是一名同性恋孩子，这些都是人们现在正在经历的问题。”她说，“由于生成式人工智能的发展速度非常快，我们看到了加速发展。最快的事情就是公司站出来承担责任。”
一份在5月23日发布之前与美联社分享的文件呼吁，不仅是人工智能开发商，还有支付处理商、金融机构、云计算提供商、搜索引擎和控制移动应用商店内容的看门人——即苹果和谷歌，联手采取行动。
政府表示，私营部门应加大力度“阻止基于图像的性虐待的货币化”，特别限制那些宣传未成年人露骨图像的网站的付费访问。
无论是人工智能生成的，还是发布到互联网上的真实裸照，当事人都应该能够更轻松地让网络平台将其删除。
最广为人知的色情深度伪造图片受害者是当今最走红的美国歌星泰勒·斯威夫特。今年 1 月，当这位歌手兼词曲作者的 AI 生成的辱骂性图片开始在社交媒体上流传时，她的狂热粉丝群进行了反击。在部分斯威夫特图片被追溯到其 AI 视觉设计工具后，微软承诺将加强其保障措施。
美国和其他地区越来越多的学校也在努力应对人工智能生成的学生深度假照。在某些情况下，一些青少年被发现制作人工智能处理过的图像并与同学分享。
去年夏天，拜登政府促成了亚马逊、谷歌、Meta、微软和其他大型科技公司的自愿承诺，在新的人工智能系统公开发布之前采取一系列保护措施。
随后，拜登于 10 月签署了一项雄心勃勃的行政命令，旨在指导人工智能的发展，使公司能够在不危及公共安全的情况下获利。虽然重点关注更广泛的人工智能问题，包括国家安全，但它也承认人工智能生成的虐待儿童图像这一新问题，并找到了更好的检测方法。
但拜登还表示，政府的人工智能保障措施需要立法支持。美国两党参议员目前正在敦促国会在未来三年内至少投入 320 亿美元开发人工智能并资助安全引导人工智能的措施，尽管他们基本上推迟了将这些保障措施制定成法律的呼吁。
