焦点报道:“点击一下按钮”——深度假人工智能色情的祸害

运动作者 / 世界之声 / 2025-03-11 09:06
"
      新加坡:这些信件被送到他们的工作场所,在信中,他们的脸被叠加在一张猥亵的照片上,照片上一男一女处于“亲密而妥

  

  IN FOCUS: 'At the click of a button' – the scourge of deepfake AI porn

  新加坡:这些信件被送到他们的工作场所,在信中,他们的脸被叠加在一张猥亵的照片上,照片上一男一女处于“亲密而妥协”的姿势。

  联系这个电子邮件地址,否则,信中威胁。

  那些联系该电子邮件地址的人被要求将钱转到一个银行账户,否则泄露的照片和视频将在社交媒体上曝光。

  一名50岁的受害者转账了2万新元(合1.47万美元)。

  联盟咨询公司的临床心理学家哈尼塔·阿苏达尼博士说,深度色情的受害者会感到无助和无力。

  她说:“有人未经我的同意就使用了我的一部分——我的脸、我的照片、我的五官。”

  “侵入性是存在的。这取决于每个人,但侵犯的程度、震惊、羞辱、羞耻以及由此带来的社会后果可能与经历过性侵犯的人非常相似。”

  她说,一些受害者感到不安全,因为他们的信任被打破了。

  “我绝对担心任何会剥夺个人的同意和权力,侵犯人们界限的事情,”哈尼塔博士说。

  妇女行动与研究协会(AWARE)倡导和研究沟通主任苏吉达·尼提亚南森(Sugidha Nithiananthan)表示,近年来“深度造假激增”。

  她指出,身份验证平台Sumsub的一份报告称,从2022年到2023年,亚太地区的深度造假增加了1530%。

  她补充说:“与性暴力趋势相呼应的是,利用深度伪造技术在未经双方同意的情况下制作露骨的色情材料,主要针对的是女性。”

  叶先生上个月告诉中央通讯社,信中的图片并不复杂,质量也不高。它是黑白的,没有很好地渲染。

  但用不了多久,人们就能学会制作更好的深度造假所需的技能,包括在线造假。

  新加坡科技与设计大学(SUTD)副教授张毅文(音译)估计,学生大约需要一周的时间来学习制作一个相当逼真的深度假体所需的知识。

  换脸也不需要专门的设备。他说,一台具有“更高端”规格的电脑将允许用户将这些图像渲染得更逼真,并补充说这样的电脑是很容易获得的。

  这项技术正在不断进步,实时生成的深度伪造越来越接近现实。

  今年4月,微软推出了VASA-1项目,该项目可以“实时生成逼真的音频驱动的说话面孔”。

  它只需要一张照片和一分钟的音频剪辑就能生成一个逼真的会说话的头。其他一些音频AI工具需要更长的音频输入时间(10到15分钟)。

  深度伪造的可访问性和易用性是人工智能专家关注的问题。

  SUTD的助理教授Roy Lee说:“事实是,自从Photoshop出现以来,这些技巧或勒索威胁就一直存在,实际上可能更早。”

  “让我们担心的是,这太容易了。上次你可能需要成为一个Photoshop专家,基本上做对了,让它看起来很逼真。

  他说:“现在,只需点击一个按钮……它让事情变得更容易,让事情变得更现实,因为生成式人工智能正在提高其性能。”

  加上照片和视频在互联网上广泛传播的事实,人们的担忧变得更大了。

  他说:“互联网和生成式人工智能带来了所有积极的东西,但也总有不利的一面。”“如果你滥用它,那么它就会更普遍,更现实。”

  去年,一位名叫雷切尔的抖音用户公开了她的痛苦经历,人们使用人工智能工具生成她的假裸照,然后将这些照片发送给她和其他在线用户。

  她在Instagram上收到了一条包含她的假裸照的直接信息。这名匿名用户使用了她公开资料上的照片,并通过“深度假人工智能程序”制作了这些淫秽图片。

  在TikTok的一段视频中,她谈到了收到这条消息,并说她忽略了它。

  随后,她收到了数十条包含人工智能生成的她的裸照的信息,这次是来自其他用户。

  在随后的一段视频中,可以看到她哭着要求虐待她的人停止制作这样的图像,称他们是“强奸犯”。

  当CNA在谷歌上搜索她的抖音用户名时,她似乎已经删除了自己的账户。几个色情网站也出现在搜索结果的第一页。

  联盟咨询公司的哈尼塔博士说,当一个人的照片被滥用时,他们可能不知道是否发生了犯罪,也不知道警察是否可以帮助他们。

  他们周围的人可能无法感同身受或产生共鸣。

  “然后你开始想,我正在经历的是真的吗?”这有什么大不了的吗?因为犯罪感觉很遥远,他们把我的照片用另一种方式使用。这是真的吗?

  “但我会说这是非常真实的....我认为这个人可能不知道如何举报犯罪,也不知道该怎么做。”

  一些受害者出现创伤后应激障碍、焦虑或抑郁的症状。

  警方告诉中央通讯社,受害者护理人员接受过警方心理学家的培训,可以为那些被评估需要帮助的人提供情感和实际的支持。

  哈尼塔博士说,一些受害者可能会感到羞耻,想把事情藏在心里,或者最终责怪自己。

  “首先要记住,这不是你的错,”她说。“这是你的形象,无论你选择如何使用它,它都有另一种使用方式。

  “即使你拍了一张自己的性感照片放到网上,你也选择以这种方式——社交媒体的方式——使用这张照片,而不是以其他方式使用。”

  朋友和家人可以在情感上和实践上支持受害者,比如和他们一起去报案,帮助收集证据交给警方。

  “不要责备那个人。尊重他们,对他们正在经历的事情表示同情和同情。”“这很有帮助,也很有力量。”

  她呼吁人们也要共同努力,举报可疑的图片或账户,即使他们不认识涉案人员。

  “作为一个社区,这是我们可以做的,以提高警惕。要知道这是不好的,这并不好笑……因为某人的图像被用于性行为,或者贬低或羞辱他们。”

分享到
声明:本文为用户投稿或编译自英文资料,不代表本站观点和立场,转载时请务必注明文章作者和来源,不尊重原创的行为将受到本站的追责;转载稿件或作者投稿可能会经编辑修改或者补充,有异议可投诉至本站。

热文导读