24岁华裔女子被AI生成色情片主角!曾一度想自杀的她,如今成立公司开发软件帮助更多受害者……

21 天前
12.9k 次浏览
时事新闻
 

2020年,当一位朋友打电话给 Breeze Liu 说有人在网上发布了她的色情视频时,她感到莫名其妙并说:“这不是真的,一定是你弄错了!”

然而,很快她就在一个被广泛使用的成人网站上看到了这段经过修改的视频。其中她的脸真出现在视频里,这让她感到十分恶心和不安。

当时年仅24岁的 Liu 说:“我很伤心!我感到非常羞辱,非常无助。”

羞愧难当的她甚至走到父母公寓楼的屋顶上,想以此结束自己的生命。 她回忆说:“我满脑子想的就是,我还不如死了好。”

不过,Liu 那天没有选择轻生。相反,她勇敢地报了警,同时还向警方提供了她怀疑制作该视频的人的名字。此人是她两年前从加州大学柏克莱分校毕业前认识的一名学生。 但她很快又陷入到绝望中,因为她了解到,警方几乎没有可以使用的工具来处理这类案件。

Liu 的遭遇促使她去解决所谓的“深度伪造色情片”(deepfake)的技术噩梦。技术利用人工智能(AI)技术将他人的脸部置入色情内容中,以模仿真实的视频。

Liu 在加密货币领域工作了多年,现在正在开发免费使用的面部识别软件,该软件将允许受害者识别伪造和滥用内容,然后将其删除。她说:“除非我改变整个系统,否则正义对我来说是不可能的。”

Liu 于 2013 年从中国移民到美国,当时她年仅 17 岁。与许多 deepfake 受害者一样,她眼睁睁地看着自己的生活因不实内容的传播而发生翻天覆地的变化。该事件的发生,让她在10天之内瘦了 12 磅。

在与犯罪嫌疑人对峙后,他最初从第一个成人网站上删除了这段视频,后来又在数百个其他网站上分享了类似的帖子。Liu 说,她拒绝了他的追求,因此他想“羞辱我”。

当她向警方求助时,所发生的事情也让她感到震惊。Liu 说: “他们问我是否曾经卖淫或用裸体视频换取金钱”。Liu 还指出他们的调查在三个月后结束。

Liu 最终发现了 800 多个与她有关的 deepfake 内容的链接,但由于官僚主义障碍,将它们全部删除的努力被证明是徒劳的,她说她了解到这种结果太常见了。

多方求助无果后,Liu 于 2022 年用自己的积蓄创办了位于旧金山的 Alecto AI 公司。该公司采用面部识别技术,帮助用户根据自己的肖像定位 deepfake 假视频和其他内容,然后与主要平台合作将其删除。

在全面推出之前,Alecto AI 仍在等待新一轮的融资。但 Liu 的合资企业无疑为解决这一影响深远的问题提供了急需的工具。

目前,针对 deepfake 伪造色情内容的制作和传播尚无法律约束,而这些内容可以在几分钟内借助人工智能轻松完成。

Liu 坦言:“我无法控制国会或执法部门的行动,但有一件事是我们可以控制的——那就是我们自己在网络上的形象主权。我正在构建的这款软件是受害者夺回权力的第一道防线。”“我曾想过逃避、躲藏,但现在,我不会再这样做了。”

责任编辑:  
来源:  People
点赞 (0)
脸书分享
微信分享
0条评论