数千张女性的伪造裸体照变成了现实
超过10万张女性照片被软件删除了衣服，其中包括18岁以下女孩的照片
《华盛顿邮报》报道说，一个人工智能服务机构已经拍摄了超过10万名穿衣服的女性照片，并操纵这些照片来展示她们脱掉衣服的样子。原始照片通过加密平台Telegram接收，然后通过人工智能服务的技术运行。照片中的女性并不同意使用它们，这引发了人们对潜在骚扰和勒索的担忧。意大利数据保护局加兰特宣布对此事展开调查。
一项在网络上免费提供的人工智能服务，在未经女性知情或同意的情况下，将超过10万张女性图片转换成裸照，引发了人们对新一轮破坏性“深度伪造”可能被用来骚扰或勒索的担忧。
通过自动化服务的用户可以匿名提交一张穿衣服的妇女的照片，并在脱掉衣服的情况下收到修改后的照片。这项人工智能技术是在真实裸照的大型数据库上训练出来的，它可以生成看起来逼真的赝品，匹配肤色，并在衣服曾经所在的地方更换敏感部位。
这些女性的脸仍然清晰可见，而且没有任何标签附在图像上，以表明她们是假的。一些原始图像显示18岁以下的女孩。
这项服务允许人们通过加密短信应用程序Telegram上的自动“聊天机器人”下新订单，这项服务首先由阿姆斯特丹网络安全初创公司Sensity的研究人员发现，该公司与《华盛顿邮报》分享了这一发现。
研究人员发现，聊天机器人和其他几个附属频道已经被全球超过10万名会员使用。在一项内部调查中，很多用户表示，他们想脱衣服的人中，大约63%是他们从现实生活中认识的女孩或女人。
该组织首席执行官乔治•帕特里尼（Giorgio Patrini）表示，聊天机器人标志着这项技术应用方式的一个黑暗转变，从伪造名人和知名人物的形象，到瞄准远离公众视线的毫无戒心的普通女性。
帕特里尼在接受采访时说：“事实是，现在我们每个人，只要拥有一个社交媒体账户，公开发布自己和生活的照片，我们就面临威胁。”“仅仅拥有一个在线角色，我们就很容易受到这种攻击。”
十年前，制造一个同样令人信服的赝品需要先进的照片编辑工具和相当高的技能。甚至在几年前，利用人工智能技术制作逼真的假裸体——比如将女性名人、记者和其他女性叠加到敏感场景中的“深度假造”色情视频——需要大量的图像数据和计算资源。
假色情视频被武装起来骚扰和羞辱女性：“每个人都是潜在目标”
但是使用聊天机器人，创建一个裸体的人的身体渲染就像从你的手机发送一个图像一样简单。这项服务还将所有这些新生成的假裸体放入每天更新的照片库；已经有超过25000个帐户订阅了每日更新。
内部调查显示，该软件最大的用户群在俄罗斯，不过成员也来自美国，遍布欧洲、亚洲和南美。
新用户可以免费索取他们的第一批假裸体照片，但鼓励他们付费继续使用。初学者的价格为新用户提供7天内100张假照片，价格为100俄罗斯卢布（约合1.29美元）。“付费”会员可以要求制作没有水印的假裸照，并将其隐藏在公共频道中。
《邮报》周一通过电报采访了聊天机器人的管理员，他拒绝透露自己的名字，但辩称该工具是一种无害的性偷窥行为，并表示其运营商对其用户群攻击女性的行为不承担任何责任。
但技术和法律专家认为，该软件正在为一群不知名的陌生人将女性的照片武器化，并预示着一个新时代的虚构复仇色情。
一些科技巨头已经对深度伪造和其他“被操纵的媒体”采取了反对的立场，但由于该系统的源代码已经被在线仿冒者广泛共享，专家们认为没有很好的方法来阻止类似软件在不受监管的网络上创建、托管和共享假裸照。
一些目标女性是受欢迎的艺人或社交媒体影响力者，拥有大量受众。但在这个机器人制作的公开照片中，许多照片都是来自日常工作者、大学生和其他女性，这些照片通常是从她们的自拍照片或在TikTok和Instagram等网站上的社交媒体账户上拍摄的。
波士顿大学法学教授丹妮尔·西特龙（Danielle Citron）研究网络对“私密隐私”的侵蚀，她说，她采访了数十名女性，讲述了在网上分享真实或人造裸照的经历。许多人说，他们对自己的照片被网上陌生人看到并保存下来深感痛苦，还有可能是他们的同事和同学。
“你拿走了我的身份，把它变成了色情。这非常有害，而且错误，”西特龙说。“你的尸体在未经你允许的情况下被拿走脱衣，而且有文件证明。. . 理智上，[你]知道这还没有发生。但当你看到它的时候，感觉好像有，你知道别人不会总是知道“它是假的”。
她补充道：“你对自己在这个世界上的安全感造成的脆弱性：一旦别人从你那里夺走了它，就很难收回”。
软件在提交请求时会给用户提供建议，建议将原始照片集中在女性胸部，并让她们穿着内衣或泳衣展示，以获得最佳效果。但许多图片显示的是女性穿着不显眼的校服或日常服装，比如T恤和牛仔裤。
然而，这项自动化服务只对女性有效：提交一张男性或无生命物体的图像，然后将其转换为女性。
该软件的管理员周一在一次私人聊天中对《邮报》说，他们对请求者如何使用该软件不承担责任，他们辩称，无论如何，该软件都是免费提供的。“如果一个人想毒死另一个人，他会在没有我们的情况下这样做，他将对他的行为负责，”管理者写道。
Sensity研究人员统计了104000多张女性裸体照片，并在公共渠道上分享。该服务的一个网站显示，这一数字要高得多，687322名“女孩裸体”，83364名“男性分享”，但该网站管理员表示，这一数字是随机的，仅用于广告，因为他们不保存处理过的照片的统计数据。
软件的规则说，它不允许伪造未成年女孩裸体。但该服务公开可见的收藏品以少女为特色，其中包括一位16岁的流行TikTok个性人物。
管理员说，这个系统的设计仅仅是为了满足用户的幻想，每个看到这些图片的人都会意识到它们是假的。
“你大大夸大了真实性，”管理员说。“放大后每张照片都会显示很多像素。它所能做的就是让幻想成为现实，想象并理解它不是真实的。”
管理员还说，在我们整个工作期间，该服务没有收到一个女孩的投诉，并试图把责任推到假货受害者身上，因为他们在网上发布了他们的照片。
“要使用神经网络，你需要一张穿着泳衣或穿着最少衣服的照片。一个女孩把一张穿着泳装的照片放在网上让大家看-她做这件事的目的是什么？“管理员写道。“90%的女孩发布这样的照片是为了吸引眼球。”
然而，根据《邮报》记者的提问，管理员表示，他们已经禁用了机器人的聊天和图库功能，因为“对内容有很多抱怨”。创建新图像和先前生成的图像的服务仍然在线。
提供端到端加密和私人聊天功能的Telegram的代表周一没有回应记者的置评请求。
Telegram messaging应用程序的创始人是如何与克里姆林宫抗衡并获胜的。
罗格斯大学（Rutgers University）的助理教授布里特•帕里斯（Britt Paris）曾研究过深赝品，他说，操纵者通常把自己的工作描述为以轻松愉快的方式尝试新技术。但是，她说，这种辩护很容易忽略了这些画面是多么的厌女和毁灭性。
“这些业余社区在网上总是用‘我们只是‘。帕里斯说：“玩裸体小鸡的照片是为了好玩。”。“但这掩盖了整个问题，对于那些被当作目标的人来说，它会以很多真正有害的方式扰乱他们的生活。”
这款软件是基于开源的“图像到图像翻译”软件pix2pix构建的，该软件于2018年由加州大学伯克利分校的人工智能研究人员首次披露。通过向系统提供大量真实图像，它可以识别视觉模式，进而创建自己的赝品，将风景照片从白天转换到晚上，或者从黑白转换成全彩。
该软件依赖于人工智能的突破性进展，称为“生成性对抗性网络”（generative atterial networks，简称GANs），近年来由于其处理成堆数据和生成逼真的视频、图像和文本段落的能力而大受欢迎。
约会应用需要女性。广告商需要多样化。人工智能公司提供了一个解决方案：假造人
pix2pix背后的研究人员庆祝它对艺术家和视觉创造者的潜在好处。但去年，一位匿名程序员在数千张裸体女性照片上训练了底层软件，有效地教会了该系统如何将女性从穿衣服变成裸体。
在科技博客Motherboard去年就这款名为deepnute的应用发表文章后，开发者对网上的强烈反应是将免费下载的应用下线，称“人们滥用它的概率太高了
深奥的学习先驱Andrew Ng去年称之为“AI最令人厌恶的应用之一”，他补充说：“对AI社区来说，你拥有超级能力，你所建造的东西很重要。请把你的力量用在推动世界前进的有价值的项目上。”
但聊天机器人的存在表明，要彻底根除这种软件几乎是不可能的。原始应用程序的源代码已经保存并在网上广泛传播，包括提供生成图像以换取少量费用的营利网站。
顶尖人工智能研究人员竞相检测“深度伪造”视频：“我们的武器比我们强”
加州大学的一位专门研究女性裸体图像同质化问题的科学家皮克斯也曾表示，该系统的研究对象往往是男性，而非女性。
他说，人工智能研究人员长期以来一直信奉一种天真的技术乌托邦式的世界观，这种观点很难再被证明是正当的，他们公开发布不受监管的工具，而不考虑它们在现实世界中如何被滥用。
“这只是人们发现的另一种将技术武器化对付女性的方法。一旦这些东西上线，就这样。每一个潜在的男朋友或女朋友，你的雇主，你的家人，最终都可能看到它，”法里德说。“这太可怕了，女人们首当其冲。
“一个不以男性为主导的实验室，会不会变得如此傲慢，如此不在乎风险？他补充道。“如果那些不好的事情发生在他们身上，（人工智能研究人员）会不会变得如此傲慢，而不是街上的某个女人？”
这个问题已经成为世界上许多妇女的现实。该软件攻击的一名女子是俄罗斯的一名艺术学生，她要求匿名，因为她不想与这些“蠢人”扯上关系，她从Instagram账户上拍下了一张自己穿着背心的照片，并将照片变成了一张假裸照。
在一次采访中，她把这件赝品比作有人在抹黑她的名字，但她说她很感激有足够多的人认识她，意识到这可能不是真的。
她说：“做这种肮脏行为的骗子不会得逞。”。“我相信因果报应，对他们来说，不会比他们自己的行动更干净。”
Isabelle Khurshudyan和Will Englund对本报告作出了贡献。（文章来源：数据法盟）
