威廉·佩鲁吉尼/Shutterstock在众多“对社会和人类造成深远的风险” 引起技术专家对人工智能 (AI) 的担忧，而虚假图像的传播是日常互联网用户所熟悉的。
Deepfakes——对某人的脸部或身体进行数字修改的视频或照片，使他们看起来在做一些他们没有做的事情——已经被用来传播 政治虚假信息 和 假色情内容.
这些图像通常是恶意的，用于抹黑主体。 当谈到深度伪造色情内容时， 绝大多数受害者是女性。 生成式人工智能——用于创建文本、图像和视频的技术—— 已经在制作 基于图像的性虐待更容易实施。
一个新的 一套法律 在英国，将把共享深度伪造色情内容定为犯罪。 但随着人们对人工智能和深度造假的关注，我们不能忘记不太复杂的技术如何被用作滥用工具，给受害者带来毁灭性后果。
技术与控制
当我开始研究虐待关系中的技术时，深度造假只是地平线上的一个小插曲。 我的工作重点是 智能手机的作用 虐待逃离控制关系的妇女。 我发现家庭暴力的肇事者正在利用技术来扩大他们对伴侣的权力和控制范围，这是一种现代的虐待策略 很久之前 每个人的口袋里都有智能手机。
手机可以直接使用 GPS 跟踪或通过短信、视频和语音电话轰炸受害者来监视和控制。 我的一位参与者 在2019的研究 解释了她的虐待伴侣如何使用手机访问社交媒体，通过 Instagram 发送攻击性照片以及持续不断的攻击性 WhatsApp 消息。
当她和朋友出去时，他会先发短信、打电话，然后不断地给她视频电话，看看她在哪里，看看她和谁在一起。 当参与者关掉手机后，她当时的伴侣联系了她的朋友，用短信和电话轰炸了他们。
该参与者感到太尴尬，无法安排与同龄人见面，因此不再外出。 如果朋友想避免被施虐者联系，其他处于类似情况的人可能会被排除在社交计划之外。 这种社会孤立是家庭暴力的常见组成部分，也是控制关系的重要指标。
据家庭暴力慈善机构“避难所”称， 超过72％ 使用其服务的人报告涉及技术的滥用行为。
手机是通过“物联网”连接其他设备的网关，即连接网络并能够交换数据的设备。 这些工具也可能被滥用者武器化。 例如，使用手机 更改温度设置 在家用恒温器上，从一小时到下一小时都会产生极端情况。
人们对此感到困惑，向伴侣寻求解释，却被告知这一定是他们的想象。 煤气灯操纵技术 这样会让受害者质疑自己的理智，从而削弱他们对自己判断的信心。
现代圆形监狱
只需按一下按钮，移动电话就可以对其他人进行前所未有的监视。 在犯罪者的口袋里，它们可以用来随时随地监视现任和前任伴侣（只要信号允许）。 这给了犯罪者一个 无所不能的力量，让受害者相信他们正在被监视，即使实际上并非如此。
这让人想起 18 世纪哲学家杰里米·边沁 (Jeremy Bentham) 的著作，他提出了“圆形监狱”的概念。 边沁提出了一个“完美”的监狱系统，其中一座警卫塔位于中心，周围是单独的牢房。
囚犯们彼此隔离，只能看到塔楼——这不断提醒他们，他们永远受到监视，尽管他们看不到塔楼内的警卫。 边沁相信这样的结构会导致囚犯自我监视，直到最终不再需要锁或栅栏。
我最近的研究 研究表明，手机在虐待关系中也产生了类似的动态。 电话扮演了塔楼的角色，而肇事者则是塔内的守卫。
在这个现代圆形监狱中，受害者可以外出走动，陌生人、朋友和家人都可以看到。 然而，由于手机的存在，他们觉得自己仍然受到虐待伙伴的监视和控制。
正如一位参与者所说：“即使外出，你也会感到没有自由。 你感觉自己被锁在某个地方，没有自由，有人在控制你。”
即使施暴者不在场，虐待幸存者仍会继续自我监控。 他们的行为方式相信会取悦（或至少不会激怒）施虐者。
这种行为常常被其他人视为奇怪的，并且很容易被视为偏执、焦虑或更严重的心理健康问题。 焦点集中在受害者的行为上，而忽略了原因——其伴侣的虐待或犯罪行为。
随着技术变得更加复杂，滥用者可用的工具和策略将不断发展。 这将扩大犯罪者的影响范围，并为监视、煤气灯操纵和虐待提供新的机会。
在科技公司考虑家庭暴力幸存者的经历并在其产品设计中建立安全机制之前，虐待将继续存在 隐藏在清晰的视线中.
