私营公司在没有独立监督或监管的情况下监管在线仇恨，这会产生严重影响并对基本人权和自由构成风险。 （存在Shutterstock）
最近在弗吉尼亚州夏洛茨维尔举行的武装白人至上主义者的火炬点燃游行继续引发关于如何监管仇恨团体的争论。 在游行结束后公众压力越来越大的情况下，互联网公司急于从其平台上删除支持暴力仇恨言论的网站。
GoDaddy 终止其域名服务 到新纳粹网站The Daily Stormer，就像那样 谷歌。 Cloudflare也是一家保护网站免受在线攻击的公司 禁止 来自其平台的仇恨网站。 俄罗斯下令该网站被禁止 来自在该国的托管。
我的研究 和我的书 Chokepoints：互联网上的全球私人监管 证明许多互联网公司已经“自愿”删除内容并禁止用户 - 也就是说，在没有立法或任何司法程序的情况下。 包括Google，PayPal，GoDaddy，Twitter和Facebook在内的主要中介机构自愿监管其平台上的儿童性虐待内容，极端主义和假冒商品的非法交易。
很多人都赞赏这些努力来消除仇恨言论和其他令人反感的内容。 然而，互联网公司作为事实上的言论监管者的努力提出了严重的问题：如何监管在线内容？ 通过谁？
我不支持白人至上主义者，我也不反对对这种言论进行一些监管。 相反，我说我们需要认真考虑如何规范在线内容，因为下一个案例可能不那么明确。
依靠强大的公司来监管互联网存在重大问题，因为他们的执法行为非常不透明，容易被任意解释。
令人不安的先例
Cloudflare首席执行官马修·普林斯（Matthew Prince）公开反对“每日斯托默”（Daily Stormer）对互联网公司的欢呼声形成鲜明对比，他提出了一个细致入微的警示视角，警告说，为应对公众压力而从仇恨团体中撤回服务，这使得在线言论受到警惕成为一个令人不安的先例。
在一个 博客文章 在解释Cloudflare对Daily Stormer的行为时，Prince认为公司认为正当程序是一个比言论自由更“重要的原则”。 他说，正当程序意味着“如果您参与该系统，您应该能够了解系统将遵循的规则。”这一陈述恰当地反映了中间人作为内容和在线行为的事实监管者所固有的问题。
今年早些时候， Shopify员工 数以百计 数千人 敦促和 上书 在线商务平台停止托管极右翼的Breitbart Media的互联网商店。 恢复执行主席 史蒂芬·本农 电话 Breitbart“alt-right的平台”。 所谓的“alt-right” - 一个普及的术语 理查德伯特兰斯宾塞 - 涵盖了白人至上主义者，分离主义者，新纳粹主义者，法西斯主义者，种族主义者，反犹太主义者，伊斯兰恐怖主义者和民粹主义保守主义思想的混合体。
Shopify首席执行官TobiasLütke表示他正在捍卫言论自由 因为渥太华公司继续在受到威胁的情况下接待Breitbart的网上商店 员工辞职。 公开之后 压力 并称一项基层运动 #DeleteShopify 导致审查揭示更多 可疑的业务，Shopify是 强迫 采用 “可接受的使用政策。”
The Daily Stormer的相反例子及其被互联网公司删除，以及Shopify对Breitbart的坚定支持，表明极端的困境只会有所加剧。
任意政策，监管
互联网中介有可能在各种各样的问题上成为强有力的监管机构，因为他们可以迅速采取行动而无需法院命令。 重要的是，他们有权审查任何内容或根据服务条款协议禁止用户。
PayPal保留终止其对用户服务的权利“无论出于何种原因和任何时间，“在大多数中介机构的服务协议中得到回应的语言。 因此，任意监管的能力被纳入中间人的内部规则。
普林斯告诫说，Cloudflare对Daily Stormer采取的行动为中间人提供了一个先例，可以在没有法院命令要求他们这样做的情况下对警察发表言论。
这些中介通常是在政府的要求下行事，而这些政府更倾向于将公司视为互联网监管的公众（但在很大程度上是不负责任的）。 但是这些公司通常没有能力将合法性与非法性区分开来，导致错误的罢免和错误地针对合法行为。
同样存在问题：中介的执行过程通常不透明，因为他们的内容主持人任意解释其复杂，快速变化的内部规则。 中间人越来越多地使用自动化工具来识别和删除平台上有问题的内容，从而加剧了这些问题。
当最初颁布的针对虐待儿童或恐怖主义的规则 - 执法行动的值得注意的催化剂 - 后来被应用于其他明显不那么有害的问题时，例如未经授权下载受版权保护的内容，也存在所谓的任务蔓延问题。
反乌托邦的未来就在这里
监管工作通常从审查暴力仇恨言论扩展到其他可能被一些人认为有争议的言论，例如Black Lives Matter。 同样，世界各国政府经常向中间商施加压力 审查和跟踪 批评者和政治对手。
当主要中间人成为负责代表政府监管内容或响应高调抗议活动的监管机构时，他们已经相当大的权力增加。 总部位于美国的互联网公司已经在许多行业中占据主导地位，包括搜索，广告，域名注册，支付和社交媒体。 Cloudflare的王子正确 警告 通过依赖“少数巨型网络”，“少数公司将在很大程度上决定什么能够和不能在线。”
这个反乌托邦的未来已经存在。
Daily Stormer的删除无疑使世界变得更加美好。 但我们真的希望像Facebook和Twitter这样的公司独立，任意和秘密地决定我们可以访问和分享哪些内容？
鉴于这些看似棘手的问题，我们能做些什么？ 首先，我们应该避免在抗议或媒体压力的基础上进行管理。 代替， 我们需要一套明确的规则 正如普林斯建议的那样，使中间人能够始终如一，透明地并尊重正当程序。
各国政府应澄清中间人监管责任的性质，并且重要的是，这一点应该明确。 最后，我们必须停止治理以应对特定的危机 - 所谓的“假新闻”，恐怖主义和仇恨团体 - 而是批判地思考我们如何能够和应该如何管理互联网。
关于作者
Natasha Tusikov，社会科学系犯罪学助理教授， 加拿大约克大学
相关书籍
at InnerSelf 市场和亚马逊
