存在Shutterstock
人工智能（AI）正在学习有关如何与人类（以及人类）合作的更多信息。 一种 最近的一项研究 展示了AI如何学会识别人类习惯和行为中的漏洞，并利用它们来影响人类决策。
人工智能似乎正在改变我们生活和工作方式的方方面面，这似乎有些老套，但这是事实。 各种形式的AI正在疫苗开发，环境管理和办公室管理等领域工作。 尽管人工智能不具备人类般的智力和情感，但其功能却强大且发展迅速。
无需担心机器被接管，但是最近的发现凸显了AI的强大功能，并强调了进行适当治理以防止滥用的必要性。
人工智能如何学会影响人类行为
一个研究团队 CSIRO的Data61澳大利亚国家科学局的数据和数字部门，使用一种称为递归神经网络和深度强化学习的AI系统，设计了一种系统的方法来发现和利用人们做出选择的漏洞。 为了测试他们的模型，他们进行了三个实验，其中人类参与者在计算机上玩游戏。
第一个实验涉及参与者单击红色或蓝色框赢得假币，而AI则学习参与者的选择模式并指导他们进行特定选择。 AI大约有70％的时间是成功的。
在第二个实验中，要求参与者观看屏幕并在显示特定符号（例如橙色三角形）时按下按钮，而在显示另一个符号（例如蓝色圆圈）时不按下按钮。 在这里，人工智能着手安排符号的顺序，以便参与者犯下更多的错误，并增加了近25％。
第三个实验包括几轮，其中参与者伪装成向受托人（AI）捐钱的投资者。 然后，AI将向参与者退还一定金额的资金，然后由参与者决定在下一轮投资多少。 这款游戏以两种不同的模式进行游戏：一种是AI最大化其最终收益，而另一种AI则旨在实现自身与人类投资者之间的公平货币分配。 人工智能在每种模式下都非常成功。
在每个实验中，机器都会从参与者的反应中吸取教训，并在人们的决策中识别并确定目标漏洞。 最终结果是机器学会了引导参与者采取特定行动。
在实验中 
n人工智能系统成功学会了影响人类决策的能力。 存在Shutterstock
研究对AI的未来意味着什么
这些发现仍然非常抽象，涉及有限且不切实际的情况。 需要开展更多研究，以确定如何将该方法付诸实践并用于造福社会。
但是这项研究的确促进了我们对AI可以做什么以及人们如何做出选择的理解。 它表明机器可以通过与我们的互动来学习引导人类做出选择。
该研究具有广泛的可能应用，从增强行为科学和公共政策以改善社会福利，到理解和影响人们如何养成健康的饮食习惯或可再生能源。 人工智能和机器学习可以用来识别人们在某些情况下的脆弱性，并帮助他们摆脱错误的选择。
该方法还可以用于防御影响攻击。 例如，当我们受到在线影响时，机器可能会被提醒来提醒我们，并帮助我们塑造一种行为来掩饰我们的漏洞（例如，通过不单击某些页面或单击其他页面来进行虚假跟踪）。
下一步是什么？
像任何技术一样，AI的好坏都可以使用，正确的治理对于确保以负责任的方式实施至关重要。 去年，CSIRO开发了 人工智能伦理框架 对于澳大利亚政府来说是此旅程的第一步。
人工智能和机器学习通常非常渴望数据，这意味着确保我们拥有有效的数据治理和访问系统至关重要。 收集数据时实施适当的同意程序和隐私保护至关重要。
使用和开发AI的组织需要确保他们知道这些技术可以做什么和不能做什么，并且要了解潜在的风险和收益。
关于作者
导演乔恩·惠特尔 Data61
