存在Shutterstock
人工智能（AI）正在学习如何与人类合作（以及如何作用于人类）。 最近的一项研究 已经证明人工智能可以学习识别人类习惯和行为中的漏洞，并利用这些漏洞来影响人类的决策。
说人工智能正在改变我们生活和工作的方方面面或许听起来有些老生常谈，但事实的确如此。各种形式的人工智能正在疫苗研发、环境管理和办公室管理等众多领域发挥作用。虽然人工智能不具备类似人类的智能和情感，但它的能力强大且发展迅速。
虽然目前还无需担心机器接管人类，但这一最新发现凸显了人工智能的力量，并强调了进行适当治理以防止滥用的必要性。
人工智能如何学习影响人类行为
一个研究团队 CSIRO的Data61澳大利亚国家科学机构的数据和数字部门设计了一种系统化的方法，利用循环神经网络和深度强化学习等人工智能系统，来发现和利用人们在选择方式上的弱点。为了测试他们的模型，他们进行了三项实验，让人类参与者与电脑进行游戏。
第一个实验中，参与者需要点击红色或蓝色方框来赢取虚拟货币，人工智能会学习参与者的选择模式，并引导他们做出特定选择。人工智能的成功率约为70%。
在第二个实验中，参与者需要观看屏幕，并在屏幕上出现特定符号（例如橙色三角形）时按下按钮，而出现另一个符号（例如蓝色圆圈）时则不要按下按钮。人工智能系统特意安排了符号顺序，使参与者犯更多错误，结果错误率提高了近25%。
第三个实验包含若干轮，每轮中，参与者扮演投资者，向受托人（人工智能）投入资金。人工智能随后会将一定金额的资金返还给参与者，参与者则需决定下一轮的投资金额。该游戏有两种不同的模式：一种模式下，人工智能的目标是最大化最终收益；另一种模式下，人工智能的目标是在自身和人类投资者之间实现资金的公平分配。人工智能在两种模式下都取得了显著的成功。
在每项实验中，机器都会从参与者的回答中学习，并识别和针对人们决策中的漏洞。最终结果是，机器学会了引导参与者采取特定的行动。
在实验中， 
人工智能系统成功学会了影响人类决策。 存在Shutterstock
这项研究对人工智能的未来意味着什么
这些研究结果仍然相当抽象，且涉及的情境有限且不切实际。需要开展更多研究，以确定如何将这种方法付诸实践并造福社会。
但这项研究确实增进了我们对人工智能能力以及人类如何做出选择的理解。它表明，机器可以通过与人类的互动来学习如何引导人类的选择。
这项研究具有极其广泛的应用前景，从加强行为科学和公共政策以改善社会福利，到理解和影响人们如何养成健康的饮食习惯或使用可再生能源，都大有可为。人工智能和机器学习可用于识别人们在特定情况下的脆弱性，并帮助他们避免做出错误的选择。
该方法还可以用于防御影响力攻击。例如，可以训练机器在我们受到网络影响时发出警报，并帮助我们塑造某种行为来掩盖我们的弱点（例如，不点击某些页面，或者点击其他页面来制造假象）。
下一步是什么？
任何技术都一样，人工智能既可用于造福人类，也可用于作恶，因此，妥善的治理对于确保其以负责任的方式实施至关重要。去年，澳大利亚联邦科学与工业研究组织（CSIRO）开发了一种人工智能系统。 人工智能伦理框架 对于澳大利亚政府而言，这是迈向这一征程的第一步。
人工智能和机器学习通常对数据需求量极大，这意味着确保我们拥有有效的数据治理和访问系统至关重要。在收集数据时，实施充分的同意流程和隐私保护措施必不可少。
使用和开发人工智能的组织需要确保他们了解这些技术能做什么和不能做什么，并意识到潜在的风险和好处。
关于作者
导演：乔恩·惠特尔 Data61
