信息是一种有价值的商品。 得益于技术，有 数百万太字节 在线。
ChatGPT 等人工智能 (AI) 工具现在代表我们管理这些信息 - 整理、总结并将其呈现给我们。
但这种将信息管理“外包”给人工智能的做法——尽管很方便——也会带来后果。 它不仅可以影响 什么 我们认为，但也有可能 形成一种 我们认为。
当人工智能算法决定哪些信息可以永久保存、哪些信息被遗弃时，会发生什么？
个性化人工智能的兴起
生成式 AI 工具建立在经过数百 GB 数据训练的模型之上 预先存在的数据。 他们从这些数据中学习如何自主创建文本、图像、音频和视频内容，并可以通过拼凑“最有可能”的答案来响应用户的查询。
ChatGPT 的使用者 数以百万计的人，尽管公开发布还不到一年。 XNUMX月，新增 自定义响应 让已经令人印象深刻的聊天机器人变得更加有用。 此功能允许用户保存自定义指令，解释他们使用机器人的目的以及他们希望机器人如何响应。
这是“个性化人工智能”的几个例子之一：一类人工智能工具，可以生成满足用户特定需求和偏好的内容。
另一个例子是 Meta 最近推出的 虚拟助理，元人工智能。 这个聊天机器人 可以在 Meta 的平台（包括 WhatsApp、Messenger 和 Instagram）上进行对话、生成图像并执行任务。
人工智能研究员、DeepMind 联合创始人 Mustafa Suleyman， 介绍 个性化人工智能更多地是一种关系，而不是一种技术：
这是一个朋友。 [...] 它真的会永远存在并陪伴在您身边，与您一起生活 - 基本上是在您的团队中。 我喜欢把它想象成有一位伟大的教练在你身边。
但这些技术也存在争议，人们担心 数据所有权, 偏见 和 误传.
科技公司正在努力寻找解决这些问题的方法。 例如，谷歌已将源链接添加到其人工智能生成的搜索摘要中。 搜索生成体验 （SGE）工具，今年早些时候受到批评 提供 不准确且有问题的反应。
科技已经改变了我们的思维
生成式人工智能工具——尤其是那些为我们量身定制的工具——将如何改变我们的思维方式？
为了理解这一点，让我们回顾一下 1990 世纪 XNUMX 年代初，当时互联网首次进入我们的生活。 人们突然可以获取几乎所有事物的信息，无论是银行、烘焙、教学还是旅行。
近 30 年来，研究表明与全球“蜂巢思维”的联系如何改变了我们的认知、记忆和创造力。
例如，可以立即访问相当于 305.5十亿页 信息的普及增加了人们的 元知识 ——那就是他们关于知识的知识。 其影响之一是“谷歌效应”：在线搜索提高了我们查找信息的能力，但减少了我们对信息内容的记忆的现象。
一方面，将我们的思维转移到搜索引擎已被证明可以释放我们的心理储备 解决问题和创造性思维。 另一方面，在线信息检索与增加相关。 注意力分散和依赖性.
研究还表明，在线搜索——无论检索到的信息的数量或质量如何——都会提高我们的搜索效率。 认知自尊。 换句话说，它增加了我们对自己“聪明”的信心。
结合这一事实 询问信息是费力的 – 我们越信任我们的搜索引擎，我们就越不挑剔 参与其结果 ——你就会明白为什么获得前所未有的大量信息并不一定会让我们变得更聪明。
我们应该“外包”我们的思维吗？
今天的生成式人工智能工具不仅仅是向我们提供搜索结果。 他们为我们找到信息，对其进行评估、综合并将其呈现给我们。
这可能意味着什么？ 如果不推动以人为主导的质量控制，前景并不乐观。
生成式人工智能能够产生熟悉、客观和有吸引力的反应，这意味着它让我们更容易受到 认知偏差.
自动化偏见例如，人类倾向于高估机器来源信息的完整性。 还有 单纯的曝光 效果是当我们更有可能信任那些熟悉或个人的信息时。
对社交媒体的研究可以帮助我们了解此类偏见的影响。 Facebook 用户在 2016 年的一项研究中报告称 感觉更“了解” 基于在线发布的新闻内容的数量，而不是他们实际阅读的数量。
我们还知道“过滤气泡由社交媒体算法创建的——我们的信息流根据我们的兴趣进行过滤——限制了我们接触到的内容的多样性。
这种信息缩小的过程已被证明可以增加 意识形态两极分化 通过减少人们考虑其他观点的倾向。 它还被证明可以增加我们接触到的可能性 假新闻.
使用人工智能来提高智慧，而不是愚昧无知
毫无疑问，生成式人工智能是一股革命性的力量，有潜力为社会做出伟大的事情。 它可以通过提供重塑我们的教育体系 个性化内容，通过加快改变我们的工作实践 写作和信息分析，并推动边界 科学发现.
它甚至有可能通过帮助我们与他人沟通和联系来积极改变我们的关系，并且有时可以充当 综合陪伴形式.
但如果我们判断未来的唯一方法是回顾过去，也许现在是时候反思互联网和社交媒体如何改变了我们的认知，并应用一些 预防措施。 发展 人工智能素养 是一个很好的起点，设计鼓励人类自主和批判性思维的人工智能工具也是如此。
最终，我们需要了解我们自己的 以及人工智能的优点和缺点 确保这些“会思考”的伙伴帮助我们创造我们想要的未来，而不是碰巧排在首位的未来。
莎拉·薇薇安·本特利，研究科学家，负责任的创新，Data61， CSIRO; 克莱尔·梅森, 首席研究科学家, CSIRO及 埃纳特·格林伯格，技术与社会科学博士后研究员， CSIRO
