AI（指大语言模型）真的可以代替你手机里一大半的软件吗？

Karo

本文所指的AI，主要指的是 LLM 即“大语言模型”。

在人工智能的热潮下，AI似乎无所不能，从写作、绘画到编程、翻译，一路势如破竹。某AI应用广告中说，“它（指AI应用）真的可以代替你手机里一大半的软件”，但，事情真是如此吗？


当广告中说用AI代替其他的应用的时候，主要演示的功能是把它当作搜索引擎，提供衣食住行各个方面的情报。而当我们真正使用起来的时候，会发现AI与搜索引擎有微妙的不同：


搜索引擎会将你导向不同平台不同类型的内容；而AI则是将各种信息收集汇总，根据你的需求呈现。看上去AI呈现的结果更加清晰明了，减少了很多信息检索的时间。但是当我们用搜索引擎追溯到内容的时候，通常还能看到它的浏览、互动情况，如果是论坛类型的网站，也可以和信息的提供者或者其他网友互动。正是得益于此，我们可以互相印证信息的真实性和有效性，避免获得错误或过时的信息。信息的提供者也能得到一定的反馈。而当我们使用AI时，我们往往直接调用 AI 获取整理后的答案，而不会访问原作者的作品。这样一来，原始信息的生产者很难意识到自己的内容被使用、也得不到读者的反馈或回报。

这带来了两个问题：
1. AI 的使用者不能确保自己获得的信息是真实有效的，事实上，已经有很多人知道 AI 会回答根本不存在的事物，例如编造文献甚至法条等，这被称作“幻觉”；
2. AI 隔离了内容创作者与使用者之间的直接或间接反馈，一方面可能削弱创作者的创作动力，另一方面也让信息生态失衡：使用端依赖 AI，生产端却缺乏可持续动力。

怎么办？
目前来看，想要解决这些问题，可以设法提高训练集的质量——例如整理出专业知识库等；可以让内容被使用时获得特殊标记；甚至让 AI 可以直接感知世界，成为内容的生产者。然而这些方法在目前的技术下在一定程度上还是不太现实。不过我们还能从自身出发，做一些力所能及的事情。
1. 提高自己的信息素养，不盲信 AI ，通过检索信息来源交叉验证 AI 总结的内容，把 AI 当作参考而不是证据；
2. 在可以控制的使用场景中，我们可以要求或推动 AI 给出信息来源链接，让真正的创作者获得访问量和反馈。


AI的确存在先天“缺陷”：它看世界的方式被训练数据所限制；它让信息生产者和使用者之间的反馈链路变得模糊。但这些问题并不是无法解决的宿命，我们可以通过改进产品设计、提升用户素养、推动技术发展，来尽量减少这些负面影响。

AI的未来，不仅取决于算法多强大，也取决于我们能否用有意识的设计和规则，让它更好地融入真实的、可持续的人类知识生态中。