什么是AI：规则与学习

1.“人工智能”这个词指的是什么

人工智能（AI）本来是一个研究领域的总称：让机器去做原本需要人类智能才能完成的事。识字、听懂语言、分辨照片里的物体、翻译、下棋时想出下一步，都属于这个范围。

所以，“人工智能”这个词本身并不指某一项具体技术。很久以前的国际象棋程序，和今天能写文章的对话式AI，都叫人工智能。区别在于“怎样”完成这些事，方法大致分为两条路：一条是由人直接写出规则，另一条是让机器从示例中自己找出规则。

2.第一种方式：由人写规则

假设要做一个过滤垃圾邮件的程序。最先想到的办法是写规则：标题里有“免费”“中奖”“立即点击”就算垃圾邮件；发件人在通讯录里就算正常邮件，诸如此类。

这种方式的优点很明显。看一眼规则就知道它为什么这样判断；只要规则正确，结果永远相同。像计税、日期计算这类正确答案的规则很明确的事，今天仍然最适合用这种方式。

缺点也很明显。发垃圾邮件的人会把“免费”改写成“免.费”或“免 费”。每出现一次，人就得再加一条规则；规则增加到几百条，彼此就开始冲突。更重要的是，有些事人很难用语言说清楚，比如“认出照片里的动物是不是猫”，根本没法写成规则。我们能轻松认出猫，却无法把判断标准一条不漏地写下来。

3.第二种方式：机器从示例中学习

另一种办法是不给规则，而是给示例。把几万封由人标好“垃圾”或“正常”的邮件拿给机器看，机器就会自己算出：哪些词和特征一起出现时，是垃圾邮件的可能性更大。这种从数据中找出规律的方式，叫作机器学习。

基于学习的方式还会用上人没想到的线索，比如发送时间、链接数量、词语的组合等。即使出现新花样的垃圾邮件，只要重新收集标好的示例再训练一次，不必逐条修改规则也能跟上。

但这也有代价。机器找到的规律以大量数字的组合形式保存，人很难读懂，也很难马上知道它“为什么这样判断”。而且机器只能学到给它看的那些示例。示例偏向一边，结果也会偏向一边。

4.人工智能、机器学习、深度学习的关系

这三个词经常混用，但用包含关系来理解就很清楚。最大的圆是人工智能；里面是靠数据学习的机器学习；再里面是使用多层人工神经网络的机器学习，也就是深度学习。

如今能认出照片、把语音转成文字、帮人写文章的AI，大多是用深度学习做的。对话式AI的基础——大语言模型，也是深度学习的一种。神经网络在第3讲、语言模型在第4讲详细介绍。

5.基于学习的AI为什么会出错

基于学习的AI擅长处理“和见过很多次的东西相似的”输入，不擅长处理“从没见过的”输入。只用白天拍的猫照片训练的模型，遇到夜里拍的照片就可能认错。这不是故障，而是这种学习方式本身的特性。

另一点是它带有概率性。AI的回答是“最像样的那个”，而不是“确认过的事实”。多数时候最像样的就是正确的，但两者一旦错开，AI就会用非常自信的语气给出错误答案。第7讲要讲的幻觉，说的就是这种情况。

所以，使用AI的人需要两种态度。第一，先把能核对答案依据的事交给它。第二，出错后损失越大的事，越要由人做最后确认。

• 适合AI的事：写初稿、摘要、拓展思路、转换格式、把说明讲得更通俗
• 必须由人确认的事：数字、日期、法律、医疗等一旦出错损失很大的事实
• 规则比AI更合适的事：计算规则固定的事（税款、利息、日期差）——计算器和表格更准确

6.关于AI的三个常见误解

AI这个词在电影和广告里出现得太多，很容易被看得比实际更大或更小。下面用本讲的“规则”与“学习”这两个角度，纠正三个常见误解。

三个误解的结论是一样的：AI是用从数据中学到的规律生成像样答案的工具，这些答案用在哪里、怎么用，由人来判断。掌握了这个视角，以后遇到新的AI服务，也能先问一句：“它是看什么学的？可能在哪里出错？”

• 错误: AI像人一样理解意思，会自己思考。正确: AI用从数据中找到的规律，计算出最像样的答案。即使答案看起来像人说的，也不能断定它是以同样的方式在理解。回答自然和内容正确是两回事。语气再自然，事实也要另外核对。
• 错误: AI越用越聪明，会从和我的对话中不断自己学习。正确: 许多AI在训练完成后就以那个状态投入使用。要让它学到新东西，得由开发方收集数据重新训练。刚纠正过的内容，第二天AI就不记得了，这很常见。即使有看起来像记忆的功能，也可能是服务另外加上的功能。
• 错误: 是电脑算出来的答案，所以比人更准确、更公正。正确: AI的答案只能和它学过的数据一样准确、一样公正。数据有错或有偏，答案也会跟着有错或有偏。计算器遵循固定规则，而基于学习的AI按概率作答。“机器给的就一定对”是最危险的想法。