大语言模型是怎样生成文字的

1.文字被切成叫作“词元”的片段

语言模型并不是照字面去读文字。它先把文字切成叫作词元的片段。一个词元可能是一个词，也可能是词的一部分、几个字或标点符号。常用的说法往往是一个词元，少见的说法则容易被拆成多个词元。

接着，每个词元被转换成一串数字（向量）。这串数字在训练中不断调整，使意思相近的词元得到相近的值。所以在模型内部，“小狗”和“狗”离得近，“小狗”和“税金”离得远。「数学基础 第10讲」讲的向量相似度，就是这个概念。

词元也有实际意义。许多AI服务用词元数来计算一次能读多少文字以及用量。同样的内容，语言和表达方式不同，词元数也会不同。

2.核心原理：预测下一个词元

用一句话概括语言模型做的事：“看到目前为止的词元，计算下一个词元的概率。”在“天空真”后面，可能出现“晴朗”“湛蓝”“阴沉”等词元，各有不同的概率。模型计算出这个概率分布，从中选一个接在文字后面。

然后，把包括刚接上的词元在内的整段文字重新作为输入，预测再下一个词元。这样一直重复，直到回答结束。再长的回答，归根结底也是这种一块一块的选择连续进行了几百、几千次的结果。

要把下一个词元预测好，不仅要懂语法，还要懂事实、逻辑、语气和上下文。要猜对“韩国的首都是”后面的内容，就得懂地理；要猜对数学解题过程的下一行，就得懂计算规则。在用海量文字训练这种预测的过程中，模型掌握了数量惊人的知识和模式。

3.跟着看一个简短回答是怎样生成的

我们把原理完整走一遍。假设用户输入：“用一句话描写一下下雨天。”模型把这个问题切成词元，然后从接在后面的第一个词元开始，一个一个地挑选。下面的概率全是为了说明而编的数字。

挑选的方法也有不同选择。如果每次只挑概率最高的词元，同一个问题总会得到同样的回答，但表达容易平淡。如果按概率比例偶尔也挑不那么可能的词元，表达会更丰富，代价是每次回答都略有不同。许多服务都有一个设置，用来决定这种随机性的程度。

一个常见的误解也能在这里解开：模型并不是先在“脑子里”写好完整答案再展示出来。前面选出的词元不断缩小后面的选择范围，回答就这样一点点形成。所以，如果开头几个词元走偏了，后面就可能顺着这个走向，把错误内容说得头头是道。

4.预训练与面向对话的后续训练

大语言模型通常分两个阶段做成。第一阶段是预训练：在书籍、网页、代码等海量文字上反复预测下一个词元，掌握语言和知识的模式。“大”的意思是训练用的文字量和模型里的权重数量都非常多。

只完成预训练的模型很会接着往下写，却不太会亲切地回答问题。所以在第二阶段，用“问题和好的回答”的示例进行后续训练，再结合人从多个回答中挑出较好者的评价来加以打磨。经过这个过程，它才成为能听从指示、能对话、能拒绝危险请求的模型。

由此带来一个重要结果：模型的知识停在收集训练数据的那个时间点。之后发生的事，除非另外接上搜索功能或由用户提供资料，否则它并不知道。问需要最新信息的问题时，一定要记住这一点。

5.上下文窗口：一次能看到的文字量

对话时，语言模型会把到目前为止的对话和粘贴进来的资料整个作为输入。一次能接收的词元最大量，叫作上下文窗口。模型基本上并不是“记住”了对话，而是每次都把前面的整段对话重新读一遍，再生成下一个回答。

所以，对话变得非常长、超出上下文窗口时，前面的部分可能被截掉或较少被考虑。重要的条件与其只在对话开头说一次，不如在需要时再简短提醒一下，这样更稳妥。另外，新的话题在新的对话里开始，结果会更清爽。

6.由原理带来的长处和短处

因为下一个词元是按概率挑选的，所以同一个问题的回答也可能每次略有不同。想要多个点子时，这是长处；需要完全一样的结果时，这是短处。

另外，模型挑的是“像样的下一句话”，并不是在核实事实。训练数据里常见的内容大多准确，但在少见的、最新的或数字很多的内容上，它可能自然而然地编出像样却错误的句子。这就是第7讲要讲的幻觉。

反过来，在转换文字格式、做摘要、把说明讲得更通俗、展开多种观点这类以“语言模式”为核心的事情上，它非常强。懂了原理，就能分清哪些事可以交给它、哪些需要核对。