读研的时候，方向是自然语言处理，毕业论文课题是问答系统。问答系统研究的终点是：只要输入想问的问题，系统直接给出想要的答案。工业界最相关的就是搜索引擎和智能客服，前者给出最相关的网址or网页地址列表，相关度越高，排序越靠前；后者给出最相关的预置答案。二者本质上都属于文本匹配和排序，即时当时最火的深度学习模型，也是在这个框架内。其最大的亮点是文本的向量化表示（representation），在高维空间中，语义越相近的文本对应的向量，其空间距离越近。这种end2end的可快速工程化的方法，效果超越传统的基于文本特征的pipeline，后者要想得到好的效果，需要投入巨大的工程量，进一步限制了其应用范围。从海量的文本中直接给出用户想要的答案，对于这个课题，我当时的观点是也许是在未来的某个时间能实现，起码十年内不会。当前的研究策略始终没有逃离符号建模的范畴，即NLP的研究都是围绕文本字符展开。但人类语言不只是文字，还包含了人类的思维和认知。人类的思维和认知本质是什么，尚无统一结论，更遑论对其数学建模。直到月初的ChatGpt横空出世，让我再次人类的智慧充满敬畏，因为ChatGpt的表现直逼问答系统和搜索引擎的终点。

今天看了外网的一篇博客，写的很不错，有缘的朋友不妨一读。这里共享下链接：

作者首先生动的解释两个概念capability和alignment。在机器学习中，实现特定task的数学建模是围绕目标函数objective function展开的，如分类问题和对比学习中的损失函数――softmax、cross-entropy loss和triplet loss等，对这些函数最小化的求解，决定了模型的capability。虽然这些策略在很多机器学习任务上取得了很好的效果，但在语言理解依然捉襟见肘。因为优化objective function，仅仅是数学上的、是我们对研究对象的抽象建模，并一定能很好的实现我们面临的目标，比如广泛存在的泛化问题――模型在训练集的精度很高，测试集上表现却很差。alignment指的就是这种gap，即优化目标函数能否达到我们任务的最终预期。

现在各种SOAT的大模型（LLM，Large Language Model），虽然在文本表征（text representation）的效果惊人，尤其是文本生成堪称惊艳。但其本质依然是基于统计机器学习，即通过最大似然概率对上下文中的词与词之间的约束建模。LLM可以生成很流畅和符合语法的句子甚至文章，从而表现出来的一种“智能”，但很多结果违反基本逻辑和常识，这也是当前的研究无法脱离文字符号建模范畴的必然结果。

直到ChatGpt的出现，再次在NLP领域掀起一股热潮，甚至“火出圈”。ChatGpt在Gpt3.5为基础，主要是利用其强大的文本生成能力，同时创造性地引入了强化学习――RLHF（Reinforcement learning with human feedback）。强化学习的优势在于可以根据系统反馈不断调整和优化。ChatGpt的每次迭代训练，都需要人工对ChatGpt的输出进行打分排序，下次训练以此为基础，重新“拟合”这个人工反馈结果。过程重复很多次后，模型的输出结果越来越好。整个过程像极了人类自己的学习过程：学习-考试-反思-考试-更好的成绩。ChatGpt将人的认知和思维方式融入到模型的训练迭代中，而不是仅仅采用优化目标函数的策略，最终实现了模型的alignment。

笔者从事呼叫中心方面的工作，内容之一是客服问答机器人。ChatGpt的出现，像极了在漫无边际又乏味的茫茫黑夜中做着繁复工作中的我看到了远方的曙光，它也许正是多年前求学时的梦想。说完感慨，回首2022，展望2023。未来1-2年，中文领域一定会出现类ChatGpt的模型，这将对呼叫中心的建设和运行模式进行极大的颠覆。从坐席与用户的对话记录中提取数据，训练基于RLHF的模型，将极大提升客服机器人的能力，同时带来更加自然良好的体验，而不是现在这种类搜索体验的割裂感。坐席人工费用是呼叫中心最大的成本，占比90%以上。基于类ChatGpt的模型应用在呼叫中心，将极大压缩坐席人工费用成本。但也可能要面临新出现的成本：ChatGpt的数据质量要求很高，需要专门的数据标注团队，而不是简单外包。引入类ChatGpt的模型呼叫中心厂商，同时需要调整优化坐席的工作流程，将坐席融入到类ChatGpt模型的训练过程中，实现低成本的模型迭代。当前国内呼叫中心市场规模高达数千亿人民币，高技术壁垒和低成本运作的新一代呼叫中心，必将成为各大厂商的必争之地。