近期OpenAI发布了ChatGPT,因其高质量的回答、高效获取信息的方式、以及非常直观的交互体验,让它在发布后大受关注。上线还不到一周时间,ChatGPT已经达到了百万用户级别。
ChatGPT 实际上是一种聊天机器人模型,它的交互界面简洁,只有一个输入框,AI将根据输入内容进行回复,并允许在一个语境下持续聊天。不少体验过的人甚至认为,ChatGPT可能会代替程序员和搜索引擎。据微博的张俊林博士介绍,“ChatGPT效果强大源于在GPT 3.5大规模语言模型(LLM,Large Language Model)基础上,引入‘人工标注数据+强化学习’(RLHF,Reinforcement Learning from Human Feedback)来不断Fine-tune预训练语言模型,主要目的是让LLM模型学会理解人类的命令指令的含义,以及让LLM学会判断对于给定的prompt输入指令,什么样的答案是优质的。这里面富含信息、内容丰富、对用户有帮助、无害、不包含歧视信息等多种标准。”