📚 方法篇章
内容梗概
本章节分为九大板块,分别是设计准则、框架、基本提示、高级提示、自动化提示、思维链、上下文学习、知识增强提示以及评估和可靠性。其中,设计准则主要介绍了通过遵循设计原则,读者可以提高大语言模型的回答质量和准确性,并提高整个用户体验;对于基本提示部分,通过几项案例与场景快速培养写作Prompt习惯与技巧;对于高级提示板块,是采用相关前沿技术设计Prompt,考虑到诸多因素而构建起来的高级繁杂的Prompt设计;对于自动化提示部分,采用相关的机器学习方式去自动化的设计Prompt,尽量少用人工方式设计对应的Prompt;对于思维链部分,用几篇论文介绍思维链在大模型中的使用技巧与应用场景;对于上下文学习的章节部分,同样采用相关论文进行介绍;对于知识增强提示部分,配合对应论文讲述这个栏目;对于评估和可靠性部分,基于对应的前沿论文进行配合讲解。
设计原则
本栏目提出几项Prompt的设计原则,Prompt是指在自然语言处理中,提供给模型输入文本,指导模型生成合适的回答。Prompt的设计原则有很多,其中一些包括:
- Prompt简单原则:清楚地陈述。
- Prompt多样性原则:使用多种不同的Prompt。
- Prompt长度原则:尽量使用短的Prompt。
- Prompt结构原则:使用简单的句子结构。
基于上述原则我们浓缩了更为直观的设计原则,不加以分门别类的区分。
框架
该部分提出了一个由五个关键部分组成的提示设计框架:上下文、指令、相关性、约束和示例。这种标准化的结构可以帮助简化提示设计,确保遵循一致的程序,从而产生更有效的提示。
基本Prompt
基础提示的设计便于读者快速写好某种写作习惯的提示设计。
高级 Prompt
- 高级提示分为如下的部分:
- 批量Prompt
- 连续 Prompt
- PAL
- ReAct
- Self-Ask
- 忠实于上下文的提示
- REFINER
- 反思
- Progressive-Hint Prompt
- 自我提问
- 循环GPT
自动化 Prompt
该栏目聚焦于使用先进的机器学习等技术为语言模型LM/LLM生成提示。它训练模型生成高质量的、上下文相关的准确提示,引导LM/LLM产生更连贯、更精确、更富有语义和上下文相关的结果。在这个栏目将通过部分论文工作展开对该栏目板块的介绍。
思维链
该板块主要从以下三个方面介绍思维链:
1)什么是思维链提示?
2)CoT提示有哪些表现形式?
3)如何设计创新的CoT提示?
上下文学习
该板块主要从以下四个方面介绍上下文学习: 1)什么是上下文学习(ICL)?
2)上下文学习有那些特征?
3)上下文学习有哪些长处?
4)上下文学习的研究包括哪些部分?
知识增强 Prompt
评估和可靠性
该栏目从几篇论文入手介绍最新前沿关于大模型的评估可靠性方法。