互动式提示词工程教程 (Interactive Prompt Engineering Tutorial)

引言 (Introduction)

欢迎来到互动式提示词工程教程！当我们与大语言模型 (Large Language Models, LLM) 交互时，输入的文本（有时伴随图像等多模态输入）被称为提示词 (Prompt)。模型利用这个提示词来预测并生成特定的输出。

提示词工程 (Prompt Engineering) 是一个迭代优化的过程。不恰当的提示词可能导致模糊、不准确的响应，阻碍模型生成有意义的输出。本教程将深入探讨提示词工程的各种技术和最佳实践，助你成为提示词专家。

本教程侧重于直接通过API或Vertex AI等平台与Gemini模型交互，因为这样可以访问如Temperature等关键配置参数。

LLM基础与配置 (LLM Basics & Config)

理解LLM的工作原理至关重要：它们本质上是预测引擎。模型接收顺序文本作为输入，并基于其训练数据预测下一个最可能的词元 (Token)。

LLM 如何生成文本？ (模拟)

关键配置参数

除了提示词本身，调整模型的配置参数对输出结果有显著影响。

参数调整 (Parameter Tuning)

精调采样控制参数，可以塑造模型输出的创造性和确定性。

如何组合使用？

这些参数通常可以组合使用。Vertex AI 等平台通常会先应用 Top-K 和 Top-P 过滤候选词元，然后应用 Temperature 从剩余的候选词元中进行采样。

需要注意的是，极端设置会使其他参数失效（例如 Temp=0 或 Top-K=1）。最佳组合需要实验来确定。

零样本提示 (Zero-shot Prompting)

最简单的提示类型，只提供任务描述和输入文本，不包含任何示例。

当零样本提示效果不佳时，可以引入示例，这就引出了“单样本”和“少样本”提示。

少样本提示 (Few-shot Prompting)

通过在提示中提供一个或多个示例，指导模型理解任务要求和期望的输出格式或模式。

• 单样本 (One-shot): 提供一个示例。
• 少样本 (Few-shot): 提供多个（通常 3-5 个或更多，取决于任务复杂度）示例。

{
  "size": "large",
  "type": "half-half",
  "ingredients": [
    ["cheese", "mozzarella"],
    ["tomato sauce", "ham", "pineapple"]
  ]
}

选择的示例应与任务相关、多样化、高质量且书写正确。包含边缘案例有助于提高模型的鲁棒性。

系统/上下文/角色提示

这些技术通过不同方式指导 LLM 的行为和输出风格：

这三者经常结合使用。例如，一个角色提示（扮演莎士比亚）可以包含系统指令（以十四行诗格式回应）和上下文（关于春天的话题）。

系统提示对于强制输出结构（如JSON）、控制安全性和毒性（例如，添加“回答应保持尊重”）非常有用。

后退提示法 (Step-back Prompting)

一种提高推理能力的技术。它首先提示LLM思考与具体任务相关的更一般性或抽象性的问题，然后将这个通用答案融入到解决具体任务的最终提示中。

这种“后退一步”可以帮助模型激活相关的背景知识和推理过程，从而生成更准确、更有洞察力的响应。

思维链 (Chain of Thought, CoT)

通过提示模型生成中间推理步骤来提高其复杂推理任务（尤其是数学、逻辑问题）的能力。

核心思想：不直接跳到答案，而是让模型“思考”过程。

CoT 可以与 Few-shot 结合使用，通过提供包含推理步骤的示例来进一步引导模型。

CoT 对于需要分解任务的场景很有用，如代码生成、合成数据创建等。任何可以通过“逐步讲解”来解决的问题都适合尝试 CoT。

自我一致性 (Self-consistency)

改进 CoT 的一种方法。它通过多次生成（通常使用较高的 Temperature）不同的推理路径 (Chains of Thought)，然后选择最常出现的最终答案（多数投票）。

这提高了复杂推理任务的准确性和鲁棒性，但计算成本更高。

示例：对于一个模棱两可的邮件分类任务（判断是否重要），零样本 CoT 可能因邮件中的讽刺或微妙之处而在多次运行时给出不同答案 (IMPORTANT vs NOT IMPORTANT)。自我一致性通过多次采样并取多数，可以得到更稳定的结果。

（自我一致性的互动演示较复杂，此处省略。核心在于理解多次运行和多数投票的概念。）

思维树 (Tree of Thoughts, ToT)

CoT 的泛化，允许 LLM 同时探索多个不同的推理路径，形成一个“思维树”，而不仅仅是单一的线性链条。

模型可以在树的不同节点进行评估、回溯和扩展，使其特别适合需要广泛探索和规划的复杂问题（如下棋、创意写作）。

（ToT 的实现通常涉及更复杂的算法来生成和评估不同的“思想”分支，模拟较为困难。）

ReAct 方法 (Reason & Act)

一种使 LLM 能够通过结合推理 (Reasoning) 和行动 (Acting) 来解决复杂任务的范式。模型不仅进行内部思考，还能与外部工具（如搜索引擎、计算器、API）交互以获取信息或执行操作。

这模拟了人类解决问题的方式：思考，然后采取行动收集更多信息，再根据新信息调整思考。

实际的 ReAct 实现通常需要代码（如使用 LangChain 框架）来连接 LLM 和外部工具 (API)。

自动提示工程 (Automatic Prompt Engineering, APE)

鉴于手动设计高质量提示的复杂性，APE 提出了一种用 LLM 来生成和优化提示的方法。

基本流程：

APE 有助于减轻人工设计提示的负担，并可能发现比人类设计的更有效的提示。

代码提示 (Code Prompting)

LLM 在处理和生成代码方面也表现出色。你可以使用提示来完成各种编程任务。

生成代码

#!/bin/bash

# Ask for the folder name
echo "Enter the folder name:"
read folder_name

# Check if the folder exists
if [ ! -d "$folder_name" ]; then
  echo "Folder does not exist."
  exit 1
fi

# Iterate over files in the folder
for file in "$folder_name"/*; do
  # Check if it's a file (and not a directory)
  if [ -f "$file" ]; then
    # Get the base filename
    filename=$(basename "$file")
    # Construct the new file path
    new_filepath="$folder_name/draft_$filename"
    # Rename the file
    mv "$file" "$new_filepath"
    echo "Renamed '$filename' to 'draft_$filename'"
   fi
done

echo "Files renamed successfully."

重要: LLM 生成的代码可能包含错误或安全漏洞。务必仔细审查和测试生成的代码！

解释代码

#!/bin/bash
echo "Enter folder:"
read dir
if [ ! -d "$dir" ]; then exit 1; fi
for f in "$dir"/*; do
  if [ -f "$f" ]; then
    fn=$(basename "$f")
    mv "$f" "$dir/prefix_$fn"
  fi
done
echo "Done."

翻译代码

# (Bash code from previous example)
#!/bin/bash
echo "Enter folder:"
read dir
if [ ! -d "$dir" ]; then exit 1; fi
for f in "$dir"/*; do
  if [ -f "$f" ]; then
    fn=$(basename "$f")
    mv "$f" "$dir/prefix_$fn"
  fi
done
echo "Done."

import os
import sys # For exit()

folder_name = input("Enter the folder name: ")

# Check if the folder exists and is a directory
if not os.path.isdir(folder_name):
    print("Folder does not exist.")
    sys.exit(1)

try:
    # List all entries in the directory
    for filename in os.listdir(folder_name):
        original_path = os.path.join(folder_name, filename)

        # Check if it's a file
        if os.path.isfile(original_path):
            new_filename = f"prefix_{filename}"
            new_path = os.path.join(folder_name, new_filename)

            # Rename the file
            os.rename(original_path, new_path)
            print(f"Renamed '{filename}' to '{new_filename}'")

    print("Done.")

except OSError as e:
    print(f"An error occurred: {e}")
    sys.exit(1)

调试和审查代码

# Code with bug
import os
folder = input("Folder: ")
pref = input("Prefix: ")
text = toUpperCase(pref) # Bug here!

if not os.path.isdir(folder): exit(1)

for f in os.listdir(folder):
    op = os.path.join(folder, f)
    if os.path.isfile(op):
        nf = f"{text}_{f}"
        np = os.path.join(folder, nf)
        os.rename(op, np)
print("OK")

# Error message:
# Traceback (most recent call last):
#   File "rename.py", line 5, in 
#     text = toUpperCase(pref)
# NameError: name 'toUpperCase' is not defined

import os
import sys

folder_name = input("Enter the folder name: ")
prefix = input("Enter the prefix to prepend: ")

if not os.path.isdir(folder_name):
    print(f"Error: Folder '{folder_name}' does not exist or is not a directory.")
    sys.exit(1)

prefix_upper = prefix.upper() # Correctly convert prefix to uppercase

print(f"Processing files in '{folder_name}'...")
try:
    for filename in os.listdir(folder_name):
        original_path = os.path.join(folder_name, filename)

        if os.path.isfile(original_path):
            # Separate filename and extension
            name_part, ext_part = os.path.splitext(filename)
            # Create new filename
            new_filename = f"{prefix_upper}_{name_part}{ext_part}"
            new_path = os.path.join(folder_name, new_filename)

            try:
                os.rename(original_path, new_path)
                print(f"  Renamed '{filename}' to '{new_filename}'")
            except OSError as e:
                print(f"  Error renaming '{filename}': {e}")

    print("File renaming process completed.")

except OSError as e:
    print(f"Error accessing directory '{folder_name}': {e}")
    sys.exit(1)

最佳实践 (Best Practices)

掌握以下最佳实践，可以显著提高你的提示词工程效率和效果：

CoT 特定最佳实践

• 先推理后答案: 确保推理步骤在最终答案之前生成。
• 可提取答案: 设计提示，使最终答案易于从推理过程中分离出来（对 Self-consistency 很重要）。
• Temperature = 0: CoT 通常用于需要精确推理的任务，因此建议将 Temperature 设置为 0 (贪婪解码)。

总结：提示词工程是一个迭代的过程。不断制作、测试、分析、记录和改进你的提示！

总结 (Summary)

本教程涵盖了提示词工程的核心概念和技术，包括：

• LLM基础与配置 (温度, Top-K/P)
• 零样本提示
• 少样本提示
• 系统、上下文与角色提示
• 后退提示法 (Step-back)
• 思维链 (CoT)
• 自我一致性 (Self-consistency)
• 思维树 (ToT)
• ReAct (推理与行动)
• 自动提示工程 (APE)
• 代码提示 (生成、解释、翻译、调试)

我们还探讨了多项关键的最佳实践，强调了实验、迭代和详细记录的重要性。

希望这个互动式的教程能帮助你更好地理解和应用提示词工程，创造出更强大、更精确的 AI 应用！