【图】解LLM：通过图示理解大语言模型

1. LLM 的工作流程

flowchart LRInput[输入文本] --> Token[Token化]Token --> Embed[嵌入向量]Embed --> Transformer[Transformer 处理]Transformer --> Prob[概率分布]Prob --> Decode[解码生成]Decode --> Output[输出文本]

概念解释：

• Token化：把输入文本切分为模型能够识别的最小单位，包括单词、子词或字符。
• 嵌入向量：将离散Token转换成连续数值向量，让模型可以计算不同内容之间的语义关系。
• Transformer：利用自注意力机制识别文本中的长距离依赖关系。
• 概率分布：由模型计算下一个Token出现的概率。
• 解码生成：依据概率进行采样或选取最可能的Token，逐步形成完整回答。

2. Transformer 的核心机制

flowchart TBInput[输入Token] --> Embedding[词嵌入]Embedding --> Positional[位置编码]Positional --> Attention[自注意力层]Attention --> FFN[前馈神经网络]FFN --> Norm[层归一化]Norm --> Output[输出概率]

概念解释：

Transformer以自注意力机制为核心。模型处理任意Token时，可以同步参考输入中其他位置的Token，由此掌握上下文联系。由于自注意力本身无法感知顺序，还需要位置编码补充序列次序信息。

3. LLM 的四项核心能力

mindmaproot((LLM核心能力))自然语言理解意图识别情感分析实体提取自然语言生成文本创作翻译总结推理能力逻辑推理代码生成数学计算上下文学习多轮对话少样本学习角色一致

概念说明：

LLM 不仅能理解语言，还能生成、推理和学习。上下文学习能力让它可以通过少量示例快速适应新任务，这也是 Prompt Engineering 有效的原因。

4. LLM 的应用调用链路

sequenceDiagramparticipant U as 用户participant App as 前端应用participant API as 后端APIparticipant LLM as LLM服务participant Cache as 缓存U->>App: 输入问题App->>API: 发送请求API->>Cache: 检查缓存alt 缓存未命中API->>LLM: 调用 chat.completions.createLLM-->>API: 返回生成结果API->>Cache: 写入缓存endAPI-->>App: 返回回答App-->>U: 展示结果

概念解释：

在生产环境中，前端不会直接调用LLM，而是经由后端袋里。后端能够统一完成认证、限流、缓存与日志处理，既可防止API密钥泄露，也能降低调用成本。

5. Prompt Engineering 结构

flowchart LRRole[角色定义] --> Context[上下文背景]Context --> Instruction[具体指令]Instruction --> Example[示例]Example --> Constraint[约束条件]Constraint --> Output[输出格式]

概念说明：

高质量的 Prompt 通常包含五个要素：角色定义让模型知道以什么身份回答；上下文提供背景；指令明确任务；示例展示期望输出；约束条件控制输出长度、格式和风格。

6. 主流 LLM 服务商的选型

flowchart TDStart[选择LLM] --> Task{任务类型}Task -->|复杂推理/代码| OpenAI[GPT-4 / GPT-4o]Task -->|长文本/安全/分析| Claude[Claude-3 系列]Task -->|多模态/成本敏感| Gemini[Gemini Pro]Task -->|私有化/合规| Local[开源模型]Task -->|简单任务/低成本| Turbo[GPT-3.5 / Haiku]

概念解释：

不同模型各有所长，选型时需要综合评估任务复杂度、上下文长度、成本、安全合规及多模态需求。对于简单任务，使用轻量模型能够显著降低成本。

7. 直接调用 vs 经后端袋里调用

flowchart TBsubgraph Direct[直接调用]D1[前端] --> D2[LLM API]endsubgraph Proxy[后端袋里调用]P1[前端] --> P2[后端API]P2 --> P3[LLM API]endstyle Proxy fill:#d4edda,stroke:#28a745

概念解释：

直接调用虽然简单，却存在安全风险，API密钥会在前端暴露。生产环境通常采用后端袋里方式，由服务端统一管理密钥、监测用量，并实现缓存和限流。