按主题查阅,深入理解
围绕大模型应用开发与面试,按13个知识域整理概念、机制、算例和问答。选择一个主题,展开条目查看学习目标,或从左侧目录直接打开文章。
选择阅读入口
工程与必要数学
Python 类型与数据建模
- 可变对象与引用
- 类型注解与运行时校验
- dataclass/Pydantic
- 序列化与默认值
深入讲解:Python 数据边界:类型注解、引用与运行时校验 →
试着解释:为什么类型注解不能拦住错误 JSON?
异常、资源管理与模块组织
- 异常传播
- 上下文管理器
- 包导入
- 虚拟环境与依赖锁定
- 配置分层
试着解释:如何区分业务失败和程序异常并保留原因?
HTTP 与 API 契约
- 请求响应
- 状态码
- 认证
- 连接池
- 超时
- API 版本与错误契约
试着解释:连接超时和读取超时分别应怎样处理?
异步与并发控制
- 事件循环
- 协程与任务
- 并发限额
- 取消传播
- 线程进程
- 结果关联
试着解释:一个工具变慢时,如何避免拖住全部请求?
Git、依赖与交付环境
- 分支与合并
- 依赖锁
- 镜像层
- 环境变量
- 可复现环境
- 大文件管理
试着解释:本地成功而容器失败,如何缩小问题范围?
测试、日志与 CI
- 单元/集成/契约测试
- 替身边界
- 日志级别
- 随机性
- CI 与回归
试着解释:测试全部通过为何仍可能无法调用真实模型?
SQL 与存储事务
- 索引
- 事务隔离
- 唯一约束
- 连接池
- 缓存
- 对象存储
试着解释:重复消息下如何避免重复写入业务数据?
损失、梯度与优化基础
- softmax/sigmoid
- 交叉熵
- 梯度更新
- 学习率
- 过拟合
- L1/L2 正则
试着解释:交叉熵为什么惩罚自信的错误预测?
Web 应用数据流
- FastAPI 路由与生命周期
- 请求响应模型
- 前后端契约
- 输入验证
- 错误传播
试着解释:前端类型正确为什么还需要服务端校验?
大模型内部机制
语言模型的演进与任务
- N-gram
- RNN
- 预训练
- 条件概率
- 判别与生成
- NLP 与 LLM 的关系
试着解释:为何自回归模型可以做分类?
分词算法与特殊 Token
- BPE/WordPiece/Unigram
- 词表
- 特殊标记
- 中文切分
- token 数差异
深入讲解:分词:从文本到 Token ID,理解 BPE 的训练与编码 →
试着解释:同一文本为什么不同模型计费 token 不同?
Embedding 与表示空间
- 查表嵌入与句向量
- 维度
- 池化
- 归一化
- 训练目标
- 语义局限
深入讲解:Embedding:查表向量为什么不等于检索向量 →
试着解释:生成模型的 Token Embedding 能直接用于检索吗?
Attention 与 QKV
- QKV 形状
- 缩放点积
- softmax
- mask
- 上下文聚合
- 复杂度
试着解释:给定两个 token 如何手算一次注意力输出?
Transformer 组成
- 多头注意力
- FFN
- 残差
- LayerNorm/RMSNorm
- 激活函数
- Pre/Post Norm
深入讲解:Transformer 块:注意力之后还有哪些计算 →
试着解释:去掉位置编码后模型会失去什么信息?
位置编码与长上下文
- 绝对/相对编码
- RoPE
- 长度外推
- 位置插值
- 窗口限制
试着解释:支持更长窗口为什么不等于长文理解更好?
模型架构与注意力变体
- Encoder/Decoder/Seq2Seq
- 因果掩码
- MHA/MQA/GQA
- 共享 KV 的取舍
深入讲解:MHA、MQA 与 GQA:查询头不变,KV 如何共享 →
试着解释:GQA 改善哪些成本,又可能损失什么?
预训练与后训练全景
- 语料
- 下一 token 目标
- 预训练/继续预训练/SFT/对齐
- 数据清洗
深入讲解:预训练到后训练:数据、目标和能力到底在哪一步改变 →
试着解释:知识不足、格式不稳和行为不合要求分别如何处理?
模型论文与架构阅读
- Qwen/DeepSeek 等版本论文
- 问题、方法、消融
- MoE/注意力改进
- SSM
- 结论边界
试着解释:如何证明论文改动有效而不只复述宣传指标?
模型调用、提示与上下文
结构化生成与校验
- JSON Mode/Schema
- 约束解码
- Pydantic
- 语法与语义
- 增量解析
试着解释:合法 JSON 为什么仍不能直接写入数据库?
流式响应与连接生命周期
- SSE/WebSocket
- 事件帧
- 增量文本/工具参数
- 断线
- 取消
- 背压
试着解释:收到半个工具参数时能执行工具吗?
Prompt 构造与示例选择
- 任务约束
- 分隔资料
- 少样本
- 正反例
- 模板变量
- 示例污染
试着解释:示例增加后效果下降如何排查?
提示迭代与自动优化
- 版本
- 黄金集
- 单变量实验
- 过拟合
- 提示搜索
- 回滚
试着解释:只改 Prompt 时怎样做可解释的效果比较?
上下文生命周期
- 写入/选择/压缩/隔离
- 预算
- 展示顺序
- Lost in the Middle
- 来源
试着解释:检索到了正确证据为什么仍可能答错?
上下文压缩与污染
- 摘要失真
- 缓存
- 冲突知识
- 提示注入
- 重建
- 信息优先级
试着解释:怎样验证压缩没有丢失否定条件和金额?
结构化笔记与即时读取
- 笔记模式
- 文件存储
- 即时搜索
- 终端权限
- ContextBuilder 的阶段职责
试着解释:为什么不能把所有文件提前塞进上下文?
推理与模型服务
Prefill、Decode 与缓存
- 两阶段算子特点
- KV Cache 结构
- 缓存增长
- 前缀缓存
- 失效条件
深入讲解:Prefill、Decode 与 KV Cache:一次生成到底算了什么 →
试着解释:长输入和长输出分别怎样影响首 token 与总延迟?
量化、分页与推理优化
- INT8/INT4
- 权重量化与 KV 量化
- PagedAttention
- FlashAttention
- 推测解码
深入讲解:量化、分页、FlashAttention与推测解码:分别省掉什么 →
试着解释:不同优化分别减少内存、访存还是串行步骤?
本地服务与运行后端
- Transformers/vLLM/Ollama 的角色
- 兼容 API
- 模型格式
- 设备与版本
深入讲解:Transformers、vLLM与Ollama:模型能运行以后,还缺哪些服务契约 →
试着解释:模型能加载为何仍可能不支持工具调用协议?
模型选型与多模型策略
- 质量集
- 能力/成本/隐私
- 开源闭源
- 路由
- 回退
- 版本迁移
试着解释:便宜模型加重试什么时候反而更贵?
检索与 RAG
RAG 全链路与边界
- 离线入库/在线查询
- 检索与生成
- 搜索系统区别
- RAG/微调/长上下文选择
试着解释:知识每天变化时为什么不优先微调?
文档采集与解析
- HTML/PDF/Office
- OCR
- 表格
- 版面顺序
- 清洗
- 解析质量
试着解释:PDF 转成文本后回答失真应先检查哪里?
分块与元数据
- 固定/递归/语义/结构切块
- 重叠
- 父子块
- 元数据
- 权限继承
试着解释:增大 chunk 和增大 top-k 有什么不同?
稀疏检索与 BM25
- 倒排索引
- TF/IDF
- 长度归一
- 分词
- 精确术语
- BM25 参数
试着解释:产品编号为什么可能更适合词法检索?
向量距离与 ANN
- 精确/近似近邻
- L2/余弦/内积
- 归一化
- 召回和延迟
深入讲解:向量距离与 ANN:把表示错误和搜索漏召回分开 →
试着解释:如何区分 Embedding 差与 ANN 搜索漏召回?
HNSW 与 IVF/PQ
- 图遍历
- 聚类分桶
- 量化
- 构建/查询参数
- 内存
- 更新代价
深入讲解:HNSW、IVF 与 PQ:定位搜索和压缩各自损失了什么 →
试着解释:降低延迟时怎样定位损失发生在量化还是搜索?
向量数据库与过滤
- 索引与数据库区别
- 元数据过滤
- 前后过滤
- 多租户
- 一致性
- 备份
试着解释:先过滤还是后过滤会怎样改变召回和权限风险?
Reranker 与上下文压缩
- Bi/Cross Encoder
- 候选量
- 批处理
- 阈值
- 相关性与权限
- 抽取压缩
深入讲解:Reranker 与上下文压缩:候选内重排,条件不能压丢 →
试着解释:Reranker 能否救回没有召回的文档?
索引生命周期
- 文档身份
- 去重
- 增量更新
- 版本切换
- 删除
- 缓存失效
试着解释:用户删除文档后哪些副本还可能残留?
Text-to-SQL 与结构化检索
- Schema Linking
- SQL 生成
- 只读权限
- AST 校验
- 执行反馈
- 数据泄漏
深入讲解:Text-to-SQL:生成合法查询之后还有权限与资源边界 →
试着解释:SELECT 语句为何仍可能造成高风险?
Agentic/Adaptive RAG
- 检索决策
- 反复检索
- Self/Corrective RAG 思路
- 停止
- 预算
- 失败传播
深入讲解:Agentic与Adaptive RAG:让再次检索有理由,也有终点 →
试着解释:自主检索如何避免不断重复搜同一问题?
检索与回答联合评测
- Recall/MRR/NDCG
- 相关性标注
- 忠实性
- 答案正确性
- 空答案
试着解释:召回提升为何可能导致最终答案变差?
RAG 组件选型
- LlamaIndex/RAGFlow 等角色
- 解析/索引/检索接口
- 服务边界
- 替换成本
深入讲解:RAG组件选型:从接口契约看LlamaIndex与RAGFlow →
试着解释:如何比较两个 RAG 框架而不只比较演示效果?
Agent 与记忆
Agent 定义与任务环境
- 感知行动
- PEAS
- 环境可观察性
- 自治程度
- Workflow/Agent 边界
深入讲解:Agent 与任务环境:先定义成功,再决定自治 →
试着解释:什么任务用普通规则比 Agent 更合理?
智能体历史与范式
- 符号系统
- 专家系统
- SHRDLU/ELIZA
- 规则匹配
- 心智社会
- 联结主义与 RL
试着解释:规则系统、RL Agent 与 LLM Agent 的决策依据有何不同?
Loop 与工具执行闭环
- 观察决策执行回注
- 模型适配
- 终态
- 工具错误
- 真实与脚本决策区别
试着解释:模型提出调用与工具已经执行如何区分?
ReAct 与推理路径
- 交替观察行动
- 证据
- 错误恢复
- 轨迹
- 可观察理由与私密思维链
试着解释:如何调试 Agent 而不依赖模型暴露内部思维链?
规划与搜索策略
- Plan-and-Solve/Execute
- 计划修订
- 依赖
- CoT/ToT/GoT
- 搜索代价
试着解释:何时预先规划,何时逐步行动?
反思与自我校验
- 外部反馈
- 评判与修订
- 同模型偏差
- 收敛
- 成本收益
试着解释:为什么让模型再检查一次不一定更正确?
停止、预算与人工介入
- 步数/时间/token
- 进展
- 重复
- 人工接管
- 预算预留
- 失败终态
试着解释:预算耗尽时应返回哪些可用结果和证据?
状态与错误恢复
- 任务状态
- 结果契约
- 错误分类
- 确定性分支
- 恢复策略
试着解释:观察为空、工具故障与模型拒答如何分别处理?
记忆分类与结构
- 工作/情景/语义/程序记忆
- 认知类比边界
- 会话与用户范围
- 检索
试着解释:聊天历史和长期记忆为什么不能混为一谈?
记忆写入与遗忘
- 提取
- 验证
- 冲突
- 合并
- 召回
- TTL
- 纠错
- 删除
- 隐私
试着解释:用户纠正偏好后怎样避免旧记忆继续影响回答?
Harness 与可复用运行时
- 工具注册
- 模型接口
- 会话
- 权限
- 状态
- 反馈
- 运行边界
试着解释:模型能力不变时运行时怎样改变任务成功率?
经验学习与自进化
- 上下文/技能/共享经验/参数闭环
- 评估器
- 版本谱系
- 回滚
- 供应链
试着解释:如何防止自动改进把一次偶然成功固化成错误规则?
工具、协议与 Skills
工具 Schema 与执行契约
- 描述与选择
- 输入输出
- 类型
- 错误结构
- 版本
- 副作用声明
试着解释:如何区分选错工具、参数错和工具实现错?
工具授权与副作用
- 最小权限
- 幂等
- 超时
- 补偿
- 审计
- 执行时身份
试着解释:工具超时后重试,如何避免重复扣款?
并行工具与依赖
- call_id
- 依赖排序
- 并发上限
- 部分成功
- 取消
- 回注顺序
试着解释:完成顺序不同会怎样影响上下文和执行正确性?
MCP 架构与能力
- Host/Client/Server
- Tools/Resources/Prompts
- 发现
- 协商
- 控制方
试着解释:MCP 与 Function Calling 分别解决哪一层问题?
MCP 会话与传输
- 初始化
- JSON-RPC
- stdio/HTTP
- 通知
- 流式
- 断线
- 版本兼容
试着解释:初始化完成前调用工具为何可能失败?
MCP 授权与服务开发
- 授权流程
- token audience
- 会话身份
- 本地/远程边界
- server/client 实现
试着解释:接入了 MCP 为什么不代表工具已经安全授权?
A2A 与 Agent 互操作
- Agent Card
- 技能声明
- Task/Message/Artifact
- 异步
- 发现
- 信任
试着解释:A2A 的任务状态为何不同于一次 RPC 返回值?
Skills 结构与渐进加载
- SKILL.md
- 元数据
- 触发
- 正文
- scripts/references/assets
- 渐进披露
深入讲解:Skills结构与渐进加载:先发现,再读取必要流程 →
试着解释:Skill 与 Prompt、工具、MCP 服务有什么不同?
工作流与多 Agent
图与工作流状态
- 节点
- 边
- 条件
- 并行
- 子图
- 合并
- 状态 Schema
试着解释:同一字段被多个节点更新时按什么规则合并?
重试、补偿与一致性
- 退避
- 熔断
- 重复投递
- 乱序
- 事务
- 补偿
- 部分失败
试着解释:为什么补偿不一定能把世界恢复原样?
长任务、队列与背压
- 排队
- 限流
- 任务租约
- 取消
- 断点
- 降级
- 重启恢复
试着解释:取消请求返回成功是否意味着所有工作已经停止?
协作模式与角色
- Supervisor/Router/Handoff
- Planner/Executor/Reviewer
- 依赖
- 职责边界
试着解释:增加 Agent 为什么可能降低成功率?
多 Agent 状态与通信
- 黑板
- 共享/私有状态
- 消息
- 证据冲突
- 异步交接
- 来源去重
试着解释:多个 Agent 同意一个结论为何不等于独立验证?
协作预算与故障传播
- 上下文隔离
- 预算分摊
- 延迟
- 传播
- 终止
- 单多 Agent 消融
试着解释:怎样证明协作收益大于通信和协调成本?
框架与低代码
框架共同抽象与选型
- Message/Config/Agent/Tool
- 适配层
- 生命周期
- 同步异步
- 扩展点
深入讲解:框架共同抽象:把对象还原成可控制的 Agent Loop →
试着解释:框架对象如何映射到自己手写的 Loop?
LangChain 与 LangGraph
- 模型/工具组合
- StateGraph
- reducers
- checkpoint
- interrupt
- 子图
深入讲解:LangChain 与 LangGraph:状态更新、暂停恢复和副作用边界 →
试着解释:LangGraph 解决了什么,哪些安全责任仍由应用承担?
LlamaIndex 与 smolagents
- Document/Node/Index/Retriever
- Query Engine
- 代码行动与工具行动
- 执行沙箱
深入讲解:LlamaIndex 与 smolagents:数据索引和行动执行是两条链 →
试着解释:两者抽象为何分别偏向数据与行动?
AutoGen 与 Microsoft Agent Framework
- 消息驱动
- AgentChat
- 事件运行时
- 终止
- 框架演进与迁移
深入讲解:AutoGen 与 Microsoft Agent Framework:消息运行时与迁移验证 →
试着解释:框架版本变化时如何验证协作语义未改变?
AgentScope 与 CAMEL
- 消息流
- 参与者
- 角色扮演
- 协作编排
- 扩展接口
- 终止
深入讲解:AgentScope 与 CAMEL:角色协作如何变成可验证的消息流 →
试着解释:角色设定如何与程序控制和实际权限区分?
FastGPT 与 n8n
- 知识库处理
- 节点传值
- 触发器
- 凭据
- 循环
- 错误分支
- 自动化与 Agent
深入讲解:FastGPT 与 n8n:知识处理、项目关联和可靠自动化 →
试着解释:邮件触发工作流怎样避免重复执行和权限扩散?
Deep Agents 与框架可观测
- 文件系统
- 规划
- 子代理
- 长期执行
- LangSmith 轨迹/数据集/评测
- 平台依赖
深入讲解:Deep Agents 与可观测:长期任务、文件产物和可评测轨迹 →
试着解释:框架日志和可关联的评测轨迹差在哪?
训练与模型适配
优化路线选择
- Prompt/RAG/SFT/DPO/RL
- 问题归因
- 数据成本
- 基线
- 收益与回滚
深入讲解:优化路线选择:先归因,再决定Prompt、RAG还是训练 →
试着解释:什么证据说明应微调而不是先修检索?
训练数据与审计
- 格式
- 来源
- 合成
- 去重
- 分割
- 泄漏
- 质量标签
- 工具轨迹
试着解释:数据量翻倍为何可能让效果下降?
SFT 目标与训练过程
- chat template
- label mask
- loss
- batch
- epoch
- 学习率
- 评估与保存
深入讲解:SFT目标与训练过程:从label mask到checkpoint选择 →
试着解释:为什么训练时应区分提示 token 与回答 token?
LoRA 与 QLoRA
- 低秩分解
- rank/alpha
- target modules
- 冻结
- 量化
- 合并
- 局限
深入讲解:LoRA与QLoRA:低秩更新、量化底座和合并边界 →
试着解释:rank 增大为什么不保证任务表现更好?
训练资源与超参数
- 梯度累积
- 混合精度
- checkpointing
- 优化器状态
- DDP/FSDP/ZeRO 概念
- 通信
试着解释:梯度累积能解决哪些显存问题,不能解决哪些?
PPO 与 RLHF
- 策略/参考/奖励/价值模型
- 优势
- clip
- KL
- rollout
- 稳定性
深入讲解:PPO与RLHF:rollout、优势、clip和KL各管什么 →
试着解释:KL 约束太强或太弱分别可能怎样?
DPO 与 RLAIF
- 偏好目标
- 参考模型
- beta
- pair 质量
- AI 反馈
- 选择偏差
深入讲解:DPO与RLAIF:参考模型、偏好目标和AI反馈偏差 →
试着解释:DPO 不显式训练奖励模型意味着不依赖奖励假设吗?
Agentic RL 与信用分配
- 环境
- 动作轨迹
- 终局/过程奖励
- 稀疏奖励
- 工具反馈
- 奖励投机
深入讲解:Agentic RL与信用分配:工具轨迹、稀疏奖励和奖励投机 →
试着解释:最终任务失败时怎样定位应归因于哪一步?
后训练组合策略
- 冻结协议与评测
- 多阶段 SFT
- Best-of-N
- DPO
- 候选重排
- 成本对照
深入讲解:后训练组合:多阶段SFT、Best-of-N、DPO与重排如何公平比较 →
试着解释:怎样证明提升来自训练而不是采样候选数增加?
评测与效果分析
数据集与标注规范
- 真实/合成/对抗样本
- 版本
- 覆盖
- rubric
- 仲裁
- 分层采样
试着解释:如何避免评测集只包含容易的问题?
生成质量与基础基准
- BLEU/ROUGE 局限
- 事实性
- MMLU/HumanEval 等用途
- 任务分布
- 有效性
试着解释:基准得分更高为什么可能不适合当前业务?
LLM 裁判与人工校准
- 位置/长度/自偏好
- 成对比较
- 胜率
- 人工一致性
- 校准
试着解释:怎样识别裁判只偏爱更长的答案?
Trace、版本与成本归因
- trace/span
- 请求关联
- 工具/模型版本
- token
- 时间分解
- 敏感数据
深入讲解:Trace、版本与成本:让一次Agent请求可以被解释 →
试着解释:一次慢请求怎样定位到模型排队或外部工具?
消融、统计与污染
- 控制变量
- 置信区间
- 配对实验
- 样本量
- 多重比较
- 泄漏
试着解释:成功率差两个百分点如何判断是否可靠?
生产、安全与系统设计
提示注入与数据外泄
- 直接/间接注入
- 数据指令边界
- 工具输出
- 外传
- 测试样例
试着解释:为什么在系统提示词里写保密仍不足够?
身份、审批与审计
- RBAC/ABAC
- 租户
- 执行身份
- 审批绑定
- 留存
- 审计可追溯性
试着解释:模型声称用户已授权时,服务端应该信什么?
模型网关与服务部署
- API 边界
- 鉴权
- 路由
- 配额
- 流式透传
- 模型版本
- 可用性
试着解释:网关重试如何与上层重试避免叠加?
架构决策与系统设计
- 需求澄清
- 容量假设
- 数据流
- 组件边界
- 备选方案
- RFC/ADR
- 验证计划
深入讲解:架构决策与系统设计:从需求、假设到可证伪的方案 →
试着解释:如何设计带权限隔离与质量回归的知识问答服务?
专项能力与前沿
Browser Agent 原理
- DOM/可访问树
- 视觉定位
- 动作可操作性
- 异步页面
- 观察与验证
深入讲解:Browser Agent:定位、可操作性与任务验证 →
试着解释:按钮点击成功为什么不能作为任务完成条件?
Computer/Mobile Use
- 截图坐标
- 缩放
- 窗口
- 登录态
- 设备动作
- 回放
- 敏感操作
深入讲解:Computer 与 Mobile Use:坐标必须绑定观察 →
试着解释:页面变化后怎样避免复用过期坐标?
Coding Agent 与编辑工具
- 检索
- read-before-edit
- 补丁
- 乐观锁
- 原子多点编辑
- 测试反馈
- shell 权限
深入讲解:Coding Agent:读取、补丁与冲突保护 →
试着解释:文件在读取后被别人改了,补丁应怎样处理?
常驻与长期 Agent
- 事件触发
- 消息入口
- 会话
- 任务租约
- 记忆
- 跨运行恢复
- 自主边界
试着解释:进程重启后如何区分已完成与正在执行的动作?
视觉语言模型结构
- CLIP 对比学习
- 视觉编码器
- 投影连接器
- 跨模态注意力
- LLaVA
- 视觉指令微调
试着解释:视觉特征怎样进入语言模型上下文?
视觉 Grounding 与视频
- 区域对应
- 高分辨率切块
- 视频抽帧
- 时间对齐
- 视觉幻觉
- 评测
深入讲解:视觉 Grounding 与视频:区域、帧与时间证据 →
试着解释:抽帧更密为何不一定识别出关键事件?
语音输入与输出
- ASR
- VAD
- 端点检测
- 流式 TTS
- 韵律
- 打断
- 噪声
试着解释:说话停顿与说话结束怎样区分?
实时会话与多模态评测
- WebRTC
- 会话状态
- 端到端延迟
- 同步
- 体验指标
- 错误分解
试着解释:打断后怎样防止旧回复继续播放?
社会模拟与具身边界
- NPC 角色
- 记忆
- 关系状态
- 批量对话
- 仿真时钟
- 物理约束
- 环境反馈
试着解释:社会模拟中角色一致性和真实社会有效性有何区别?
应用交互与数据展示
- 表单验证
- API 客户端
- 加载进度
- 状态同步
- 结果编辑
- 导出
- 可访问性
试着解释:用户修改结果后怎样避免旧生成流覆盖新内容?
技术趋势与论证边界
- 世界模型
- 具身
- 个性化
- 合成数据
- 开闭源
- AGI 不确定性
- 论文对照
试着解释:如何有证据地回答技术趋势题而不是预测口号?