极客时间AI大模型应用开发实战营

极客时间AI大模型应用开发实战营

基础篇
大模型基础：理论与技术的演进
初探大模型：起源与发展
预热篇：解码注意力机制（Attention）
变革里程碑：Transformer的崛起
走向不同：GPT 与 Bert 的选择
GPT 模型家族：从始至今
从 GPT-1 到 GPT-3.5：一路的风云变幻
ChatGPT：赢在哪里
GPT-4：一个新的开始
提示学习（Prompt Learning）
思维链（Chain-of-Thought, CoT）：开山之作
自洽性（Self-Consistency）：多路径推理
思维树（Tree-of-Thoughts, ToT）：续写佳话
大模型开发基础：OpenAI Embedding
通用人工智能的前夜
“三个世界”与“图灵测试”
计算机的数据表示
表示学习与嵌入
Embeddings Dev 101
课程项目：GitHub openai-quickstart
快速上手 OpenAI Embeddings
OpenAI 大模型开发与应用实践
OpenAI 大模型开发指南
OpenAI 语言模型总览
OpenAI GPT-4, GPT-3.5, GPT-3, Moderation
OpenAI Token 计费与计算
OpenAI API 入门与实战
OpenAI Models API
OpenAI Completions API
OpenAI Chat Completions API
Completions vs Chat Completions
OpenAI 大模型应用实践
文本内容补全初探（Text Completion）
聊天机器人初探（Chat Completion）
AI 大模型应用最佳实践
如何提升 GPT 模型使⽤效率与质量
AI ⼤模型应⽤最佳实践
⽂本创作与⽣成
⽂章摘要和总结
⼩说⽣成与内容监管
分步骤执⾏复杂任务
评估模型输出质量
构造训练标注数据
代码调试助⼿
新特性：Function Calling 介绍与实战
如何使⽤ functions 参数
如何使⽤ function_call 参数
使⽤ GPT 模型⽣成函数和参数
实际执⾏ GPT 模型⽣成的函数（以 SQL 查询为例）
实战一：基于 ChatGPT 开发智能翻译助手
OpenAI-Translator 市场需求分析
OpenAI-Translator 产品定义与功能规划
OpenAI-Translator 技术方案与架构设计
PDF 文档解析和导出模块
大模型（LLMs）接入模块
提示词（Prompt）模板模块
参数解析器（ArgParser）模块
日志和异常捕获模块
OpenAI-Translator 实战
实战二：动手开发第一个 ChatGPT Plugin
ChatGPT Plugin 开发指南
ChatGPT Plugin 介绍
样例项目: 待办 (Todo) 管理插件
实战样例部署与测试
ChatGPT 开发者模式
实战: 天气预报 (Weather Forecast) 插件开发
Weather Forecast Plugin 设计与定义
天气预报函数服务化
第三方天气查询平台对接
实战 Weather Forecast Plugin
Function Calling vs ChatGPT plugin
进阶篇
⼤模型应⽤开发框架 LangChain（上）
LangChain 101
LangChain 是什么
为什么需要 LangChain
LangChain 典型使⽤场景
LangChain 基础概念与模块化设计
LangChain 核⼼模块⼊⻔与实战
标准化的⼤模型抽象：Mode I/O
模板化输⼊：Prompts
语⾔模型：Models
规范化输出：Output Parsers
⼤模型应⽤开发框架 LangChain（中）
⼤模型应⽤的最佳实践 Chains
上⼿你的第⼀个链：LLM Chain
串联式编排调⽤链：Sequential Chain
处理超⻓⽂本的转换链：Transform Chain
实现条件判断的路由链：Router Chain
赋予应⽤记忆的能⼒：Memory
Momory System 与 Chain 的关系
记忆基类 BaseMemory 与 BaseChatMessageMemory
服务聊天对话的记忆系统
ConversationBufferMemory
ConversationBufferWindowMemory
ConversationSummaryBufferMemory
⼤模型应⽤开发框架 LangChain（下）
框架原⽣的数据处理流 Data Connection
⽂档加载器（Document Loaders）
⽂档转换器（Document Transformers）
⽂本向量模型（Text Embedding Models）
向量数据库（Vector Stores）
检索器（Retrievers）
构建复杂应⽤的代理系统 Agents
Agent 理论基础：ReAct
LLM 推理能⼒：CoT, ToT
LLM 操作能⼒：WebGPT, SayCan
LangChain Agents 模块设计与原理剖析
Module：Agent, Tools, Toolkits
Runtime：AgentExecutor, PlanAndExecute , AutoGPT
上⼿第⼀个Agent：Google Search + LLM
实战 ReAct：SerpAPI + LLM-MATH
实战三: 使⽤ Langchain 重新实现智能翻译助⼿
深⼊理解 Chat Model 和 Chat Prompt Template
温故：LangChain Chat Model 使⽤⽅法和流程
使⽤ Chat Prompt Template 设计翻译提示模板
使⽤ Chat Model 实现双语翻译
使⽤ LLMChain 简化构造 Chat Prompt
基于 LangChain 优化 OpenAI-Translator 架构设计
由 LangChain 框架接⼿⼤模型管理
聚焦应⽤⾃身的 Prompt 设计
使⽤ TranslationChain 实现翻译接⼝
更简洁统⼀的配置管理
OpenAI-Translator v2.0 功能特性研发
基于 Gradio 的图形化界⾯设计与实现
基于 Flask 的 Web Server 设计与实现
实战四: 手把手带你实现网红项目 AutoGPT
AutoGPT 原始版本定位与功能解读
LangChain 版 AutoGPT 技术方案与架构设计
网络搜索（SerpAPIWrapper）模块
文件读写（FileTool）模块
持久化存储（Vectorstores）模块
向量模型（Embeddings）模块
聊天模型（Chat Models）模块
实战 LangChain 版 AutoGPT
实战五: 基于知识库的销售顾问 Sales-Consultant
Sales-Consultant 市场需求分析
Sales-Consultant 产品定义与功能规划
Sales-Consultant 技术方案与架构设计
解析与索引管理（Indexes）模块
知识库问答（QA Chain）模块
用户引导（Example Selectors）模块
实战 LangChain 版 Sales-Consultant
大模型应用落地与数据隐私
大模型时代的开源与数据协议
数据安全性和保护措施
数据加密与脱敏技术
安全传输与存储机制
模型的可解释性和可审计性
提高模型决策过程的透明度
大模型的审计机制与规则
伦理和道德考虑
大模型带来的伦理挑战
设计与使用大模型时的道德原则
法规合规性
数据保护法规对大模型的影响
大模型的合规性保证策略
数据隐私的量化评估
数据隐私影响的评价指标
数据隐私量化评估的方法与技术
生态篇
大模型开源生态
大模型排行榜与基准测试
大模型横向对比
OpenAI GPT-4
Facebook LLaMA
Stanford Alpaca
Tsinghua ChatGLM
大模型时代的 Github：Hugging Face
使用 HuggingFace 托管你的 LLMs 应用
大模型核心硬件选型指南
NVIDIA 概念解惑
GPU vs 显卡
架构（安培 Amper）vs 产品（数据中心）
专业级（A100）vs 消费级（4090）
CUDA Core vs Tensor Core
显卡选型推荐指南
显卡性能天梯榜
专业级显卡怎么选
消费级显卡怎么选
AMD 是一个选择么？
基于 ChatGLM2 大模型应用开发
清华 GLM 大模型家族
最强系列 GLM-130B
增强对话能力 ChatGLM
图形化服务化 WebGLM
结合视觉 VisualGLM
ChatGLM2-6B 大模型应用开发
ChatGLM2-6B 介绍与快速入门
ChatGLM2-6B 私有化部署
ChatGLM2-6B fine-tuning
基于 ChatGLM2-6B 打造你的私有化 “ChatGPT”