Practical AI Engineering课

ℹ️ InformationPre-work

课前准备说明必要的知识储备为确保学员能够顺利完成本课程并有效掌握内容，建议具备以下基础知识：Python编程基础：了解Python的基本语法和数据操作，以便在课程中顺利完成代码编写和调试。会写RESTful API，熟悉CRUD的API搭建，可以任意用语言，最好是python，j... 登录后查看完整内容

ℹ️ InformationPreparation

Preparation

🎬 VideoGenerative Al & productivity

在这节课中，你将系统理解生成式 AI（Generative AI）在真实商业世界中究竟能做些什么，以及企业为什么如此重视 AI 能力。课程从 GenAI 的三大应用方向出发，带你了解 AI 如何提升用户体验、增强员工生产力、优化企业业务流程。随后，你会第一次接触 AI Engin... 登录后查看完整内容

🎬 VideoGenAl Concept

本节课程作为AI Engineer训练营的重要基础模块，围绕“Foundation Models（基础模型）”的核心概念展开，带领学习者理解生成式人工智能的底层原理及其典型应用形式。通过介绍从原始数据到预训练语言模型（LLM）的演化过程，结合提示工程（Prompt Enginee... 登录后查看完整内容

🎬 VideoPrompt Engineering

本节课程将系统性介绍 Prompt Engineering（提示工程）的核心概念、常见提示类型、设计策略与最佳实践。内容从“什么是 Prompt”出发，逐步延伸到 Zero-shot / Few-shot、Chain-of-Thought、Role Prompting 等关键方法... 登录后查看完整内容

🎬 VideoRAG

🎬 VideoGenAl Agents

🎬 VideoGenerative Al Ops

🎬 VideoStructured Data vs Unstructured Data

🎬 VideoIntroduction to Machine Learning

🎬 VideoSupervised, Unsupervised, and Reinforcement learning

在本节课程中，我们将深入探讨三种主要的机器学习类型——监督学习、非监督学习和强化学习，帮助您更清晰地理解这些核心概念：监督学习：适用于带标签的数据。在监督学习中，模型通过已知的输入和输出关系进行训练，用于分类和预测。例如，我们可以通过带有“狗”或“非狗”标签的图片数据集训练模型，... 登录后查看完整内容

🎬 VideoIntroduction to Deep Learning

🎬 VideoThe transformer architecture

在本节课程中，我们将详细讲解变换器（Transformers）架构，深入探索其在自然语言处理（NLP）任务中的强大功能。您将学习变换器如何通过其编码器-解码器架构，一次性处理所有输入，提升翻译和文本生成等任务的效率和精确度。课程主要内容包括：变换器的整体架构：介绍变换器的编码器-... 登录后查看完整内容

🎬 VideoInput embeddings

在本节课程中，我们将详细讲解变换器架构的**输入嵌入（input embeddings）**过程，这是实现自然语言处理的第一步。该步骤将文本转换为数值表示，使得模型能够处理和理解语言中的语义和上下文信息。课程内容包括：标记化（Tokenization）：将输入文本分解为标记（如单... 登录后查看完整内容

✍️ AssignmentGenAI Capstone Project：intelligent Study Assistant(ISA)

GenAI Capstone Project: Intelligent Study Assistant (ISA)🎯 Use CaseStudents often struggle to find tailored study materials, answ... 登录后查看完整内容

🎬 VideoNatural Language Processing(NLP)

Transformer Architecture 课程介绍学习目标本课程旨在为学生提供对Transformer架构的深入理解。通过该课程，学生将学习以下内容：Transformer模型的核心组成部分及其工作机制。如何应用Self-Attention机制来处理自然语言处理任务。理解... 登录后查看完整内容

🎬 VideoTransformer and Attention

🎬 VideoLanguage Models (LM)

🎬 VideoPrompting

🎬 VideoFine-Tuning

🎬 VideoRAG 1

🎬 VideoRAG 2

🎬 VideoAgents

🎬 VideoBenefits and When to Use

🎬 VideoPrompt Engineering: Best Practices

🎬 VideoPrompt Iteration through a User Interface

学习目标掌握如何通过用户界面进行Prompt Iteration，提高提示的精确性与生成模型的输出质量学习如何设计和优化用户界面以支持Prompt的快速迭代与调试理解如何通过用户反馈和交互优化Prompt，从而提升模型在实际应用中的表现提升在实际项目中通过用户界面实现Prompt... 登录后查看完整内容

🧪 LabProject：Building and Sharing Your First GPT in OpenAI’s GPT Store

学习目标- 掌握如何在OpenAI的GPT Store中构建并分享你的第一个GPT应用- 学习如何设计、开发和部署GPT应用，并确保其符合GPT Store的发布要求- 理解如何优化GPT应用的用户体验与性能，以提升用户满意度和应用效果- 提升在实际项目中使用OpenAI的工具和... 登录后查看完整内容

ℹ️ InformationChatGPT Prompt Set

ℹ️ InformationGenAI Toolbox

🎬 Video大语言模型

🎬 VideoRAG基本架构

🎬 VideoEmbedding嵌入模型

🎬 Video向量数据库

🎬 VideoNative RAG存在的问题

🎬 VideoAdvanced RAG

🎬 VideoAgentic RAG

🎬 VideoContextual RAG

🎬 VideoEmbedding Models vs. LLM Chat Models

学习目标理解Embedding Models与LLM Chat Models的核心区别及各自的应用场景学习如何选择适合的模型类型，用于解决特定的自然语言处理任务掌握Embedding Models在语义表示、相似性搜索中的作用，以及LLM Chat Models在生成式对话中的应... 登录后查看完整内容

🎬 VideoIntroduction to Retrieval Augmented Generation (RAG)

🧪 LabProject：Building RAG from Scratch in Python

🎬 VideoWhat are API Rate Limits? - OpenAl

学习目标- 掌握使用Python构建简单用户界面（User Interfaces, UI）的基础技能- 学习如何通过常见的Python UI库（如Tkinter或PyQt）创建交互式应用- 理解如何在Python中结合用户输入与逻辑处理，实现基础的界面交互- 探索如何设计直观的U... 登录后查看完整内容

🎬 VideoAzure OpenAl: Quotas, Rate Limiting, and PTUs

🎬 VideoPdf Parsing

🎬 Videoinvoice processing

🎬 VideoPDF Parsing 101

🎬 VideoLLM Rate Limits

学习目标 - 理解大语言模型（LLM）的Rate Limits机制及其对API调用的影响 - 掌握如何在开发过程中优化LLM API请求，减少因Rate Limits导致的调用失败 - 学习如何监控和管理LLM Rate Limits，以确保高效的模型性能和用户体验 - 探索常见... 登录后查看完整内容

🧪 LabProject：Shipping and Sharing a Rate-Unlimited, PDF-UploadReady RAG Application

学习目标- 掌握如何构建和部署一个Rate-Unlimited、支持PDF上传的Retrieval Augmented Generation (RAG)应用- 学习如何实现PDF解析与RAG系统的集成，提供高效的文档检索和生成能力- 理解如何设计Rate-Unlimited系统，... 登录后查看完整内容

ℹ️ InformationRAG Builder Toolbox

学习目标本课程旨在为学习者提供构建和优化检索增强生成（Retrieval-Augmented Generation, RAG）系统的全面工具箱。通过本课程的学习，学员将深入理解RAG的核心概念，学习如何使用先进的检索与生成技术优化RAG管道，并在实际项目中实现多智能体LLM（大... 登录后查看完整内容

ℹ️ InformationAI Resource Hub

学习目标  - 掌握如何使用RAG Builder Toolbox构建和优化Retrieval Augmented Generation (RAG) 系统  - 学习使用工具箱中的不同模块来实现信息检索、嵌入生成和文本生成  - 理解如何通过集成现有... 登录后查看完整内容

🎬 VideoBudgeting and API costs

ℹ️ InformationEnd-to-End RAG Toolbox

学习目标  - 掌握使用End-to-End RAG Toolbox构建完整的Retrieval Augmented Generation (RAG)系统的技能  - 理解RAG系统的核心组件及其在信息检索和生成中的应用  - 学习如何通过工具箱实现... 登录后查看完整内容

🎬 Video用 AWS 构建 RAG应用

授课老师：Peiyao

🎬 VideoIntroduction to LangChain

ℹ️ InformationProduction RAG Toolbox

学习目标  - 掌握如何使用Production RAG Toolbox构建和优化面向生产环境的Retrieval Augmented Generation (RAG) 系统  - 理解RAG系统的核心组件在生产环境中的应用与最佳实践  - 学习如何... 登录后查看完整内容

🎬 VideoLangChain Core Constructs

🎬 VideoLangChain 架构层次

🎬 VideoChat Models-深入

🎬 VideoPrompt Templates-高级技巧

🎬 VideoOutput Parsers-实战

🎬 VideoRetrieval-向量存储

🎬 VideoDocument loaders

🎬 VideoLangchain Expressio Nlanguage LCEL

🎬 VideoLangsmith

🎬 VideoCode Examples

🎬 VideoAgents & Tools

🎬 VideoMemory 系统

🎬 VideoLangChain与外部数据源的集成

🎬 VideoSQL 数据库集成

🎬 VideoREST API集成

🎬 VideoLangChain Expression Language: Chains and Runnables

学习目标- 掌握LangChain Expression Language的基本概念及其在构建复杂任务流中的应用- 学习如何通过Chains和Runnables高效管理和执行多步骤任务- 理解如何使用LangChain Expression Language实现动态的Prompt... 登录后查看完整内容

🎬 VideoMonitoring and Visibility with LangSmith

🧪 LabProject：Building and Sharing your First RAG QA Application with LangChain

学习目标- 掌握如何使用LangChain从零构建一个Retrieval Augmented Generation (RAG) 问答 (QA) 应用- 理解RAG系统的核心构件及其在知识问答中的应用- 学习如何将文档检索与生成模型相结合，以实现高效的问答功能- 学会如何分享和部署... 登录后查看完整内容

ℹ️ InformationRAG Evaluation Toolbox

学习目标  - 掌握如何使用RAG Evaluation Toolbox评估Retrieval Augmented Generation (RAG)系统的性能  - 学习如何设计和应用关键评估指标来衡量RAG系统的检索和生成质量  - 理解如何通过R... 登录后查看完整内容

🎬 VideoRAG Review

🎬 VideoTraditional Retrieval Evaluation Metrics

🎬 VideoLLM Generation Evaluation Metrics

🎬 VideoRAG Evaluation1

🎬 VideoRAG Evaluation2

🎬 VideoRAGAS evaluation Metrics

🎬 VideoMetrics: Context Recall, Context Precision, Answer Relevancy, and Faithfulness

学习目标- 掌握Metrics中的核心概念，包括Context Recall、Context Precision、Answer Relevancy和Faithfulness- 理解这些指标在评估生成式AI和Retrieval Augmented Generation (RAG)系... 登录后查看完整内容

🎬 VideoRAGAS代码实操

学习目标- 掌握Metrics中的核心概念，包括Context Recall、Context Precision、Answer Relevancy和Faithfulness- 理解这些指标在评估生成式AI和Retrieval Augmented Generation (RAG)系... 登录后查看完整内容

🎬 VideoLangfuse

学习目标 - 理解如何评估Retrieval Augmented Generation (RAG)应用中的检索准确性和生成质量 - 学习如何设计和使用关键指标评估RAG系统中的信息检索和内容生成 - 掌握如何通过评估优化RAG应用的性能，确保系统的高效性和准确性 - 提升在实际项... 登录后查看完整内容

🎬 VideoAgents

🎬 VideoThe Reasoning-Action (ReAct) Framework

🎬 VideoSearch and Retrieval with Tools (Function Calling)

🧪 LabProject：Building a production-grade Agentic RAG Application

学习目标- 掌握如何构建一个面向生产环境的Agentic RAG (Retrieval Augmented Generation) 应用- 理解如何通过Agents增强RAG系统的自动化与决策能力- 学习如何将文档检索、生成模型和Agents无缝集成，实现复杂的动态任务执行- 提... 登录后查看完整内容

ℹ️ InformationProduction Agents Application Toolbox

学习目标通过本课程的学习，学员将能够：掌握智能Agent系统的基本原理与架构设计。学习多智能体（Multi-Agent）协同工作的方法和策略，实现Agent间的无缝协作。了解如何在生产环境中优化智能Agent系统的性能和效率，以处理大规模并发任务。掌握监控与自动化调试的技术，确保... 登录后查看完整内容

🎬 VideoMulti-Agent Systems

🎬 VideoNetwork of Agents

🎬 VideoSupervisor Agent Approach

🎬 VideoHierarchical Supervisor Systems

🎬 VideoCommunication Mechanisms in Multi-Agent Systems

🎬 VideoWhat is LangSmith

🎬 VideoAgent Demo展示

🎬 VideoHierarchical, Multi-Agent Collaboration, Agent Supervision

🎬 VideoAgent Operations (Agent Ops) with LangSmith

学习目标 - 掌握Agent Operations (Agent Ops)的核心概念，理解如何通过LangSmith进行多Agent系统的管理和优化 - 学习如何监控、调度和优化Agent在生产环境中的表现 - 理解如何使用LangSmith进行Agent的调试、测试和持续监控，... 登录后查看完整内容

🎬 VideoMulti-Agent Frameworks: AutoGen, CrewAI

学习目标- 理解Multi-Agent Frameworks的核心概念，并学习如何使用AutoGen和CrewA构建多Agent系统- 掌握如何通过这些框架设计、部署和管理多个Agents，处理复杂任务- 学习如何优化Agents之间的协作与通信，提升系统的任务执行效率- 探索如... 登录后查看完整内容

🧪 LabProject：Building a Multi-Agent RAG Application with LangGraph

学习目标- 掌握如何使用LangGraph构建一个多Agent的Retrieval Augmented Generation (RAG)应用- 理解如何通过多Agent架构实现任务分工、信息检索与生成的自动化协作- 学习如何优化多Agent系统的通信与任务调度，提升RAG应用的执... 登录后查看完整内容

ℹ️ InformationMulti-Agent Application Toolbox

学习目标  - 掌握使用Multi-Agent Application Toolbox构建和管理多Agent系统的核心技能  - 理解如何通过工具箱中的组件实现多Agent任务分工、协作与通信优化  - 学习如何利用Multi-Agent Appli... 登录后查看完整内容

🎬 VideoIntroducing the Model Context Protocol(MCP)

注册API Keys、Introducing the Model Context Protocol(MCP)

📚 Lesson 5Deep agents 01

1. 课程简介本课程旨在深入解析下一代 AI Agent——“深度代理”的运作机制。课程将从深度代理的定义出发，对比传统 ReAct 模式的局限性，重点剖析支撑深度代理长时间、复杂任务处理能力的四大关键组件（系统提示、规划工具、子代理、文件系统），并结合 Claude Code ... 登录后查看完整内容

📚 Lesson 6Deep agents 02

1. 课程简介本课程旨在深入解析下一代 AI Agent——“深度代理”的运作机制。课程将从深度代理的定义出发，对比传统 ReAct 模式的局限性，重点剖析支撑深度代理长时间、复杂任务处理能力的四大关键组件（系统提示、规划工具、子代理、文件系统），并结合 Claude Code ... 登录后查看完整内容

🎬 VideoWhat is a Prompt and Why Does ltMatter?

🎬 VideoHow to Design an Effective Prompt?

🎬 VideoPrompt Templates & Parameter Tuning1

🎬 VideoPrompt Templates & Parameter Tuning 2

🎬 VideoData Generation & Fine-Tuning

🎬 VideoSelecting the Right Data for Fine-Tuning

🎬 VideoUnderstanding Model Alignment and Compliance

🎬 VideoUsing Prompts to Generate Alignment Data

🎬 VideoReal-World Applications of Model Alignment

🎬 VideoMethods for Evaluating Data Quality

🎬 VideoTest Data Generationfor RAG: In-DepthEvolution

🎬 VideoTest Data Generation for RAG: In-Depth Evolution

学习目标通过本课程的学习，学员将能够：理解测试数据在RAG系统中的重要性，掌握生成测试数据的基本技术。学习生成测试数据的高级方法，包括对多样性、覆盖率和复杂度的控制。掌握如何利用测试数据评估RAG系统的检索和生成性能，识别系统中的关键问题。探索测试数据进化方法，通过迭代优化提升数... 登录后查看完整内容

🧪 LabCustom Synthetic Test Data Generation for RAG Evaluation

学习目标通过本课程的学习，学员将能够：理解合成测试数据在RAG系统评估中的重要性，并掌握合成数据生成的基本技术。学习如何定制化合成数据集，使其符合特定应用场景的需求，模拟实际使用中的复杂输入。掌握评估RAG系统表现的关键指标，结合合成数据分析系统的检索效果和生成质量。深入理解合成... 登录后查看完整内容

ℹ️ InformationSDG Toolkit

学习目标通过本课程的学习，学员将能够：理解合成数据生成的核心概念、类型和适用场景。掌握如何根据业务需求构建符合实际的合成数据集，实现数据的多样化和高质量。学习合成数据在数据隐私保护中的应用，满足数据合规性要求。探索合成数据的评估方法，确保生成数据集在实际应用中保持高效... 登录后查看完整内容

🎬 VideoWhy LLM Fine Tuning

🎬 VideoWhat is model training

🎬 VideoWhat is LLM Fine Tuning

🎬 Video大模型微调方法

🎬 VideoHow to fine tune LLM

🎬 Video练习

🎬 VideoDownloading Open-Source Model Weights

学习目标- 理解如何从开源平台下载和管理模型权重，掌握处理大规模模型的基本技能- 学习如何确保下载的模型权重能够在不同框架（如TensorFlow、PyTorch）中正确加载和使用- 探索如何通过优化模型权重下载和管理流程，提升开发效率- 提升在实际项目中下载、加载和应用开源模型... 登录后查看完整内容

🎬 VideoLoading LMs on GPU

学习目标- 掌握如何将大型语言模型（LMs）加载到GPU上运行，提升模型推理和训练的速度- 理解GPU与CPU加载模型的性能差异，学习如何优化GPU资源以支持大规模模型- 学习如何在实际项目中管理和优化GPU资源，提高语言模型的性能和效率- 提升在使用GPU进行大规模语言模型推理... 登录后查看完整内容

🎬 Video为什么要使用 Sentence Transformers?

学习目标- 掌握Hugging Face Sentence Transformers的基础知识及其在文本嵌入和相似性搜索中的应用- 学习如何使用Sentence Transformers生成高质量的文本嵌入，支持各种自然语言处理任务- 理解如何在实际项目中通过Sentence T... 登录后查看完整内容

🎬 Video准备工作

学习目标- 掌握Hugging Face Sentence Transformers的基础知识及其在文本嵌入和相似性搜索中的应用- 学习如何使用Sentence Transformers生成高质量的文本嵌入，支持各种自然语言处理任务- 理解如何在实际项目中通过Sentence T... 登录后查看完整内容

🎬 Video语义检索

学习目标- 掌握Hugging Face Sentence Transformers的基础知识及其在文本嵌入和相似性搜索中的应用- 学习如何使用Sentence Transformers生成高质量的文本嵌入，支持各种自然语言处理任务- 理解如何在实际项目中通过Sentence T... 登录后查看完整内容

🎬 VideoRetrieve & Re-Rank-检索和重新排序

学习目标- 掌握Hugging Face Sentence Transformers的基础知识及其在文本嵌入和相似性搜索中的应用- 学习如何使用Sentence Transformers生成高质量的文本嵌入，支持各种自然语言处理任务- 理解如何在实际项目中通过Sentence T... 登录后查看完整内容

🎬 Video聚类(Clustering) : 归类相似的文本

学习目标- 掌握Hugging Face Sentence Transformers的基础知识及其在文本嵌入和相似性搜索中的应用- 学习如何使用Sentence Transformers生成高质量的文本嵌入，支持各种自然语言处理任务- 理解如何在实际项目中通过Sentence T... 登录后查看完整内容

🎬 Video多语言与多模态

学习目标- 掌握Hugging Face Sentence Transformers的基础知识及其在文本嵌入和相似性搜索中的应用- 学习如何使用Sentence Transformers生成高质量的文本嵌入，支持各种自然语言处理任务- 理解如何在实际项目中通过Sentence T... 登录后查看完整内容

🎬 Video模型性能

学习目标- 掌握Hugging Face Sentence Transformers的基础知识及其在文本嵌入和相似性搜索中的应用- 学习如何使用Sentence Transformers生成高质量的文本嵌入，支持各种自然语言处理任务- 理解如何在实际项目中通过Sentence T... 登录后查看完整内容

🧪 LabProject：Fine-Tuning Embedding Models for RAG using LlamaIndex

学习目标- 掌握如何使用LlamaIndex对嵌入模型进行微调，以优化Retrieval Augmented Generation (RAG)系统中的信息检索和生成任务- 学习如何在RAG系统中利用LlamaIndex微调预训练的Embedding Models，提升检索精度与生... 登录后查看完整内容

ℹ️ InformationEmbedding Fine-Tuning Toolkit

学习目标通过本课程的学习，学员将能够：理解Embedding的基本概念和在NLP及相似性搜索中的应用。学习如何使用预训练Embedding并通过微调优化其在特定任务中的表现。掌握嵌入微调的常用方法和工具，提升模型对特定任务的适应性和准确性。使用合适的数据集和策略进行Embeddi... 登录后查看完整内容

🎬 VideoFine-Tuning Large Language Models

🎬 VideoWhy Fine-Tuning?

🎬 VideoTypes of Fine-Tuning

🎬 VideoLORA (Low-Rank Adaptation)

🎬 VideoParameter Efficient Fine-Tuning (PEFT)

🎬 VideoThe “Problem“ with LLMs