65
调用 LLM API
LLM API 入门:把模型能力接进应用
你现在可能会困惑什么
“会写 prompt 还不够吗?”
产品里需要代码自动调用模型,并处理失败、重试与日志。
一句话定义
LLM API 调用是鉴权、请求、解析、异常处理与重试的完整工程流程。
生活类比
点外卖不只选菜,还要支付、等待、催单和异常处理。
最小可运行例子
import os
API_KEY = os.getenv("API_KEY")
if not API_KEY:
raise ValueError("missing key")
课堂小测(5 分钟)
- 实现
ask_llm(prompt)。 - 加 timeout 与 try/except。
- 失败重试 2 次并记录日志。
课堂小测参考答案与判分点
- 参考答案方向:能写出可运行代码,并覆盖题目中的核心条件与边界输入。
- 判分点 1(正确性):主流程结果正确,关键分支可执行。
- 判分点 2(可读性):变量命名清晰,结构不过度嵌套。
- 判分点 3(健壮性):对空值、类型错误或异常输入有基础保护。
迁移任务(课后)
实现“问答接口封装层”,统一错误码和响应格式。
本节验收标准
你能独立做到:
- 跑通最小 API 调用链路
- 处理超时/鉴权/空响应
- 做基础可观测性日志
常见报错与调试步骤(新手版)
- 报错看不懂:先读最后一行错误类型(如
TypeError、NameError),再回到对应代码行定位。 - 不确定变量值:在关键位置临时
print(变量, type(变量)),先确认数据是否符合预期。 - 改了代码却没生效:确认文件已保存、运行的是当前文件、终端环境(venv)是否正确。
常见误区
- 误区:有返回就算成功。
- 正解:要校验内容与稳定性。