用 BAML 把 LLM 工具调用变成类型安全的函数

pip install baml-py
baml-cli init   # 生成 baml_src/ 与示例 .baml 文件

在 baml_src/ 下新建 resume.baml：先定义返回类型 class，再定义 function 指明输入、输出类型和提示词。函数块里用 client 指定模型：

// baml_src/resume.baml
class Resume {
  name string
  skills string[] @description("只列编程语言")
}

function ExtractResume(resume_text: string) -> Resume {
  client "openai/gpt-5-mini"
  prompt #"
    从下面简历抽取结构化信息：
    {{ resume_text }}
    {{ ctx.output_format }}
  "#
}

baml-cli generate

from baml_client.sync_client import b
from baml_client.types import Resume

resume = b.ExtractResume("Jason Doe, Python/Rust, UC Berkeley 2020")
assert isinstance(resume, Resume)
print(resume.name, resume.skills)  # Jason Doe ['Python', 'Rust']

让模型决定"调哪个工具、参数是什么"，本质上就是让它返回一个特定结构的对象。定义一个"工具类"，让 function 返回它：

// baml_src/tools.baml
class WeatherAPI {
  api_name "weather_request"
  city string @description("用户所在城市")
}

function ChooseTool(user_message: string) -> WeatherAPI {
  client "openai/gpt-5-mini"
  prompt #"
    从用户消息抽取要调用的工具与参数：
    {{ user_message }}
    {{ ctx.output_format }}
  "#
}

from baml_client import b

tool = b.ChooseTool("旧金山现在天气怎么样？")
print(tool.city)   # '旧金山'

拿到类型安全的参数后，正常调用你的真实函数即可，没有任何 JSON 解析负担：

def get_weather(city: str):
    # 这里接真实天气 API
    return {"city": city, "temp": 22, "cond": "晴"}

info = b.ChooseTool("旧金山天气如何？")
data = get_weather(city=info.city)
print(data)

BAML 配套的 Boundary Studio 可以回放生产请求、给每条输入输出打标，比反复改代码试错快得多：

# 在 Playground / Boundary Studio 里：
# 1. 选一个 function
# 2. 填多组输入，点 Run 看解析结果
# 3. 不满意就改 prompt，实时预览注入内容