AITools
Function Calling 2.1 要解决的问题 传统聊天大模型只会说话,没有工具调用能力,这使得大模型: 无法感知环境:无法与外部数据源交互,如通过 API 查询网页、查看用户本地文件、访问远程数据库等等 无法改变环境:无法帮用户实际执行任务,如跑代码、发邮件、上传作业等 2.2 如何解决问题 后端 + LLM 传统方案 工作流程 存在的问题 是否调用工具、调用什么工具由后端负责判断,逻辑复杂且容易误判。 AI 这么智能,为什么不让它来帮我判断? 调用工具的参数由后端负责构建,难度很大。 AI 这么智能,为什么不让它来帮我生成参数? 广义的 Function Calling 是指让大模型能够调用外部工具的一种技术实现:先向大模型提供可用函数的列表及说明,由大模型在对话过程中智能判断是否需要调用函数,并自动生成调用所需的参数,最终用文字返回符合约定格式的函数调用请求。 狭义的 Function Calling 特指大模型提供商在模型内部与 API 层面做了支持的一种能力,它最早由 OpenAI 引入: 在模型层面:模型提供商需对大模型进行特别优化,使其具备根据上下文正确选择合适函数、生成有效参数的能力(比如有监督微调、强化学习)。 在 API 层面:模型提供商需额外开放对 Function Calling 的支持(比如 GPT API 中提供了一个 functions 参数)。 Function Calling 方案 基于提示词的 Function Calling 工作流程 System Prompt 示例 System Prompt 示例 # 你的角色 你是一个函数调用助手,我将提供多个函数的定义信息,包括函数名称、作用、参数及参数类型。 # 你的任务 - 根据用户的输入,判断是否需要调用某个函数 - 如果需要,请**严格按照以下格式**输出函数调用指令: json { "name": "函数名", "arguments": { "参数名": "参数值" } } # 函数定义信息 1. **get_weather** - 作用:查询指定城市的天气情况 - 参数: -`city`(string):城市名称 2. **get_time** - 作用:查询指定城市的当前时间 - 参数: - `city`(string):城市名称 存在的问题 输出格式不稳定。如调用指令中存在多余自然语言。 容易出现幻觉。模型可能编造并不存在的函数名或参数。 大模型提供商能否对模型进行微调、强化学习,提升大模型在这一方面的能力? 对开发者依赖度高。函数描述、调用指令格式、提示词逻辑完全由开发者设计。 函数描述、调用指令格式能否由大模型提供商来指定?系统提示词中的"说明与规则"逻辑能否由大模型提供商来兜底? 上下文冗长,Token 消耗大。为确保调用逻辑正确,往往需要在 system prompt 中加入大量说明与规则。 基于 API 的 Function Calling 工作流程 ...