1. 面试题目 #

请详细阐述什么是大模型的结构化输出？它在AI应用开发中解决了哪些痛点？并结合Spring AI框架，说明其如何通过"调用前"和"调用后"两个阶段实现结构化输出，以及涉及的核心组件和工作流程。

2. 参考答案 #

2.1 结构化输出的定义与核心价值 #

2.1.1 定义 #

结构化输出（Structured Output）是指将大型语言模型（LLM）生成的自由文本响应，按照预定义的、程序可解析的格式（如JSON、XML或特定的Java对象，即POJO）进行转换和封装。

2.1.2 核心价值与解决的痛点 #

• 解决LLM输出的不确定性： LLM的自由文本输出格式多变，难以直接在后端业务逻辑中消费。结构化输出强制模型按照特定格式生成内容，提高了输出的可预测性和可靠性。
• 提升系统集成效率： 将LLM输出直接转换为强类型对象（如Java POJO），后端服务可以直接处理这些对象，无需复杂的字符串解析和错误处理。
• 增强数据可靠性与可维护性： 规范化的输出格式减少了因格式不匹配导致的运行时错误，提高了系统的健壮性和可维护性。
• 简化业务逻辑开发： 开发者可以专注于业务逻辑，而不是花费大量精力处理LLM输出的解析和验证。

2.2 Spring AI实现结构化输出的核心机制与工作流程 #

Spring AI通过其StructuredOutputConverter机制实现结构化输出，其工作流程可以分为调用前（前置处理）和调用后（后置处理）两个阶段。

2.2.1 调用前（前置处理） #

核心职责： 引导大模型生成符合特定格式的文本输出。

实现机制：

1. StructuredOutputConverter实现FormatProvider接口： FormatProvider的作用是提供特定的格式指令给AI模型。
2. 提供格式指令： 这些指令会附加到用户的原始提示词后面，明确告诉模型应该生成何种结构的输出。
   • 示例： 可能会包含类似"Your response should be in JSON format. The data structure for the JSON should match this Java class: com.example.MyBean..."的描述。
   • JSON Schema： 还可以附带一个JSON Schema定义，进一步引导模型生成符合指定格式的响应。
3. 输入与格式指令合并： 原始输入与这些格式指令合并，形成最终的提示词。
4. 调用大模型： 将合并后的提示词发送给大模型进行处理。

流程图示：

原始输入 → 提供格式指令 → 输入 + 格式指令 → 调用大模型

2.2.2 调用后（后置处理） #

核心职责： 将大模型返回的自由文本输出（通常是JSON字符串）转换为开发者指定的目标Java对象。

实现机制：

1. StructuredOutputConverter实现Converter<String, T>接口： 这个Converter负责将大模型返回的文本输出转换为目标类型T。
2. 大模型原始输出： 大模型返回的是自由文本（例如JSON字符串）。
3. 文本转换为结构化输出： StructuredOutputConverter根据预设的目标类型（如Java Bean对象、Map或List），将文本解析并映射到对应的Java对象。
4. 内置转换器： Spring AI提供了多种内置的转换器实现，例如：
   • BeanOutputConverter：用于转换为Java Bean对象（内部基于ObjectMapper）。
   • MapOutputConverter：用于转换为Map对象。
   • ListOutputConverter：用于转换为List对象。

流程图示：

调用大模型 → 原始输出 (文本) → 将文本转换为结构化输出 → 结构化输出

2.3 代码实现示例 #

2.3.1 定义目标数据结构 #

// 定义目标POJO类
public class UserProfile {
    private String name;
    private int age;
    private String email;
    private List<String> hobbies;

    // 构造函数、getter和setter
    public UserProfile() {}

    public UserProfile(String name, int age, String email, List<String> hobbies) {
        this.name = name;
        this.age = age;
        this.email = email;
        this.hobbies = hobbies;
    }

    // getter和setter方法
    public String getName() { return name; }
    public void setName(String name) { this.name = name; }

    public int getAge() { return age; }
    public void setAge(int age) { this.age = age; }

    public String getEmail() { return email; }
    public void setEmail(String email) { this.email = email; }

    public List<String> getHobbies() { return hobbies; }
    public void setHobbies(List<String> hobbies) { this.hobbies = hobbies; }
}

2.3.2 使用Spring AI实现结构化输出 #

@Service
public class StructuredOutputService {

    @Autowired
    private ChatClient chatClient;

    public UserProfile extractUserProfile(String userInput) {
        // 使用Spring AI的结构化输出功能
        return chatClient.prompt()
            .user(userInput)
            .call()
            .entity(UserProfile.class);  // 自动转换为UserProfile对象
    }

    // 更复杂的示例：使用自定义转换器
    public Map<String, Object> extractStructuredData(String input) {
        return chatClient.prompt()
            .user(input)
            .call()
            .entity(Map.class);  // 转换为Map对象
    }
}

2.3.3 自定义转换器实现 #

@Component
public class CustomStructuredOutputConverter implements StructuredOutputConverter<CustomData> {

    @Override
    public String getFormat() {
        return """
            Your response must be a valid JSON object with the following structure:
            {
                "title": "string",
                "description": "string",
                "tags": ["string1", "string2"],
                "priority": "HIGH|MEDIUM|LOW"
            }
            """;
    }

    @Override
    public CustomData convert(String source) {
        try {
            ObjectMapper mapper = new ObjectMapper();
            return mapper.readValue(source, CustomData.class);
        } catch (Exception e) {
            throw new RuntimeException("Failed to convert to CustomData", e);
        }
    }
}

2.4 实际应用场景 #

2.4.1 数据提取与解析 #

// 从非结构化文本中提取结构化信息
public class DataExtractionService {

    public List<ProductInfo> extractProductInfo(String productDescription) {
        return chatClient.prompt()
            .user("从以下产品描述中提取产品信息：" + productDescription)
            .call()
            .entity(List.class);
    }
}

2.4.2 API响应标准化 #

// 将LLM输出标准化为API响应格式
public class ApiResponseService {

    public ApiResponse<SearchResult> searchWithStructuredOutput(String query) {
        SearchResult result = chatClient.prompt()
            .user("搜索查询：" + query)
            .call()
            .entity(SearchResult.class);

        return ApiResponse.success(result);
    }
}

2.5 优势与注意事项 #

2.5.1 主要优势 #

• 类型安全： 将非结构化文本转换为强类型Java对象
• 开发效率： 减少手动解析和验证代码
• 系统健壮性： 降低因格式不匹配导致的运行时错误
• 维护性： 统一的输出格式便于系统维护和扩展

2.5.2 注意事项 #

• 容错处理： 模型不保证严格按要求返回结构化数据，需要适当的容错机制
• 验证机制： 建议对转换后的对象进行额外的验证
• 性能考虑： 转换过程可能增加一定的处理开销

2.6 总结 #

Spring AI的结构化输出机制通过在调用前明确指示模型输出格式，并在调用后自动将文本解析为强类型对象，极大地简化了AI应用开发中处理LLM输出的复杂性。这种"两阶段"处理方式既保证了输出的规范性，又提供了良好的开发体验，是现代AI应用开发中的重要技术手段。