适用于开源和本地 LLM 的结构化输出
最初,Instructor 仅通过 OpenAI SDK 实现 API 交互,并侧重于通过集成 Zod 进行结构化数据验证和序列化来实现函数调用。
随着时间的推移,我们通过集成 JSON 模式扩展了我们的工具包,从而增强了我们对视觉模型和开源模型的适应性。这一进展现在使我们能够支持广泛的模型,从 GPT 和 Mistral 到几乎所有可以通过 Ollama 和 Hugging Face 访问的模型。有关如何利用 JSON 模式与各种模型集成的更多见解,请参阅我们关于Patching的详细指南。