面向开源和本地 LLM 的结构化输出
最初,Instructor 只通过 OpenAI SDK 促进 API 交互,并通过集成 Zod 进行结构化数据验证和序列化,重点强调函数调用。
随着这一年的进展,我们通过集成 JSON 模式 扩展了我们的工具包,从而增强了我们对视觉模型和开源模型的适应性。这一进步使我们现在能够支持广泛的模型,从 GPT 和 Mistral 到几乎可以通过 Ollama 和 Hugging Face 访问的任何模型。有关如何将 JSON 模式与各种模型结合使用的更多见解,请参阅我们关于 补丁 (Patching) 的详细指南。