本文涉及到的详细测试代码和测试步骤放置于:
https://github.com/davidsajare/david-share.git
下的:Deep-Learning/Function-call-training
欢迎给repo点亮Star,您的点赞是作者持续创作的动力。
格式原因本公众号文章不会放置代码。
有一些模型本身具有function call功能,如OpenAI,Phi3。有一些不具备。我们可以通过微调,增强模型的function call的能力,也就是让模型原生具备更多的function。
训练数据集:https://huggingface.co/datasets/Salesforce/xlam-function-calling-60k/viewer
训练集answers一列的names,就是function的名字:
训练1000 steps,查看训练中的损失函数:
训练之后的推理验证:
代码会调用function,并给出正确的结果: