Обзор вызова функций и его значения для создания приложений LLM

Структурирование неструктурированного

Вызов функций — это инновация от OpenAI, которая расширила возможности разработки приложений на основе больших языковых моделей.

Однако я обнаружил, что некоторые по-прежнему неправильно его понимают. В этой статье я постараюсь пояснить вызовы функций за то время, которое вам нужно, чтобы приготовить чашку кофе.

Если у вас есть стремление создавать приложения LLM, интегрировать LLM в свой бизнес или просто расширять свои знания в этой области, то эта статья для вас.

Что хорошего в вызове функций?

Вызов функций позволяет нам разрабатывать интерфейсы на естественном языке поверх наших существующих API. Если это звучит для вас запутанно, не беспокойтесь — детали станут яснее, когда вы будете читать дальше.

Итак, как же выглядит API естественного языка? Я считаю, что лучше всего продемонстрировать это на диаграмме. Вот пример приложения, которое использует вызов функции, чтобы пользователи могли находить рейсы.

Чтобы реализовать этот тип приложения без вызова функции, вам нужно предложить пользователю ввести информацию о рейсе с помощью меню, полей выбора и т.п.

Вызов функции также облегчает пользователям возможность делать запросы голосом. Все, что вам нужно, это дополнительная служба транскрипции, и вуаля, у вас есть личный помощник ИИ.

Надеюсь, теперь у вас должно сложиться более четкое представление о вызове функции и его назначении. Давайте закрепим эти новообретенные знания некоторыми техническими пошаговыми руководствами.

Вызов функции с помощью одной функции

Давайте рассмотрим простой вариант использования API погоды.

Самый простой вариант использования включает вызов функции с помощью одной функции. Чтобы проиллюстрировать это, я смоделировал API, который предоставляет прогноз температуры — см. здесь.