Мобильная версияОткрытый AI — максимальная длина контекста — 4097 токенов. ⇐ Php
-
Гость
Открытый AI — максимальная длина контекста — 4097 токенов.
Я пытаюсь использовать API завершения, чтобы найти лучший результат для заданного запроса. Я использую этот PHP-клиент: https://github.com/orhanerday/open-ai.
На данный момент мой подход к этому следующий:
[*]В моей базе данных есть таблица, в которой я храню вопросы/ответы. Я запрашиваю эту таблицу, чтобы сохранить все вопросы и ответы.
Пример массива, возвращаемого запросом, следующий:
[ [ "вопрос" => "вопрос 1", "ответ" => "ответ 1", "действие" => "действие 1" ], [ "вопрос" => "вопрос 2", "ответ" => "ответ 2", "действие" => "действие 2" ], ... ] [*]Я конвертирую массив, возвращаемый запросом, в строку json.
[*]
Я вызываю API завершения со следующей подсказкой: Для каждой пары вопрос-ответ в этом объекте JSON ' . $json_from_db. ', вычислите косинусное сходство между столбцом «вопрос» и [ВОПРОС-ОТ-ПОЛЬЗОВАТЕЛЯ]. Если сходство больше или равно 0,6, укажите строку JSON, содержащую соответствующее значение «ответ» и соответствующее значение «действие».
$complete = $open_ai->completion([ 'модель' => 'gpt-3.5-турбо-инструкт', 'prompt' => '', // ПОДСКАЗКА, КОТОРАЯ Я ТОЛЬКО ОПИСАЛ ВЫШЕ 'температура' => 0,2, 'max_tokens' => 150, ' Frequency_penalty' => 0,8, 'presence_penalty' => 0,0 ]); [*]Идеальный сценарий — вернуть JSON с наиболее подходящим ответом на вопрос пользователя. [ {ответ: «ответ 2», действие: «действие 2»} ] Вместо этого я получаю следующую ошибку: Максимальная длина контекста этой модели составляет 4097 токенов, однако вы запросили 6426 токенов (6276 в вашем приглашении; 150 для завершения). Пожалуйста, сократите количество запросов; или длина завершения.
Эта ошибка не появлялась, пока я не добавил дополнительные данные в таблицу базы данных.
Это лучший подход?
Я пытаюсь использовать API завершения, чтобы найти лучший результат для заданного запроса. Я использую этот PHP-клиент: https://github.com/orhanerday/open-ai.
На данный момент мой подход к этому следующий:
[*]В моей базе данных есть таблица, в которой я храню вопросы/ответы. Я запрашиваю эту таблицу, чтобы сохранить все вопросы и ответы.
Пример массива, возвращаемого запросом, следующий:
[ [ "вопрос" => "вопрос 1", "ответ" => "ответ 1", "действие" => "действие 1" ], [ "вопрос" => "вопрос 2", "ответ" => "ответ 2", "действие" => "действие 2" ], ... ] [*]Я конвертирую массив, возвращаемый запросом, в строку json.
[*]
Я вызываю API завершения со следующей подсказкой: Для каждой пары вопрос-ответ в этом объекте JSON ' . $json_from_db. ', вычислите косинусное сходство между столбцом «вопрос» и [ВОПРОС-ОТ-ПОЛЬЗОВАТЕЛЯ]. Если сходство больше или равно 0,6, укажите строку JSON, содержащую соответствующее значение «ответ» и соответствующее значение «действие».
$complete = $open_ai->completion([ 'модель' => 'gpt-3.5-турбо-инструкт', 'prompt' => '', // ПОДСКАЗКА, КОТОРАЯ Я ТОЛЬКО ОПИСАЛ ВЫШЕ 'температура' => 0,2, 'max_tokens' => 150, ' Frequency_penalty' => 0,8, 'presence_penalty' => 0,0 ]); [*]Идеальный сценарий — вернуть JSON с наиболее подходящим ответом на вопрос пользователя. [ {ответ: «ответ 2», действие: «действие 2»} ] Вместо этого я получаю следующую ошибку: Максимальная длина контекста этой модели составляет 4097 токенов, однако вы запросили 6426 токенов (6276 в вашем приглашении; 150 для завершения). Пожалуйста, сократите количество запросов; или длина завершения.
Эта ошибка не появлялась, пока я не добавил дополнительные данные в таблицу базы данных.
Это лучший подход?