Вчера OpenAI выпустила ChatGPT API, и теперь любой разработчик может встроить ChatGPT в свое приложение! 

Давайте дам немножко введения и перейдем к тому, как использовать API.

ChatGPT - это ведущая языковая модель, созданная OpenAI. ChatGPT была обучена для ведения диалога, что отличает её от других моделей. На текущий момент десятки (если не сотни) миллионов пользователей оценили мощь и потенциал этой модели.

Но ChatGPT открывает широкие возможности разработчикам, которые могут создавать чат-ботов, автоматически обрабатывать текстовые запросы, генерировать тексты и многое другое. Возможности использования выглядят безграничными, вот лишь пара идей: образование, здравоохранение, чатботы на сайте, коммерция и многое другое.

Были представлены 2 новые модели:

Первая: gpt-3.5-turbo, которая всегда получают рекомендуемую по версии OpenAI стабильную модель.

Вторая на сегодня версия - это gpt-3.5-turbo-0301, которая будет поддерживаться до 1 июня. Страницу с моделями обещают обновлять. 

При этом модель gpt-3.5-turbo из семейства доступна по цене $0.002 за 1k токенов, что в 10 раз дешевле, чем предыдущие модели, например text-davinci-003

Для этого переходим на сайт https://openai.com/product и жмем Get Started. В случае, если есть рабочий аккаунт - просто заходим в него. Иначе регистрируемся. Шаги такие же как при регистрации ChatGPT аккаунта:

1. Нам нужен VPN (для России и некоторых стран СНГ). Желательно установить какую-то страну из ЕС.

2. Сим-карта. Как и в случае с VPN - номера России и некоторых други стран не подходят для регистрации. Но нам нужно получить SMS о регистрации, в дальнейшем сим-карта по сути не нужна. Если такой сим-карты нет, то можно купить онлайн (легко гуглится по вопросам "виртуальная сим для смс")

3. Почта. Ну тут, я думаю, справитесь :) 

Теперь, чтобы получить ключ, заходим на https://platform.openai.com/account/api-keys (правое верхнее меню -> view API keys). Можно создать несколько ключей, но имейте ввиду, что ключ надо сразу скопировать. Далее его посмотреть нельзя, придется создавать новый.

Так же получаем приветственные 18$ бонусами, мелочь а приятно.

Покажу на примере colab-ноутбука, который вы сможете скопировать. 

https://colab.research.google.com/drive/1-xuM3lOkoIG6wYa22xntKDd1X5Hw5kCY?usp=sharing 

Для начала установим библиотеку openai (на момент публикации нужна версия 0.27.0)

Далее нам нужно скопировать ключ openai (начинается с sk-...) и инициализировать библиотеку.

Теперь время делать запросы. Если у вас уже был опыт работы с openai, то самое интересное начинается здесь.

Давайте начнем диалог с того, что попросим придумать рекламный слоган для автомобильного бренда.

Для этого формируем список messages (вместо привычного параметра prompt). В сообщениях могут содержаться 3 роли:

1. user - сообщения пользователя чата

2. assistant - ответ от chatgpt

3. system - роль для задания промпта (т.е. настройки поведения)

В ответ получим JSON объект. 

Нормальный кстати получился слоган :)

Как мы видим в ответ мы получили объект, где сгенерированное сообщение находится в response['choices'][0]['message']['content']. 

Но для того, чтобы приступить к диалогу надо добавить в список messages ответ ChatGPT, а также новый уточняющий запрос юзера.

Отправляем все точно так же как и раньше, только с обновленным списком messages - получаем корректный ответ.

Теперь в дело вступает роль system, в которой и задается промпт. Давайте попробуем вставить промпт для питон-интерпретатора. 

Попробуем подловить - составим список из 3х элементов и возьмем оттуда 4й индекс.

Мы видим, что API отработал корректно. И ответил действительно как python interpreter. И такой способ действительно гораздо удобнее чем включать промпт в первое сообщение юзера

Бонусом промпт: I want you to act like a Python interpreter. I will give you Python code, and you will execute it. Do not provide any explanations. Do not respond with anything except the output of the code.

Как мы видим API работает корректно и открывает нам целый горизонт новых возможностей.