Файн тюнинг. Как настроить свои модели в OpenAi GPT-3.
Вы хотите узнать, как обучить искусственный интеллект писать высококачественный контент для ваших собственных целей и необходимую тематику?
С помощью этой статьи вы сможете создавать модели ИИ, пишущие высококачественный контент, который
превосходит все, что могут создать другие инструменты.
Я постараюсь сделать это как можно короче и предложить вам как можно больше информации в картинках.
Инструменты, которые нам понадобятся чтобы создать свою модель в Open AI
Чтобы начать работу с OpenAI, первое, что вам нужно сделать, это зарегистрировать учетную запись. Вы можете сделать
это, посетив веб-сайт OpenAI и нажав на кнопку «Зарегистрироваться«.
После того как вы зарегистрировались, вы можете получить доступ к платформе OpenAI и начать использовать ее различные возможности.
Итак, перейдите по адресу: https://openai. com/.
Перейдите в «футер» сайта и нажмите «Войти». Оттуда вы сможете
войти в систему с помощью Google и выполнить шаги по созданию аккаунта.
Или вы можете просто зарегистрировать новый аккаунт, если вам так удобнее.
Вот ссылка на раздел fine-tuning section «Тонкая настройка»: https://beta.openai.com/docs/guides/fine-tuning.
Я научу вас всему, но все же не помешает осмотреться и разобраться в некоторых вещях самостоятельно. Это поможет в долгосрочной перспективе!
Модели Open AI бывают разные. Узнать подробнее про версии ID модели openai можно в нашей статье.
Следующий инструмент, который нам понадобится, — Postman.
Вы можете зарегистрироваться для получения бесплатной учетной записи
здесь: https://www.postman.com/postman-account/.
Postman позволяет нам отправлять API-запросы в OpenAI и дорабатывать файлы без необходимости
кодировать (здорово, не правда ли?).
До определенных пределов его можно использовать бесплатно.
Хорошо, давайте продолжим.
Наш следующий маленький помощник: https://onlinetexttools.com/remove-empty-text-lines.
Он понадобится нам для создания наборов данных для тонкой настройки, которые впоследствии можно будет использовать
в OpenAI для создания нашего контента.
Он также бесплатный; просто нажмите на ссылку и перейдите к пункту «chain with…».
Это должно выглядеть примерно так, как показано на следующем рисунке:
После нажатия кнопки «chain with…» выберите «JSON Stringify» и нажмите на выбранную опцию.
Это должно выглядеть следующим образом:
Как это поможет нам?
Модель ИИ требует большого количества данных. Эти данные должны быть в определенном формате, чтобы ИИ мог понимать их и учиться на них. Преобразование данных в JSON является одним из способов форматирования.
Строки JSON легко читаются и понимаются компьютерами, что делает их идеальным вариантом для обучения модели ИИ.
Преобразуя наши текстовые данные в строки JSON, мы сможем более эффективно обучать наш ИИ и помогать ему быстрее обучаться. В конечном счете, это поможет нам создать лучшие модели ИИ, которые можно будет использовать для решения различных задач.
Хорошо, все инструменты готовы, поэтому давайте загрузим еще один, который поможет нам позже.
Это Visual Studio Code — https://code.visualstudio.com/.
Установив его, вы сможете в дальнейшем писать строки JSON, которые используются для тонкой настройки.
Postman — создание первой рабочей области (workspace)
Нужно кликнуть на «Create workspace.«
После этого вас перенаправит на страницу где нужно будет заполнить поля «name» и «description» вашего проекта.
В дальнейшем это поможет не забыть какой это именно проект.
Вот так выглядит:
После создания нашего окружения в Postman неплохо было бы ознакомиться с документацией OpenAI.
Ссылка: https://beta.openai.com/docs/api-reference/files
Наша первая задача — загрузить файл в OpenAI с помощью API (этот файл будет содержать наши наборы данных).
Для примера мы будем использовать файл с тестовым содержимым.
После создания рабочего пространства, нам нужно создать коллекцию в Postman:
Далее создаём запрос:
Нажмите «add a request«.
Если вы читали что-нибудь в документации OpenAI, вы знаете URL и тип запроса, который нам нужно сделать. Если нет, то вот он:
https://api.openai.com/v1/files
Это загрузка файла в OpenAI с помощью API. Запрос должен быть сделан с помощью «POST«.
Вот как это должно выглядеть:
Как вы видите, ссылка добавлена в поле «POST«. Поэтому просто скопируйте/вставьте ее.
Вы также можете переименовать запрос, чтобы вы знали, что он делает.
Я буду использовать «Upload file to OpenAI«.
Приведенного ниже примера будет достаточно. Я уверен, что вы сможете сделать это без особых проблем.
Получение ключа API от OpenAI
Для того чтобы все это работало, нам понадобится API-ключ от аккаунта OpenAI.
Не волнуйтесь, OpenAI предоставляет вам 18$ бесплатного кредита, поэтому ключ уже доступен.
Его можно найти в разделе Personal > View API keys.
После этого вы сможете создать или использовать существующий ключ, предоставленный OpenAI.
После этого достаточно просто скопировать/вставить ключ
Настройка Postman для загрузки нашего датасета
Мы хотим создать наш запрос на загрузку файла в Postman. Поэтому нам необходимо сначала настроить среду для него.
В запросе «upload file to OpenAI.», который мы только что создали, перейдите к > headers. Теперь не стоит беспокоиться о том, что в Postman значения находятся по умолчанию, мы добавим свои собственные записи.
В разделе «connection» добавьте в качестве ключа «Authorization«.
Это должно выглядеть следующим образом:
Отлично. Теперь в правой части мы добавим наш ключ API из OpenAI.
Перейдите к OpenAI и ключам API и скопируйте или создайте новый секретный ключ.
Перед тем как добавить его, следуйте этому формату:
Мы закончили с конфигурацией. Теперь переходим в «body section» и добавляем цель и тот же API-ключ.
Под значение «body» выбираем «form-data«
Теперь, когда вы нашли его, следующим шагом будет добавление ключей и значений, которые будут соответствовать OpenAI.
Сначала добавляем «цель» (purpose), затем «файл»(file), который будет с нашим набором данных.
Пожалуйста, убедитесь что значение именно “file”, а не текст, так как это не позволит вам загрузить/выбрать что-либо.
Помните, что OpenAI принимает только файлы типа JSONL, когда дело доходит до тонкой настройки, поэтому я
предоставлю вам свои тестовые данные для этой цели.
Это также поможет вам получить общее представление о наборе данных.
Ссылка для скачивания: https://www.mediafire.com/file/119voo44qurj1j9/paragraphs.jsonl
Мы будем использовать Visual Studio Code для открытия этого файла.
Если вы скачали файл, осталось только загрузить его. Нажмите “select files” и просто выберите paragraphs.jsonl
Вот как должен выглядеть наш конечный результат. Пока мы работаем, не забудьте сохранить свой прогресс в Postman.
Просто используйте «CONTROL + S» на клавиатуре.
Наш последний шаг — отправить запрос и посмотреть, будет ли ответ положительным.
Вот так должен выглядеть результат если всё прошло правильно.
Иногда Postman глючит и не отправляет запросы. Просто перезапустите сайт и зайдите в систему снова.
Выполнение процесса тонкой настройки в Postman
Теперь, когда мы закончили с «загрузкой файла» и узнали, как загрузить наш файл в OpenAI через API запрос, все становится проще.
Мы сосредоточимся на создании процесса тонкой настройки созданного нами файла/набора данных. Так что давайте перейдем прямо к этому!
Давайте вернемся на шаг назад и создадим новый запрос в Postman. Назовем его «fine tune process».
Это также должен быть запрос типа «POST».
Воспользуйтесь этим: https://api.openai.com/v1/fine-tunes.
Его также можно найти здесь: https://beta.openai.com/docs/api-reference/fine-tunes/create.
Просто введите ссылку в POST-запрос, как мы это делали с «загрузкой файла».
Перейдите в раздел > Headers > Key
В Content-Type добавьте значение application/json
В Authorization> Ваш ключ
Bearersk3vfr9H5yIONb1gauWDGyT3BlbkFJnylrOQzCNebQ0oJeGF5O(пример)
Конечный результат должен выглядеть так.
Теперь нажмем на раздел «Body» и перейдем к > «raw».
Именно здесь можно добавить установки для тонкой настройки. Вот мои текущие:
{
«training_file»: » «,
«model»: «davinci»,
«suffix»: «bgdtune»
}
Имена могут быть любыми, от вашего имени до любимого питомца. Мы будем использовать их в дальнейшем!
Надеемся, вы все сделали правильно, и вот результат.
Теперь вы, возможно, задаетесь вопросом, где взять идентификатор «training_file». Это просто; давайте вернемся к нашему
запросу «upload file» и получим его!
Если вы не нашли его, нажмите кнопку «send», чтобы переслать запрос в OpenAI. Наконец, давайте нажмем CONTROL + S, чтобы сохранить наш текущий прогресс в Postman.
Теперь, когда мы почти закончили, пока вы находитесь на запросе «fine tune process», перейдите к кнопке «send» и нажмите ее.
Это отправит файл в OpenAI и начнет его обучение.
Ваш ответ должен выглядеть следующим образом:
Если вы видите это, значит, все готово. Файл был успешно отправлен в OpenAI, и сейчас он проходит обучение.
Получение информации о нашей тонкой настройке из OpenAI
Это будет не так сложно. Все что вам нужно, это API-ключ от аккаунта OpenAI.
Создайте новый запрос в Postman и назовите его «Info on a specific fine-tune. ».
Помните, что это запрос «GET«. НЕ делайте его «POST«.
URL, который нужно добавить в запрос: https://api.openai.com/v1/fine-tunes/{fine_tune_id}, где
«fine_tune_id» — это ID вашего файла тонкой настройки.
Вы можете получить его из запроса «fine tune process»». Затем, после нажатия кнопки отправить и получения ответа, ID будет указан в самом начале.
Теперь замените (File_ID) на настоящий.
Это наш конечный желаемый результат. С добавлением «Authorization» и ключа API.
НЕ ЗАБЫВАЙТЕ ЭТО!
Осталось нажать «отправить», как обычно :).
Результат:
{
«object»: «fine-tune»,
«id»: «ft-puPlI5XhwrzD0lvW0YfMH6Op»,
«hyperparams»: {
«n_epochs»: 4,
«batch_size»: 1,
«prompt_loss_weight»: 0.1,
«learning_rate_multiplier»: 0.1
},
«organization_id»: «org-Ygwg5D3pYmJxnsfIU6OUTd8D»,
«model»: «davinci»,
«training_files»: [
{
«object»: «file»,
«id»: «file-GnQokZYstWYTzjg0IOlmrKcG»,
«purpose»: «fine-tune»,
«filename»: «paragraphs. jsonl»,
«bytes»: 41901,
«created_at»: 1658510960,
«status»: «processed»,
}
],
«validation_files»: [],
«result_files»: [],
«created_at»: 1658511065,
«updated_at»: 1658511070,
«status»: «pending»,
«fine_tuned_model»: null,
«events»: [
{
«object»: «fine-tune-event»,
«level»: «info»,
«message»: «Created fine-tune: ft-puPlI5XhwrzD0lvW0YfMH6Op»,
«created_at»: 1658511065
},
{
«object»: «fine-tune-event»,
«level»: «info»,
«message»: «Fine-tune costs $1.05»,
«created_at»: 1658511069
},
{
«object»: «fine-tune-event»,
«level»: «info»,
«message»: «Fine-tune enqueued. Queue number: 3»,
«created_at»: 1658511070
}
]
}
Таким же должен быть и ваш. Что это означает? Да, вы правильно подумали! Наш файл дорабатывается и почти готов!
Я не стал добавлять изображение, так как ответ слишком длинный, чтобы его можно было увидеть. Желаемый доработанный файл будет
доступен для нас в «Playground» OpenAI.
ЧИТАТЬ ДАЛЕЕ
Безпричудная | Моя геройская академия [ЗАКОНЧЕН] — 15 Начало стажировки
Безпричудная | Моя геройская академия [ЗАКОНЧЕН]
FanfictionОдна девочка полюбила парнишку из своего класса, и эта любовь изменила её жизнь…
#1а #ua #айко #ая #безпричудный #любовь #мга #мидорияизуку #этотфанфикфигня
от irinka12365
Поделиться
- Теперь я смогу победить! - я
- Посмотрим. - Люк
На моём теле за секунду затянулись все раны. В этот раз первым напал он, а я отбила. И сразу замена. Теперь я нападаю, он отбивается. У меня выросли все физические качества. Теперь бой в мою пользу. Но рано я обрадовалась. На меня полетел огненный шар. Я еле увернулась.
- Блин. Я забыла про твою причуду. - я
- Так вот какого это быть безпричудной. Постоянно забываешь что причуда есть у других!? - Люк
Это не Люк, которого я знаю.
- "Ко, можешь проверить Люка на демона?" - я
- "Да. Но зачем это вам?" - Ко
- "Я думаю он может быть одержим демоном."
- "Я всё сделаю, Госпожа."
Пока Ко пыталась понять если ли в Люке демон, я сражалась с ним.
- "Госпожа, я закончила. В него и правда вселился демон. Её имя Файн."
- "Спасибо. А с Файн я уже знакома."
- Файн, я же тебя предупреждала. Или вылазий, или умрёшь.
Тут из Люка вылетела демон. Люк же упал в обморок.К сожалению, это изображение не соответствует нашим правилам. Чтобы продолжить публикацию, пожалуйста, удалите изображение или загрузите другое.
- Каак ты понялаа!? Я скрылаа все слееды! - Файн
- Люк никогда бы так себя не вёл, это во-первых. А во-вторых, Ко распознала тебя.
- Сдаююсь! Ты сноваа победилаа! Каак же ты бесиишь! - Файн
- Файн?! - Алекс
- Ты её знаешь? - я
- Да. Она...мой фамильяр. - Алекс- Чего!? - я и Ким
- Простиите меня, Господиин. Я просто поиграла.
- Ну 83 года для таких как она.... Детский возраст. - я
- Ты права, Айко. Тем более ничего плохого же не произошло. - Алекс
- Не произошло?! Айко вся изранена была! - Изуку
Когда он сюда пришёл?
- Прости, я не знаю кто ты, но я не причиняла ей вреда. Это был он, почему-то он выбрался из моих оков, но после я всё же взяла его под контроль. - Файн
- Да, я заметила. Люк изменился после того как мой топор отлител. - я
И тут на меня кто-то набрасывается с обнимашками. Это Изуку.
- Больше меня так не пугай! - Изуку
- Я постараюсь. - я улыбнулась - Ко, в россыпь!
- "Слушаюсь."
Белая вспышка и я уже стою со своей обычной внешностью, а рядом со мной Ко в образе человека.
- Я думаю нам можно продолжить фестиваль... - я
- Да, конечно. - Полноч
И тут я отключилась. Последнее что я помню это сильные руки несущие меня.
Продвигаемые истории
Вам также понравится
Материальный объект: Лиза Файн
Материал для чтения / Материальный объект / Материальный объект: Лиза Файн
Как сказано Джошуа Дэвиду Штейну. Иллюстрации Лусиллы Тубаро
Что самое важное в вашем доме? В нашей серии Материальный объект мы исследуем именно этот вопрос, спрашивая некоторых из наших любимых людей, какие из их вещей связывают их с их прошлым, их семьей и самими собой.
Вместе с со своим мужем Майклом Лиза Файн является соучредителем Quiet Town, линии невероятно красивых занавесок для душа и ковриков для ванной. Она, ее муж и двое детей живут на северной развилке Лонг-Айленда. Здесь Лиза рассказывает историю своего открывалки для банок Smokey Bear.
Я люблю свою маму, но она очень плохо дарит подарки. Я либо выбрасываю все, что она мне дает, либо дарю это кому-то из членов семьи. (Эти подарки циркулируют годами.) Моя мама живет в Нью-Мексико и часто путешествует. Должен быть национальный парк, или заправочная станция, или что-то, что раздает бесплатные подарки — она никогда не покупает свои подарки — потому что она постоянно присылает нам подарки Медведя Смоки.
Мы получаем соломенные ковбойские шляпы для моих детей и брошюры о предотвращении лесных пожаров и странные шелковые ковбойские галстуки. Когда вы живете в Бруклине или в маленьком помещении, все эти вещи просто создают беспорядок: беспорядок в моем пространстве, беспорядок в моем уме, беспорядок в моем сердце, потому что это семья, а маленькие вещи становятся большими с семьей. Что за чудовищная дочь так пренебрегает дарами своей матери, как я?
«Обхватив рукой лицо медведя Смоки, я испытываю к ней благодарность, потому что она помогла мне взять себя в руки.»
Однако есть один дар, без которого я не могу жить. Это дешевая оранжевая силиконовая открывалка для банок Медвежонок Смоки. Я использую это все время. Это самое полезное, что она дала мне за мои 45 лет жизни. Это дало мне независимость. Мне никогда не приходится просить кого-либо помочь мне открыть банку. Он сопровождает нас во многих наших переездах. Это необходимо. Я не думаю, что моя мать хотела облегчить мою жизнь, но она действительно сделала это. Я очень люблю эту открывалку для банок, но дело в том, что я никогда не смогу рассказать об этом своей маме. Если бы я это сделал, мы были бы завалены всеми оранжевыми штучками, медвежонком Смоки или еще большим количеством консервных ножей. Слишком много возможностей для недопонимания. Поэтому вместо этого я просто молчу.
Тем не менее, я думаю о ней каждый раз, когда открываю банку на кухне. Обхватив рукой лицо медвежонка Смоки, я преисполнен благодарности за то, что она помогла мне взять себя в руки. И я чувствую благодарность за этот хлипкий кусочек оранжевого силикона, потому что это не значит, что я не люблю мамины подарки, в конце концов. Дело в том, что мне не нравятся плохие подарки от нее. Другими словами, я не монстр. А если и так, то я монстр, который может сам открыть банку с горчицей.
Подписаться.
Получайте рассылки о кулинарии, дизайне и о том, что нас вдохновляет прямо сейчас. Плюс люди, культура и дизайн, которые делают приготовление пищи мощным связующим инструментом.
Распространение в сети Fine Art Adoption Network – The Brooklyn Rail
ИскусствоВидел
октябрь 2010 г.
Патрисия Милдер Нэнси Бретт, «Картина без названия» (2008). 20 х 20. Фото предоставлено Fine Art Adoption Network.Арт-объекты долгое время были в центре многих интригующих историй. Существует бесчисленное множество историй, изобилующих подделками, воровством, торговлей с высокими ставками и политическим маневрированием в духе «Коллекции Барнса», и любая из них может (если уже не стала) превратиться в динамичный голливудский блокбастер.
Это не один из них.
Это отчет о сети людей, которые проходят через никогда ранее не кодифицированные социальные взаимодействия таким образом, чтобы никому не причинить вреда, не подрывать рынок и не претендовать на теоретическое обоснование, Марксистские или нет (хотя такие идеи, как экономика подарков Марселя Мосса и культурное наследие Пьера Бурдье, применялись к организации после ее создания). Это Fine Art Adoption Network (F.A.A.N.): тихое, стабильное онлайн-пространство, где менее обеспеченный коллекционер, такой как я, может использовать свою любовь к искусству в качестве своего рода валюты, а художник, желающий заниматься более полезным типом творчества. exchange может найти удовольствие в подарке избранной работы. По крайней мере, это один опыт. Каждое взаимодействие отличается. Учреждения и более традиционные коллекционеры также часто посещают сайт — на самом деле отдельные художники сами выбирают, кому и почему будут принадлежать их работы.
Художник из Бруклина Адам Саймон основал F.A.A.N. в 2006 году, после получения финансовой поддержки от тогда еще новой программы комиссионных в Art in General. Саймон предпочитает смотреть на сеть не как на какую-то преднамеренную социальную скульптуру, а как на естественный результат своей работы как художника. Мысль о том, что такого рода социальные проекты исторически расходятся с объектно-ориентированной студийной практикой, похоже, давит на него, но та легкость, с которой Ф.А.А.Н. вписывается в современный мир искусства, отражает ослабевающую геттоизацию форм. В некотором смысле, это идеальный документ о производительности. Наполняя арт-объекты сущностью прогрессивного социального эксперимента и перформативного жизненного события, объект еще больше превосходит материалы, из которых он был создан.
Саймон, однако, не говорит такими грандиозными словами. Он прагматичен, приземлен, с таким интеллектом, который естественным образом разбирает все запутанные мотивы и систематические ловушки в таком месте, как мир искусства, и предлагает решения, которые можно определить только с помощью таких слов, как «просто» и « хороший.» В F.A.A.N. участвовали и есть очень известные артисты. (в частности, Эми Силлман, которая создала прецедент, отказавшись от заявки крупного музея на усыновление в пользу художника по имени Питер Ферко, который руководит некоммерческой организацией Artists Unite и написал ей: «Я сплю. Мне снятся головы, движущиеся по холсту. Один затенен оранжевым квадратом…») Но на F.A.A.N тоже много хороших художников. (как есть в Бруклине и во всем мире), которые, как замечает Саймон, «никогда не продадут много работ и никогда не появятся в книгах по истории». В какой-то момент ему пришло в голову, что «когда они будут оглядываться на свою жизнь, они увидят свои прозрения в студии, и у них будут некоторые объекты, которые они считают действительно великолепными, но они также будут выглядеть вернуться к большому количеству социальных взаимодействий — это действительно большая часть того, чтобы быть художником. Это много разговоров». Большая часть F.A.A.N. способствует определенному типу серьезно вложенных разговоров об искусстве — подогреваемых потенциалом фактического владения искусством — между художниками и диверсифицированным, менее эксклюзивным кругом коллекционеров.
Снимок экрана со снимками. Обложка книги Адама Саймона Fine Art Adoption Network, опубликованной Art in General. Фото Адама Саймона.Когда однажды утром я пошел на верхний этаж Сохо, где жил Нэнси Бретт, чтобы забрать картину, которую я просил для «усыновления» на F.A.A.N. из переписки с художником по электронной почте большое пространство было залито естественным светом; работы на белых стенах студии меня немного ошеломили. Еще до того, как я приехал, я знал, что мне нравятся ее абстрактные, органически основанные на сетке картины, но моя непосредственная и эмоциональная привязанность к ее работам удивила меня. Название сети, как и язык, который многие коллекционеры используют для описания своих произведений искусства — «члены моей семьи» и т. д., — стало обретать смысл.
У нас с Бреттом был очень деликатный и уважительный разговор о процессе, когда мы его разыгрывали. Она описала, как приятно было услышать, как кто-то прямо говорит, что ей не только нравится эта работа, но и что она хочет, чтобы она была в ее жизни: «Потому что это то, на что я надеюсь в своей работе. Поскольку этого больше не будет в моей жизни, это будет место, где это будет оценено по достоинству. Я думаю, вы предполагаете, что когда что-то собрано в галерее, но на самом деле вы не знаете, по какой причине кто-то это собирает. Вы не знаете, хотят ли они иметь это в своей жизни, что является самым большим обязательством из всех, гораздо большим, чем затраты на это. Включение его в свой менталитет, в свое сознание; это каким-то образом меняет вашу жизнь». Мы также говорили о Нью-Йорке и Лос-Анджелесе и о том, что значит быть родителем, художником и женщиной. Я сказал ей, что мне нравятся ее туфли. Мы говорили о том, как прекрасна идея веганства, но как трудно никогда не есть сыр. Она тщательно завернула картину и отдала мне.
Саймон склонен описывать происхождение F.A.A.N. как решение проблемы хранения: слишком много хорошего искусства в мире без достаточно полезной системы распространения. Он ссылается на хранилище, которое Эл Хелд вырезал на склоне горы, чтобы хранить все картины, которыми он владел в конце своей жизни: «Даже если вы успешны, вы все равно накапливаете много предметов». И он самоуничижительно преувеличивает свои опасения по поводу бремени, которым его собственные картины могут когда-нибудь стать для его сына. Но Ф.А.А.Н. речь не идет о перемещении больших объемов работы; он был создан с огромным уважением к каждому отдельному объекту, и процесс требует времени, энергии и реальных эмоциональных вложений для всех вовлеченных сторон. Этот процесс не имеет смысла в мире (искусства), каким мы его знаем, но, возможно, мы все просто неестественно привыкли к бюрократии, конкуренции и запертым дверям. Когда в тот день я вышел из мастерской Бретта, рисуя в руке, воздух только-только начал становиться свежим на вкус тем поздним нью-йоркским серединой сентября, я почувствовал облегчение от своего нового владения и приятно, надеюсь, растерянность.