История и развитие GPT 1-4
Давайте посмотрим краткую историю и хронологию серии GPT. Это поможет нам понять, насколько языковые модели OpenAI улучшались с течением времени, и даст нам представление о том, каким может быть GPT-5.
- GPT-1: В июне 2018 года была представлена первая итерация GPT, обученная на BooksCorpus и содержащая 117 миллионов параметров. Одной из основных функций является возможность предсказать следующее слово в предложении.
- GPT-2: Второе поколение GPT с 1,5 миллиарда параметров было выпущено в феврале 2019 года, но официально запущено в ноябре 2019 года. Оно может генерировать связный текст в несколько абзацев.
- GTP-3: Эта версия GPT, выпущенная в июне 2020 года, имеет 175 миллиардов параметров и обладает значительно более высоким интеллектом. Теперь она может создавать стихи, писать код и переводить языки. Главное, что GPT-3 может отвечать на вопросы.
- GPT-3.5: После запуска ChatGPT появилась улучшенная версия GPT 3, которая включает четыре модели, включая GPT 3.5 Turbo, выпущенную 1 марта 2023 года. OpenAI в августе прошлого года предоставила возможность тонкой настройки для GPT-3.5 Turbo.
- ChatGPT: Этот сервис, выпущенный OpenAI 30 ноября 2022 года, предназначен для чат-ботов и ориентирован на потребителей. Он был создан с использованием обучения с подкреплением на основе обратной связи с человеком (RLHF). За пять дней этот бесплатный чат-бот с искусственным интеллектом набрал ошеломляющее количество пользователей — 1 миллион.
- GPT-4: Эта последняя версия GPT, доступная исключительно для пользователей ChatGPT Plus, была выпущена 14 марта 2023 года и содержит 1,7 триллиона параметров. Она значительно превосходит GPT-3.5, особенно в сложных задачах и надежности.
Когда будет выпущен GPT-5?
На данный момент OpenAI официально не сообщала о точной дате. Ещё в марте генеральный директор Runway Сики Чен написал в Twitter, что GPT-5 завершит обучение в декабре 2024 года.
Однако в июне Сэм Альтман уточнил, что компания в настоящее время не занимается обучением GPT-5. (Более подробную информацию об этом можно найти ниже.) На данный момент, кажется, они сосредоточены на улучшении и повышении уровня интеллекта GPT-4, и стоит ожидать новых достижений в ближайшие месяцы.
Хотя официальной даты выхода GPT 5 пока нет, OpenAI стремится защитить свои исключительные права на эту технологию. В связи с этим компания подала заявку на регистрацию товарного знака GPT 5 в Ведомство по патентам и товарным знакам США.
Согласно заявке, поданной 18 июля 2023 года, GPT-5 представляет собой набор загружаемых компьютерных программ и загружаемого компьютерного программного обеспечения, предназначенного для выполнения следующих задач:
- для использования языковых моделей
- для искусственного воспроизведения человеческой речи и текста
- для обработки, генерации, понимания и анализа естественного языка
- для программного обеспечения для машинного обучения языку и обработки речи
- для перевода текста или речи с одного языка на другой
- для обмена наборами данных с целью машинного обучения, прогнозной аналитики и построения языковых моделей
- для преобразования файлов аудиоданных в текст
- для голоса и распознавания речи
- для создания и генерации текста
- для разработки, запуска и анализа алгоритмов, способных научиться анализировать, классифицировать и предпринимать действия в ответ на доступ к данным
- для разработки и внедрения искусственных нейронных сетей
Несмотря на изменения в графике, вероятность выхода GPT 5 в этом году остаётся невысокой.
Учитывая эти сроки, можно предположить, что GPT 5 выйдет не раньше 2025 года. Если бы мне пришлось делать прогноз, я бы сказал, что до появления GPT 5 мы можем увидеть дальнейшие улучшения GPT-4 или даже GPT-4.5.
