OpenAI анонсировала новую модель GPT-4 Turbo, которая стала мощнее и дешевле. Её базу знаний обновили мировыми событиями вплоть до апреля 2023 года, тогда как GPT-4 знает только о событиях до сентября 2021.
Также увеличили лимит входных данных до 128 тысяч входных токенов - это примерно 300 страниц печатного текста, или книга средних размеров. Дополнительный контекст позволяет языковым моделям лучше понять запрос и предоставить более детализированный ответ. Базовая GPT-4 может работать с запросами до 8 или 32 тысяч токенов в зависимости от версии.
Помимо текста модель также принимает запросы картинками, озвучивает ответы и пишет код. С GPT-4 Turbo пользователь может даже выбрать язык программирования, когда просит написать или проанализировать код.
GPT-4 Turbo пока доступна только в виде превью API для разработчиков. Использовать её стало дешевле: тысяча входных токенов теперь стоит всего 1 цент, а выходных - 3 цента. У GPT-4 стоимость 3 и 6 центов соответственно.
Для пользователей GPT-3.5 Turbo тоже улучшили условия. По умолчанию модель будет работать с запросами длиной до 16 тысяч токенов и получит новые функции GPT-4 Turbo. Тысяча токенов на вход будет стоить 0,1 цента, на выход - 0,2 цента.