GPT-4o mini от 18 июля 2024 года — компактная мультимодальная модель
GPT-4o mini сочетала обработку текста и изображений с меньшей задержкой и стоимостью, чем флагманские модели того периода. Датированный снимок 2024-07-18 использовался в API и поддерживал контекст до 128 тысяч токенов.
GPT-4o mini от 18 июля 2024 года — компактная версия GPT-4o, рассчитанная на быстрые и менее затратные задачи. OpenAI позиционировала её как модель для приложений с большим количеством коротких запросов, обработки объёмного текста и клиентских диалогов. На старте модель принимала текст и изображения, имела контекст до 128 тысяч токенов и могла выдавать до 16 тысяч токенов за запрос. Эти характеристики опубликованы в официальном анонсе GPT-4o mini. Разработчик и его основные проекты представлены в OpenAI в Вики Futuretools.
Для чего предназначалась компактная версия
Меньшая стоимость и низкая задержка полезны, когда приложению нужно обращаться к модели многократно: например, для классификации обращений, извлечения полей из документов или автоматического ответа на типовые вопросы. OpenAI также отмечала сильные результаты модели в задачах с текстом и изображениями, включая вызов функций.
Контекст и мультимодальность
Контекстное окно в 128 тысяч токенов позволяло передавать длинную переписку или большой документ в одном обращении. В первоначальном API модель принимала текст и изображения; доступность других типов данных зависела от последующих обновлений продукта и API.
Отношение к основной GPT-4o
GPT-4o mini — отдельный компактный вариант семейства, а не просто режим скорости у полной модели. Сравнение с основной версией есть на странице GPT-4o; также посмотрите снимок GPT-4o от 6 августа 2024 года, в котором появилась поддержка строгих структурированных ответов.
Дата, лимиты и сценарии применения описаны в материале OpenAI о запуске.