text-embedding-3-large

text-embedding-3-large — старшая из двух моделей эмбеддингов третьего поколения OpenAI, представленная 25 января 2024 года. Она превращает текст и код в числовые векторы, которые помогают приложениям сопоставлять материалы по смыслу. По данным анонса, модель формирует представления размерностью до 3072 и может возвращать укороченный вектор через параметр dimensions.

Когда нужен большой вектор

Поиск по сложным и многоязычным корпусам

Векторные представления применяются для семантического поиска, группировки материалов и подбора контекста для RAG-систем. OpenAI позиционировала text-embedding-3-large как наиболее производительную на момент выпуска модель эмбеддингов компании. В собственных тестах разработчик сообщил средний результат MIRACL 54,9% и MTEB 64,6%; это измерения OpenAI на выбранных наборах данных, которые не заменяют проверку на конкретном корпусе.

Размерность и настройка

До 3072 измерений с возможностью сокращения

По умолчанию максимальная размерность составляет 3072. API позволяет задать меньшее значение, чтобы снизить объём хранения и вычислительную нагрузку. Сокращение вектора уменьшает затраты, но может снизить качество ранжирования. Подберите значение на своей выборке, сравнив полноту поиска, точность первых результатов, задержку и стоимость хранения.

Ограничения применения

Эмбеддинг не заменяет поисковый механизм

Модель формирует числовое представление, но сама не ищет ответ в базе и не составляет итоговый текст. Приложению нужны векторное хранилище или другой алгоритм сравнения, логика фильтрации и, если нужен связный ответ, отдельная генеративная модель. На практике качество результата зависит также от разбиения документов на фрагменты и обновления индекса.

Похожие модели OpenAI

Сравнить соседние версии можно на страницах: text-embedding-3-small; text-embedding-ada-002.

Сведения о разработчике и его моделях: OpenAI в Вики Futuretools.ru.

Официальный источник: материал разработчика.