Создание небольшой языковой модели на Mac

Language Model Builder — бесплатное приложение, которое пошагово знакомит с созданием небольшой языковой модели. Оно устроено как интерактивный учебник и не требует навыков программирования, математики или машинного обучения.

Этапы работы с моделью

Пользователь обучает токенизатор, выбирает данные, проводит предварительное обучение и дообучение, а затем общается с созданной моделью.

Интерактивные упражнения

В учебных разделах можно на практике изучить токенизацию, пространство эмбеддингов, механизмы внимания и обучение модели.