Что такое файнтюнинг?

Что такое файнтюнинг

Файнтюнинг (fine-tuning) — это дообучение готовой языковой модели на новых данных под конкретную задачу.

Базовая модель уже умеет многое. Файнтюнинг «подстраивает» её под специфику: стиль общения, предметную область, формат ответов.

Пример: берёте GPT-4, обучаете на тысячах примеров медицинских консультаций — получаете модель, которая отвечает в нужном формате и терминологии.

Чем файнтюнинг отличается от системного промпта:

• Системный промпт — инструкция при каждом запросе, не меняет саму модель
• Файнтюнинг — изменяет веса модели, результат сохраняется навсегда

Когда нужен файнтюнинг:

• нужен очень специфичный стиль или формат
• задача плохо решается промптами
• важна скорость и экономия токенов на длинных системных промптах

В вайбкодинге файнтюнинг почти не используется — это инструмент для продуктовых команд, а не для повседневной работы с кодом.