Tuning (model tuning, fine-tuning)

Wat is tuning?

Tuning is het verzamelbegrip voor het bijstellen van een machine learning-model om betere prestaties te halen. In de praktijk worden er twee verschillende dingen mee bedoeld. Fine-tuning is het bijtrainen van een al getraind model op eigen data, zodat het jouw taak of vakgebied beter beheerst. Hyperparameter-tuning is het afstellen van de instellingen van het trainingsproces zelf, zoals de leersnelheid of de modelgrootte. Beide worden vaak op één hoop gegooid, maar het zijn echt verschillende technieken.

Hoe werkt het?

Bij fine-tuning neem je een voorgetraind model, bijvoorbeeld een groot taalmodel, en train je het verder met honderden tot duizenden eigen voorbeelden: jouw producthandleidingen, jouw e-mailstijl, jouw beoordelingscriteria. Het model behoudt zijn algemene kennis en wordt specialist in jouw domein. Bij hyperparameter-tuning probeer je systematisch verschillende instellingen uit, handmatig of automatisch met technieken als grid search, en kies je de combinatie die op een testset het beste presteert.

Wat heb je eraan als bedrijf?

Fine-tuning is relevant zodra een standaard AI-model jouw taak net niet goed genoeg doet: het model leert dan jouw tone of voice, terminologie of werkwijze. Veel AI-leveranciers bieden dit als dienst aan. Bedenk wel dat het vaak niet nodig is: goede instructies of het meegeven van eigen documenten lost veel gevallen goedkoper op. Hyperparameter-tuning is vooral het werk van datateams en modelbouwers.

Gerelateerde begrippen

Fine-tuning is een vorm van transfer learning en wordt veel toegepast op large language models. Hyperparameter-tuning gebruikt technieken als grid search en helpt overfitting en underfitting te voorkomen.