Dimensionality Reduction

Wat is dimensionality reduction?

Dimensionality reduction (dimensionaliteitsreductie) is het terugbrengen van het aantal kenmerken in een dataset, terwijl de belangrijkste informatie behouden blijft. Een dataset met honderden kolommen per klant of meting bevat vaak veel overlap en ruis; door die te comprimeren tot een handvol betekenisvolle dimensies worden modellen sneller, robuuster en data beter te visualiseren.

Hoe werkt het?

Er zijn twee hoofdroutes. Bij feature selection kies je simpelweg de meest relevante kolommen en gooi je de rest weg. Bij feature extraction combineer je bestaande kenmerken tot nieuwe, compactere kenmerken; de bekendste techniek daarvoor is principal component analysis (PCA), die de richtingen vindt waarin de data het meest varieert. Voor visualisatie van complexe data in twee of drie dimensies worden technieken als t-SNE en UMAP gebruikt. Ook een autoencoder, een neuraal netwerk dat data leert samen te persen en weer uit te pakken, is een vorm van dimensionaliteitsreductie.

Wat heb je eraan als bedrijf?

Voor de meeste bedrijven is dit vooral achtergrondkennis: het is gereedschap van datawetenschappers, geen tool die je zelf bedient. Toch zit het principe verstopt in technologie die je wel dagelijks gebruikt. Embeddings, de compacte getallenreeksen waarmee AI-systemen de betekenis van teksten of producten vastleggen, zijn in essentie een geleerde vorm van dimensionaliteitsreductie. Daarmee draait elke semantische zoekfunctie en elke AI-kennisbank op dit principe.

Gerelateerde begrippen

Belangrijke technieken zijn PCA en de autoencoder. Het concept hangt nauw samen met feature extraction, feature selection en het tegengaan van overfitting.