Huis audio Hoe is het scheermes van occam van toepassing op machine learning?

Hoe is het scheermes van occam van toepassing op machine learning?

Anonim

Q:

Hoe is het scheermes van Occam van toepassing op machine learning?

EEN:

Het gebruik van het scheermes van Occam gaat terug tot William van Ockham in de jaren 1200 - het is het idee dat de eenvoudigste en meest directe oplossing de voorkeur verdient, of dat met verschillende hypothesen de eenvoudigste of de minste met aannames het beste kan worden toegepast.

Het scheermes van Occam heeft echter ook enkele moderne toepassingen voor geavanceerde technologieën - een voorbeeld is de toepassing van het principe op machine learning. Met machine learning trainen ingenieurs computers op sets van trainingsgegevens, zodat ze kunnen leren en verder gaan dan de grenzen van hun oorspronkelijke codebase-programmering. Machine learning omvat het implementeren van algoritmen, datastructuren en trainingssystemen op computers, zodat zij zelfstandig kunnen leren en evoluerende resultaten kunnen produceren.

Met dat in gedachten, vinden sommige experts dat het scheermes van Occam nuttig en leerzaam kan zijn bij het ontwerpen van machine learning-projecten. Sommigen beweren dat het scheermes van Occam ingenieurs kan helpen het beste algoritme te kiezen dat op een project moet worden toegepast, en ook helpen bij het bepalen hoe een programma met het geselecteerde algoritme wordt getraind. Een interpretatie van het scheermes van Occam is dat, gegeven meer dan één geschikt algoritme met vergelijkbare afwegingen, het algoritme moet worden gebruikt dat het minst complex is en het gemakkelijkst te interpreteren.

Anderen wijzen erop dat vereenvoudigingsprocedures zoals functieselectie en dimensionaliteitsreductie ook voorbeelden zijn van het gebruik van een Occam's scheerprincipe - van het vereenvoudigen van modellen voor betere resultaten. Aan de andere kant beschrijven anderen modelafwegingen waarbij ingenieurs de complexiteit verminderen ten koste van de nauwkeurigheid - maar beweren nog steeds dat deze Occam's scheermesbenadering gunstig kan zijn.

Een andere toepassing van het scheermes van Occam omvat de parameters die zijn ingesteld voor bepaalde soorten machine learning, zoals Bayesiaanse logica in technologieën. Bij het beperken van de parametersets voor een project zou van ingenieurs kunnen worden gezegd dat ze "het scheermes van Occam gebruiken" om het model te vereenvoudigen. Een ander argument is dat wanneer creatieve mensen brainstormen over hoe ze de business use case kunnen beoordelen en de reikwijdte van een project kunnen beperken voordat ze algoritmen gebruiken, ze het scheermes van Occam gebruiken om de complexiteit van het project vanaf het begin te verkleinen.

Nog een andere populaire toepassing van het scheermes van Occam op machine learning betreft de 'vloek van te complexe systemen'. Dit argument luidt dat het creëren van een ingewikkelder en gedetailleerder model dat model kwetsbaar en log kan maken. Er is een probleem genaamd overfitting waarbij modellen te complex worden gemaakt om echt te passen bij de gegevens die worden onderzocht en de use case voor die gegevens. Dit is een ander voorbeeld waarin iemand het scheermes van Occam zou kunnen citeren in het weloverwogen ontwerp van machine learning-systemen, om ervoor te zorgen dat ze geen last hebben van overcomplexiteit en starheid.

Aan de andere kant wijzen sommigen erop dat het verkeerd gebruiken van het scheermes van Occam de effectiviteit van het programmeren van machine learning kan verminderen. In sommige gevallen kan complexiteit noodzakelijk en nuttig zijn. Het heeft allemaal te maken met het onderzoeken van de specifieke projectomvang en wat moet worden verkregen, en kijken naar de input, de trainingssets en de parameters om de meest gerichte oplossingen voor het gegeven resultaat toe te passen.

Hoe is het scheermes van occam van toepassing op machine learning?