The Skeptical Minimum Description Length Principle

Onderzoeksgebieden zoals biologie, spraakherkenning, computer vision en document retrieval op het internet zijn steeds meer gebaseerd van statistische analyse van complexe data met complexe modellen. Het Minimum Description Length paradigma voor het vinden van patronen (leren) in data is uitermate geschikt voor het omgaan met complexe data en complexe modellen. Toch zijn er problemen, met name in de realistische situatie waarin geen enkele van de beschouwde modellen goed overeenkomt met de werkelijkheid, maar sommige modellen toch redelijk goede voorspellingen leveren. Het blijkt dat MDL in dat geval soms random fluctuaties in plaats van daadwerkelijke patronen in de data vindt, zelfs al is de hoeveelheid beschikbare data oneindig groot. Ons voorstel is om dit en twee soortgelijke problemen in een klap op te lossen door MDL uit te breiden. De uitbreiding heeft een Popperiaanse interpretatie - er wordt expliciet geprobeerd modellen te verwerpen, niet te bevestigen. De nieuwe methode zou ook tot verbeteringen moeten leiden bij de populaire en succesvolle objectieve Bayesiaanse methoden, die grote overeenkomsten met MDL vertonen.