Project for the course "Statistique bayésienne" at ENSAE
Nous étudions le papier "Dropout as a Bayesian approximation: representing model uncertainty in deep learning" dans lequel Y. Gal et Z. Ghahramani développent des méthodes afin d'appréhender l'incertitude inhérente à l'apprentissage profond. Nous nous demanderons dans quelle mesure la technique du dropout, habituellement utilisée pour éviter le sur-apprentissage, permet de mesurer l'incertitude. Nous nous pencherons également sur la question du lien avec l'approximation bayésienne.
Nous implémentons la méthode dévelopée par Y. Gal et Z. Ghahramani dans le cas d'une régression et d'une classification.
Léa Bresson ([email protected]), Kolia Iakovlev ([email protected]), Elvire Roblin ([email protected])