Variationsinferens

Föreställ dig att du inte exakt kan beräkna hur sannolikt varje möjlig parameterinställning är, men du kan mäta hur bra en kandidatfördelning är genom att poängsätta den mot data. Variational inference ersätter den intractable posteriorn med den bästa approximationen från en hanterbar familj – till exempel ett produkt av oberoende Gaussiska fördelningar – och justerar sedan approximationen genom att klättra i ELBO, en kvantitet som ökar när approximationen förbättras. Eftersom optimering med gradientmetoder skalar till miljontals datapunkter, kan VI hantera modeller där MCMC skulle vara oöverkomligt långsamt.