$\beta$ VAE 작성중

disentangled representation을 형성하는 능력이 있는 $\beta$ VAE에 대해서 알아보도록 한다.

 

$D = {X, V, W}$를 이미지 $x \in \mathcal{R^N}$의 구성요소의 집합이라고 하고

ground truth data의 두 개의 집합을

조건부 독립 factors $v \in \mathcal{R}^K$ ($log p(v|x) = \Sigma_k log p(v_k|x)$)와

true world simulator에 의해 생성된 이미지 $x$에 상응하는

ground truth data generative factors : $p(x|v, w) = Sim(v, w)$라고 하자.

 

 

$X$로부터의 샘플들만 사용해서 data $x$와 generative latent factors $z$의 결합 분포를 학습할 수 있는

unsupervised deep generative model을 개발한다.

($z \in \mathcal{R^M}$, $M \in geqq$)

$z$는 관찰된 데이터 $x$를 생성할 수 있다.

$p(x|z) \approx p(x|v, w) = Sim(v, w)$

따라서 적절한 목적함수는 latent factors $z$의 전체 분포 전반의 기댓값에서

관찰된 데이터 $x$의 marginal likelihood를 최대화 하는 것이다.