1. Abstract Gated Multimodal Unit (GMU)를 소개한다. 이는 어느 딥러닝 모델이라도 내부에 쉽게 적용될 수 있는 유닛이며, 서로 다른 모달리티의 데이터의 조합으로 intermediate representation을 찾으려는 목적을 갖는다. Multiplicative gates를 이용하여 여러 모달리티가 GMU의 activation에 어떻게 영향을 끼칠지(기여할지)는 결정하는 법을 배운다. MM-IMDb라는 데이터셋을 공개했는데, 이는 저자들이 아는 한 가장 큰 멀티모달 영화 장르 예측 데이터셋이라고 한다. 2. Introduction과 Related work에 포함된 GMU의 특징 Input-dependent한 gate-activation 패턴을 배운다. 즉, 인풋의 특징에 ..
1. Inverse Matrices Square matrix is said to be invertible if its inverse matrix exists. Sqaure matrix that is not invertible is singular. 2. Properties of Inverse Matrix P1. $A$ is invertible if and only if (iff) guassian elimination produces $n$ pivots ($A \mathbf{x} = \mathbf{b}$ 꼴에서 $A$의 열의 linear combination 관점에서 봤을 때 모든 $x_{i}$가 유일하게 존재한다는 말이므로 span위에 $\mathbf{b}$가 존재한다) P2. $A$가 invertibl..
1. Gaussian Elimination 아래와 같은 linear equations를 풀려고 한다. \begin{align} x_{1} + x_{2} &= 2 \\ 2x_{1} - x_{2} &= -4 \end{align} 일반적으로 두 등식 간에 연산을 취하여 아래의 꼴을 만들면 답을 쉽게 구할 수 있다. \begin{align} \\ x_{1} + x_{2} &= 2 \\ -3x_{2} &= -8 \end{align} 즉, 일단 바로 위의 등식과 같은 triangular form을 얻으면 풀렸다고 봐도 된다. 이렇게 행렬을 triangular form으로 만들기 위한 방법을 Gaussian Elimination Method라고 한다. 즉, $A \mathbf{x} = \mathbf{b}$에서 $A$..