happylife

입력으로 MSA representation, Pair representation이 들어온다. pair representation의 값이 Row wise gated self attention with pair bias에 들어온다. 즉, 공간적 특징과 진화적 특징이 섞이게 된다. 그리고 column wise gated self attention, transition layer를 거친다. 이 세개의 블럭 (Row wise ~, Column wise ~, Transition)은 MSA representation이다. self attention으로, 자기 자신에 대한 정보를 인코딩 한다. transition이 끝나면, outer product mean을 통해 진화정보를 공간적 정보로 넣어주게 된다. - MSA r..

MSA는 bioligical sequence (예를 들면 protein, DNA, RNA)를 sequence align한 결과이다. sequence align이란 두가지 이상 시퀀스를 비교해서, 그 시퀀스들 사이에서 유사성을 발견하는 것이다. (시퀀스 사이의 유사성을 이용해서 기능적, 진화적, 구조적 관계를 밝혀낼 수도 있음!) MSA의 입력은 진화적으로 관계가있는 시퀀스들이다. (공통조상을 가지고있어서 시퀀스들 사이에 관계가 있는 그런 시퀀스들) MSA의 결과값을 이용하면 sequence homology를 추론 할 수 있고, 진화 기원을 평가하기 위해서 phylogenetic analysis를 수행할 수도 있다. 시각적으로 보면 아래와 같다. 출처 : MSA 위키 single alignment colu..