반응형

전체 글 234

[Generative Models] VQ-VAE 정리

VQ-VAE는 VAE에서 latent를 quantize한 것이다. 덕분에 noise에 resistant하다던가 하는 얘기가 있는데 안써봐서 잘은 모르겠다.embedding space에 latent값을 따로 넣고, encoder를 통해서 접근할 codebook의 index를 찾고, encoder output을 그 codebook의 값으로 대체하는 방식이다. 첫번째 항은 당연히 reconstruction term이다. quantized embedding에서 decoder를 거쳐서 recon이 되도록 하는 것이 목적.두번째 항은 reg term이다. 코드북 벡터를 update한다. 이때 encoder 출력은 freeze한다. 세번째 항도 reg term이다. 여기서는 encoder를 학습해서 codebook..

[Generative Models] VAE 수식 전개 및 의미 정리

요새 VLM, LLM, 생성 모델 연구를 하고 있어서, 그에 기본이 되는 VAE 수식 의미 정리를 하고자 한다.어차피 최신 연구가 아니기도 하니 주요한 부분만 골라서 보고 정리할 것.아래는 VAE의 대략적 구조. gradient descent를 위해서 reparameterization trick을 사용하여 latent를 표현한다.아래는 optimization criterion. 최종적으로 recon error, reg error, 그리고 버리는 항 하나; 이렇게 세가지로 나뉜다. 첫 항은 encoder $q_theta$로 recon target $x$를 구하는 식이니 reconstruction 부분을 담당하고, 두번째 항은 latent prior 등으로 쓰는 gaussian $p(x)$등에 대하여 가까워..

2025 돌아보기

연구 근황2024년 말에 제출했던 논문이 올해 초에 CVPR 억셉되었다! 이런 대참사와 같은 일도 겪긴 했지만, 리뷰어 운이 좋아서인지 억셉이 되었다. 그래서 6월에 CVPR에 현장 참석했다. 정말 많은 사람과 연구를 볼 수 있었고, 너무 볼게 많다보니 시간이 모자랄 지경이었다. 그리고 LiDAR segmentation 관련 연구를 마무리 지을 겸, 한 편을 AAAI에 투고했었는데, 결과적으로 리젝되었다. ICLR로 다시 냈는데 여전히 score가 좋지 않아서 withdraw했다. 이 연구는 결국엔 폐기하게 될 것 같다.교수님과 나 딱 두 명이 저자로 들어가는 논문이라 개인적으로 설레는(?) 투고였는데 결과가 좋지 않아 너무 아쉬웠다. 다음 연구를 더 잘 할 수밖에...개인사대학원 입학할 무렵부터 사귀..

797. All Paths From Source to Target

All Paths From Source to Target - LeetCode DFS든 BFS든 상관 없고DFS는 할 거면 end state 아닐 때 pop하는 걸 기억해야하고,BFS는 그거랑 상관없이 path의 맨 뒤 node를 기준으로 해서 queueing하는 것 정도? ##### by DFSclass Solution: def allPathsSourceTarget(self, graph: List[List[int]]) -> List[List[int]]: n = len(graph) target = n - 1 res = [] path = [] def dfs(node): ## do smthing p..

반응형