개발 창고

이전 포스팅(https://knowledgeforengineers.tistory.com/m/224)에서도 언급했지만, 학부 3학년 1학기부턴가 자대에 있는 AI/컴퓨터비전 연구실에 컨택을 여러 번 시도했었습니다. 하지만 정말 하나도 남김없이 답장이 없으시거나, 에둘러 거절하시거나... 했었던 것 같습니다. 그래서 혼자서 스터디 꾸려가며 공부하고 논문 읽어보고, 프로젝트도 해보면서 쓸거리를 만들다가, KAIST에서 공식 인턴을 뽑는다고 공지가 올라온 것을 보았습니다. '자대 교수님들에게도 관심 못 받는데 될 리가 없다'라고 생각해서 인턴 컨택 이메일도 따로 안넣고 자기소개서와 CV만 써서 제출했는데... 그게 됐어요. 기대도 안했어서 면접 준비도 안했었는데, 서류 합격 메일을 받고서야 급하게 면접 준비를 ..

이전에 올렸었던 고려대 인공지능학과 면접 후기(https://knowledgeforengineers.tistory.com/225) 이후로 KAIST AI대학원 입시 후기도 남기려고합니다. 알려졌던 정보와 사실(?)KAIST는 대체로 전공 면접을 크게 본다고 알려져 있었는데, 이건 정말 사람마다 다른 것 같습니다. 저같은 경우는 전공 내용을 물어보는 것이 하나도 없기도 했고, 다른 지인들도 전공 질문을 받은 경우 아닌 경우가 많이 갈렸습니다. 즉 준비 가능한 건 다 준비해야한다는 소리...서류 스펙고려대학교기계공학 + 인공지능 복전 : 학점 3.96 / 4.5KAIRI 2022 겨울 활동, 당시 ICCV Workshop 타겟 논문 작성 중 (현재는 투고 완료)로봇 동아리 활동 1 : 로봇팔 전용 Seman..

Training data-efficient image transformers & distillation through attention 초록 및 서론 기존의 ViT 연구에서는 “do not generalize well when trained on insufficient amounts of data”라고 결론지었다. 실제로도 ViT는 inductive bias가 거의 없으므로, model capacity가 높을 것이다. 이 논문에서는 이 문제를 해결하기 위해서 (1) Distillation architecture를 정의하고 (2) token-based distillation을 활용해서 적은 epoch으로 더 좋은 성능의 Vision Transformer를 학습한다. 이를 Data-efficient imag..

최근에 인공지능 대학원 합불 결과가 나온 김에, 각 학교별 후기에 대해서 적어보려고 한다. 고려대학교는 컨택의 영향이 큰 편이라고 한다. 물론 당연히 컨택을 안하고 진학을 하려고 하는 사람은 없겠지만... 진학 약속을 받아놓은 곳이 없다면 서류가 훌륭하고 면접을 아무리 잘봐도 탈락될 가능성이 높다. 인턴 컨택 실패 '자대니까... 그래도 받아주시겠지'라는 어중간한 마음으로 여러 번 컨택 시도했던 것 같다. 그렇게 학부 때에만 교수님 세 분 정도에게 컨택을 시도했었다. 그런데 전부 잘 안됐다. 이유를 생각해보자면 1. 부족한 AI 관련 경험 2. 타전공 3. (당시) 낮은 학점 정도가 원인이었을 것 같다. 그런데 기대도 안한 타대 인턴이 붙어서 거기서 인턴을 하게 되었다? 이 이야기는 나중에 하기로 하고...

이전 포스트에서 이어서, 이번에는 이메일과 CV를 작성하는 방법에 대해서 설명드리겠습니다. 컨택 이메일 관심 연구분야를 정했고, 해당 연구를 하는 연구실을 찾았고, 인턴 or 진학을 할 결심이 섰다면, 이제 해당 연구실의 교수님께 연락을 드리면 됩니다. 여기서 이메일을 적을 때에는 보통 다음과 같은 것을 적어서 보내면 됩니다. 1. 자신의 전공, 출신 학교 2. 졸업시기, 희망하는 진학 형태(석사, 석박통합) 3. 연락드린 계기 4. 자신의 주요 관심분야 및 주요 활동 간략히 5. CV, 성적표 첨부 6. '감사 인사' 한 2년전에 보냈었던... 컨택 메일을 예시로 보여드리겠습니다. 제목 : [대학원 진학 면담 요청] 연구실 석사 진학을 희망하여 면담을 요청드립니다. 안녕하십니까? OO대학교 OO학부 및..

당분간 AI 대학원 + AI 연구를 하는 연구실에 진학에 도움이 될만한 팁을 몇 가지 포스팅하려 합니다. 몇 편으로 나누어서 연재하려고 하는데, 1. 컨택 편 2. 인턴 편 3. 진학 - 서류 편 4. 진학 - 면접 편 으로 나누려고 합니다. 내용은 기밀 유지가 되는 선에서 작성하려 합니다. AI 연구를 하는 연구실로 진학하는 것은 어렵습니다. 그 이유로 몇 가지 들자면, 1. 대부분의 연구실에서 해당 연구실에서의 인턴 경험을 요구합니다. 2. 지원자가 많습니다. 이런 점이 1과 같은 요인에도 영향을 끼칩니다. 3. 일정 수준의 실력까지는 상대적으로 쉽게 접근할 수 있는 분야입니다. 실험에 필요한 것이 좋은 GPU가 달린 컴퓨터 혹은 Colab과 같은 서버 대여 정도가 끝입니다. 그리고 교육 자료도 풍부..

아래 코드 스니펫은 인턴 생활을 하면서 새로 개발하거나 이전 논문에서 있었던 모듈을 재구현 한 것이다. CGN에의 training scheme 구현. 아래에 원본 github과 paper가 있습니다. 필자의 training scheme과 구조가 달라서 따로 함수로 적출한 형태입니다.. 원본에서는 Model Class 내에서 dataloading과 train을 하도록 구현되어있었습니다. https://github.com/KAIST-vilab/OC-CSE GitHub - KAIST-vilab/OC-CSE: Unlocking the Potential of Ordinary Classifier: Class-specific Adversarial Erasing Framework for We Unlocking the ..

Railroad is not a Train: Saliency as Pseudo-pixel Supervision for Weakly Supervised Semantic Segmentation Weakly Supervised Semantic Segmentation 분야에서 2021년 CVPR accpet 및 SotA를 달성한 논문이다. 우선 WSSS(Weakly Supervised Semantic Segmentation)의 Process에 대해서 간단히 설명하자면, image에 어떻나 object가 존재하는지만 알려주는 label(이를 image-level label이라고 한다.)을 이용해서, pixel마다 label 정보(이를 pixel-level label이라고 한다.)가 있던 Fully Supervis..

DeepLab: Semantic Image Segmentation with Deep Convolutional Nets, Atrous Convolution, and Fully Connected CRFs 주요 업적 : atrous convolution atrous spatial pyramid pooling (ASPP) fully connected Conditional Random Field (CRF) 도입 DCNN의 translation invariance는 segmentation의 localization precision을 저하한다. 세가지 해결 과제가 있다. reduced feature resolution existence of objects at multiple scales reduced localiz..

어쩌다 하게 되었나 여름방학에는 포트폴리오도 만들 겸, 로봇팔에서 사용할 CNN 모델을 구현할 생각이었다. 그런데 어느날 학과 사무실에서 문자가 왔었다. 사이트를 보니 자율주행에 사용되는 Radar 센서에 관한 해커톤을 진행하고 교육도 시켜준다길래 오... 하고 있다가, 대회에서 요구하는 Task가 무엇인지 살펴보기 위해서 신청서를 야금야금 쓰다보니 갑자기 신청되었다. 자기소개서 쓰거나 하는 것도 없이 그냥 메일과 전화번호만 쓰고선... ... 취소 처리를 해야겠다 싶기는 했는데, 시험기간이라 귀찮기도 하고, 정 할 거 없으면 해야지 싶어서 놔뒀다가... 정작 방학이 시작되니 바빠져서 관두려고 했었다. 그래서 문의드렸는데, '이번에 관두면 다시 지원 불가하다.'라는 답변에 지레 겁먹고, 참여해버렸다. 온..