반응형

전체 글 194

[Paper Review] DeepLab V1 논문 리뷰

SEMANTIC IMAGE SEGMENTATION WITH DEEP CONVOLUTIONAL NETS AND FULLY CONNECTED CRFS : DeepLab V1 주요 업적 Atrous Convolution을 제안하여 Signal reduction을 최소화 추후 Dilated Convolution이라는 이름으로 다시 사용 CRF 사용해서 boundary에서의 성능 향상 Introduction 기존 Segmentation은 Localization이 낮았다. fully-connected Conditioal Random Field를 이용하여 model 결과의 Fine-detail을 살린다. CRF의 경우 기존 Classifier의 class score와 Low-level pixel/edge inform..

AI/Paper Review 2022.08.12

[Pytorch Error] RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation 해결

[Pytorch Error] RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation: [torch.FloatTensor [21, 21, 4, 4]] is at version 2; expected version 1 instead. Hint: enable anomaly detection to find the operation that failed to compute its gradient, with torch.autograd.set_detect_anomaly(True). 위와같은 inplace operation이 gradient flow를 방해하는 이유는, computa..

AI/PyTorch 2022.08.03

[Paper Review] U-Net 논문 리뷰

U-Net: Convolutional Networks for Biomedical Image Segmentation 기존 연구의 문제점 이미지에서 하나의 patch를 추출하는데, 각 patch를 모두 다른 network에서 학습을 진행했다. 이는 overlapping하는 부분 때문에 연산이 낭비되는 문제가 있었다. 크기가 큰 patch의 경우 max-pooling을 더욱 많이 거치는데, 이 경우 localization accuracy(즉, 각 pixel 별 class 예측의 정확도)가 떨어진다. 크기가 작은 patch의 경우 context에 대한 인식률이 떨어지게 된다. U-net의 Architecture Fully Convolutional Network이 발전한 모델이다. end-to-end로 train..

AI/Paper Review 2022.07.28

[Paper Review] SSD : Single Shot Multibox Detector 논문 리뷰

Paper Link https://arxiv.org/abs/1512.02325 Abstract single deep neural network를 이용해서 object를 detecting하는 방법에 관한 논문이다. SSD는 bounding box의 output space를 default box의 집합으로 이산화한다. 이 때 그 bounding box의 aspect ratio와 scale을 feature map을 기준으로 여러 개로 만든다. prediction time에는, network가 object category에 관한 score와 object shape에 더 알맞은 bounding box adjustment를 출력한다. 또한, network는 object를 여러 개의 size로 다루기 위해서, 여러 ..

AI/Paper Review 2022.07.06

[Paper Review] GG-CNN : Closing the Loop for Robotic Grasping 리뷰

본 포스팅에서는 'Closing the Loop for Robotic Grasping : A Real-time, Generative Grasp Synthesis Approach'를 리뷰한다. Paper Link https://arxiv.org/abs/1804.05172 Closing the Loop for Robotic Grasping: A Real-time, Generative Grasp Synthesis Approach This paper presents a real-time, object-independent grasp synthesis method which can be used for closed-loop grasping. Our proposed Generative Grasping Convolu..

AI/Paper Review 2022.06.26

2022년의 반을 보내며...

잘된 것보다, 잘 되지 않은 것이 많은 시기인 것같다. 일단 인턴만해도 지원 단계에서 모두 탈락하거나, 코딩테스트에서 탈락했다. 물론 코딩테스트는 내가 연습하지 않은 탓이지만... 기업이 아니라 KAIST, 서울대, ETRI, UST 등등 연구실 인턴도 모조리 탈락했다. 내가 부족하다는 뜻이겠지. 또한 대통령과학장학금도 면접에서 떨어졌고, 학과 공부는 금요일 새벽에 맥도날드 먹고 관통형(?) 장염 생겨서 39도까지 열 오르다가 내리다가를 반복하며 컨디션 난조를 보이다가 결국 말아먹었다. 자신있던 과목까지 잘 말아드시고, 인턴도 떨어지고, 몸도 아프고... 하다가 나는 뭐가 문제일까 곰곰이 생각해보게 된 것이었다. Computer Vision 관련 프로젝트 경험이 없다. Robot에 준하는 것에는 경험이 ..

[인공지능 : AI, Artificial Intelligence] Lecture 9 : Adversarial Search 1

Lecture 9 'Problem Solving, PS란 무엇인가?'에 대한 답변 Problem Solving이란 무엇인가? = initial state에서 goal state까지 찾아가는 과정 혹은 순서(sequence of action)를 찾는 것. State, Action, Goal로 구성되어있으며, Action을 통해서 Goal에 도달하는 방법을 찾는 것을 Problem Solving이라고 한다. AI Agent가 reach a goal하는 것을 Problem Solving이라고 한다. 다만 Local Search는 path가 아니라 optimal Goal만을 찾을 뿐인 것이다. Problem 현재상태 to 목표상태까지의 gap이 있는 것 Problem solving solution..

[인공지능 : AI, Artificial Intelligence] Lecture 8 : Local Search

Lecture 8 Local Search 다시 보기 매우 큰 state space -> exhausive는 불가능하다. 그래서 일부, 즉 Local만 Search를 해본다. Local Beam Search 정해진 시간동안 search를 해서 각자 다른 local maxima를 찾았다고 해보자. 이걸 전부 모아서 best인 k개를 솎아내서 tracking한다(이걸 교수님은 '협력했다, 정보가 각 k search에서 서로 공유되었다'고 하더라..). 중요한 점은 k개의 successor가 good ones에 bias되게 만든다는 점이다. diversity가 부족할 수 있다. 이를 위해서 Stochastic beam search : state quality에 비례한 확률로 k successors를 선정하는 방..

[인공지능 : AI, Artificial Intelligence] Lecture 7 : Local Search

Lecture 7 Local Search Local Search는 path가 중요하지 않을 때 사용한다. goal이 주어지지 않으며, path또한 찾지 않는다. 특히, global에서 가장 큰 제일 좋은 state를 찾는 것이 목표이다. Traditional Search는 goal state로 가는 path를 찾는 것이어서, 전체 state space를 활용하고, 현 상태에서 다음 상태로 가는 traversal 전략이 정해져 있었다. 경로를 찾는 것이 아니므로, random state 에서 시작한다. 각 state 는 object function 에 의한 value 를 가지고 있다. 이를 Fitness 값이라고도 한다. current state를 유지하면서, imporve 한다. 바로 옆의 state로만..

[인공지능 : AI, Artificial Intelligence] Lecture 6 : Search 3부

Lecture 6 문제를 tree로 표현, state와 action으로 구성되어있으며, 이를 이용해서 Search를 한다. 근본적으로는 다 똑같다고 한다만... best first search의 흐름은 똑같지만, 각 node의 값은 g, h, g+h에 따라서 UCS, GBFS, A*인지 구분된다. A*의 completeness와 optimality A* search는 completeness와 optimality를 보장하는 조건이 있다. A* is optimal if h(n)is admissible, while the graph-search version of A* is consistent admissible heuristic is that never overestimates the cost to reac..

반응형