소신의 블로그생활

안녕하세요 ! 소신입니다. 2017년 마지막 ILSVRC대회에서 1등을 한 SeNet 모델입니다. 사실 모델이라고 하기는 조금? 애매하고 새로운 Block이라고 할 수 있습니다. 최근 연구에서 네트워크 내부 피쳐간의 공간적 상관성을 학습하는 메커니즘으로 CNN이 좀 더 강력하게 될 수 있다는 것을 확인했습니다. 따라서 이러한 연구에 맞춰 CNN 내부 Feature들의 중요도를 학습하는 SeNet이 탄생하게 된 것이죠 SeNet을 활용하면, 적은 Complexity의 증가로 Performance의 증가를 가져올 수 있습니다. # SeNet의 원리 SeNet은 위와같이, WxH의 Feature Map을 Squeeze (압축)하는 첫 번째 단계가 있습니다. 논문상에선 편리상 Global Average Pool..

안녕하세요 ! 소신입니다. VGGNet 논문 리뷰와 Pytorch를 활용한 구현입니다. VGGNet은 작은 필터로 네트워크층을 깊게 쌓은 모델입니다. 2015년에 발표된 논문으로 당시 엄청 복잡한 구조인 GoogleNet에 비해 구조가 간단하면서 에러는 0.1%밖에 나지않아 큰 주목을 받은 모델입니다. 제가 생각하는 VGGNet의 키포인트들입니다. 모델링 자체는 간단하지만, 전처리, 후처리 등 여러가지 방법을 사용해서 성능을 끌어올리기 위해 노력했다는 느낌을 많이 받았습니다. 전처리에선 이미지를 다양한 크기로 변형하고 Crop(오려내기), Color Shift, Flip등 다양한 전처리를 진행했습니다. 모델링은 Convolutional Layer를 3x3 필터에 Padding=1로 원본 크기에는 변화를 ..