반응형

Log 264

[ResNeXt] 논문 리뷰 & 구현 (Pytorch)

안녕하세요 소신입니다. ResNeXt는 ResNet에 Inception개념과 AlexNet 개념을 응용한 모델입니다 ! 뭔가 더 복잡하게 해서 성능이 올라간것처럼 보이지만 같은 복잡도 대비 성능을 끌어올린 모델입니다. # ResNet → ResNeXt 최신 연구의 방향은 Data를 변형하는 Feature Engineering에서 Network 즉, 모델을 Engineering로 바뀌었습니다. Channel의 개수나 Filter의 크기, strides를 변형하며 같은 데이터를 넣어도 더 예측력있는 모델을 만드는 것이죠 그래서 ResNet은 Inception Model의 Split - Transform - Merge 전략을 ResNet에 접목하게 됩니다. x를 나눠 여러 weight와 곱한뒤 합치는 것이죠 ..

[ResNet] 논문 리뷰 & 구현 (Pytorch)

안녕하세요, 소신입니다. 이미지 인식에서 엄청난 반향을 일으켰던 ResNet 입니다. Residual (잔차)를 학습한다해서 ResNet이라는 이름이 붙었습니다. # 기존 접근 방식의 문제점을 해결하기 위해 등장한 ResNet 기존 모델들은 Layer를 Deep하게 쌓으면 성능이 좋아질것이라고 했지만, 실제로는 20층 이상부터 Deep할수록 오히려 performance가 낮아지는 현상인 Degradation문제가 발생했습니다. 그래서 ResNet 팀은 예측하려는 y(분류된 모습)가 실제로는 x(분류되기 전 모습)와 같다고 보고, y-H(x)를 학습하기보다 x-H(x)를 학습하기가 더 쉽고 빠르다는 것이죠 결론적으로 위가 더 좋다는 것은 저 메달이 증명해줬습니다. Object Detection 대회인 CO..

[AlexNet] 논문 리뷰 & 구현 (Pytorch)

안녕하세요 ! 소신입니다. AlexNet 논문 리뷰 및 Pytorch 구현입니다. AlexNet은 2012년 우승한 모델입니다. 이전 모델보다 분류 에러율을 약 10%감소시켰습니다. AlexNet은 Overfitting 해결에 집중한 모델입니다. Dropout과 Data Augmentation을 사용했고 Tanh, Sigmoid 대신 ReLU를 사용해서 학습속도를 높였습니다. 또한, Multi-GPU를 사용해 병렬연산하고 특정 구간마다 연결해 계산했습니다. AlexNet에선 LRN이라는 Neuron을 사용했습니다. 특정 Filter 한 픽셀의 가중치가 높으면 영향을 받은 Feature Map은 자연스럽게 그 주변의 수치가 높을 것입니다. 따라서 이를 해결하기위해 Filter를 정규화하는 방법을 사용했습니..

[VGGNet] 논문 리뷰 & 구현 (Pytorch)

안녕하세요 ! 소신입니다. VGGNet 논문 리뷰와 Pytorch를 활용한 구현입니다. VGGNet은 작은 필터로 네트워크층을 깊게 쌓은 모델입니다. 2015년에 발표된 논문으로 당시 엄청 복잡한 구조인 GoogleNet에 비해 구조가 간단하면서 에러는 0.1%밖에 나지않아 큰 주목을 받은 모델입니다. 제가 생각하는 VGGNet의 키포인트들입니다. 모델링 자체는 간단하지만, 전처리, 후처리 등 여러가지 방법을 사용해서 성능을 끌어올리기 위해 노력했다는 느낌을 많이 받았습니다. 전처리에선 이미지를 다양한 크기로 변형하고 Crop(오려내기), Color Shift, Flip등 다양한 전처리를 진행했습니다. 모델링은 Convolutional Layer를 3x3 필터에 Padding=1로 원본 크기에는 변화를 ..

[빅데이터 AI 머신러닝] 선형 회귀, 로지스틱 회귀 분석 예제 코드 & 설명

안녕하세요 ! 소신입니다. 사실 모델링 코드는 정말 간단합니다. 데이터를 수집하고 전처리하는 과정이 귀찮을 뿐! ㅁ 선형 회귀분석 변수사이의 관계를 선형으로 나타내는 것을 선형 회귀분석이라 합니다. 전체 코드 from sklearn.linear_model import LinearRegression # 선형회귀 from sklearn.linear_model import Lasso, Ridge, ElasticNet # 규제항 조절가능한 선형회귀 import numpy as np # 데이터 셋을 다루기 위한 패키지 from sklearn.datasets import load_boston # 보스턴 집값 데이터 # 시각화 패키지 import seaborn as sns import matplotlib.pyplot..

[Front-end] HTML5 모든 태그, 속성 총 정리

안녕하세요 ! 소신입니다 HTML5 태그와 관련된 속성들을 총 정리해보았습니다 ! CTRL+F 로 검색하시면 빠르게 찾으실 수 있습니다 ㅎㅎ HTML5에서 안쓰이는 태그들은 제외하였습니다. HTML 태그, 속성 (클릭하시면 w3Schools로 이동합니다.) 설명 속성 주석 문서타입 선언 하이퍼링크 href="URL" target="_blank" 약어 title="World Trade Organization" 연락처 주소 이미지 내 특정 위치에 하이퍼링크 삽입 shape="rectangle" coords="좌표" href="URL" article 영역 선언 콘텐츠 옆에 두는 영역 (주로 navigation, side bar) 오디오 콘텐츠 삽입 bold체 text 기본 URL, 다음 href는 /image..

[셀리] 2021 플래너, 다이어리 (무료 PPT file)

안녕하세요 ! 소신입니다. 개인적으로 플래너로 쓰는 친구가 있는데오래쓰다보니까 셀리라는 이름까지 지어줬습니다 ㅋㅋㅋㅋ취준시작하면서 일정관리나 하자는 마인드로 만들었는데.. 어느새 사용한것만 약 50장이 넘네요 아직 부족한 플래너라사용하시다가 수정했으면 좋겠다거나 후기 남겨주시면 감사하겠습니다 !! 배달의민족 주아체로 작성했기 때문에 주아체를 다운받아서 사용하세요 ! Windows MacOS ㅁ Work Matrix항상 해야 할 일은 많고 시간은 부족하기 때문에 목표에 우선순위를 부여하는 것은 중요하죠.시급성과 성장에 중요한 순(제 기준)으로 나열했습니다. ㅁ Montly Plan주요 일정들을 정리해놓습니다. 주단위 체크해야될 것들을 적어놓고, 약속이나 특별한 이벤트를 기록해놓습니다. ㅁ Weekly Pl..

Tools & Utility 2020.12.02

[Front-end] CSS3 우선 순위(Score) + 속성(Attributes) 총 정리 + reset.css

안녕하세요 ! 소신입니다. CSS 우선순위와 속성들, 그리고 style을 초기화할 수 있는 reset.css입니다 ! ㅁ Selector 우선 순위 ㅁ CSS 속성 (Attributes) ※ box (block model) ㅇ Layout flex 하나면 모든게 편안 Color code + Gradient 까지 한번에 다룰 수 있는 사이트 ! cssgradient.io/ CSS Gradient — Generator, Maker, and Background As a free css gradient generator tool, this website lets you create a colorful gradient background for your website, blog, or social media pr..

[Front-end] HTML5 기초, 기본 문법, 공부 방법 + Layout 연습 방법

안녕하세요 ! 소신입니다. Front-end 개발을 시작하면서 HTML5를 학습했던 방법에 대해서 공유하려고 합니다. ㅁ HTML5 기초 HTML은 웹사이트의 구조를 표현하는 프로그래밍 언어입니다. 그 중 HTML5가 유명해진 이유는 멀티미디어 지원과 페이지를 좀 더 풍부하게 만들게 되었다는 것입니다. 우선 저는 Visual Studio Code를 개발 툴로 고정해놨기 때문에 VSC를 쓴다는 점... 참고해주세요 Visual Studio Code에서는 doc를 입력하고 엔터만 쳐도 자동으로 html 기본 구조가 잡힙니다. head 태그안에는 meta태그나 사용할 css, javascript 를 불러와서 저장해놓구요 body 태그안에는 표현할 내용들이 들어가게 됩니다. ㅁ 기본 문법 HTML5를 배우면서 ..

CPIM 최종 합격, 공부법, 기출 문제 복기, 공부자료 공유

안녕하세요 소신입니다 ! CPIM 최종 합격했습니다 !!!!지난번 20.07.15에 올린 CPIM Part. 1 합격하고나서 4달하고 보름 걸렸네요 CPIM Part. 1 합격, 공부법, 복기, 피어슨뷰 자택시험, 공부자료 공유안녕하세요 소신입니다 ! CPIM Part. 1 합격했습니다. ㅇ 시험 후기 ㅁ 이걸 이렇게 낸다고? 개x끼가 ㅁ 음..이건 아니고.. 이것도 아니고.. 하면 문제별로 보기 2개씩 남아있음 개빡침 ㅁ 점점 늘어나wolfy.tistory.com중간에 TOPCIT, 유통관리사, ADsP도 보고, 프로젝트도 몇개 진행하면서 정말 빡세게 보낸 것 같습니다...Part.2는 하도 E-Learning이 필수라고 해서 6명이서 공구했고 문제도 많이 풀어 볼 수 있어 혜택을 많이 봤습니다. MP..

반응형