AI Diary

VScode를 이용하여 Debugging을 위하여 argparse와 별도의 parameters를 입력으로 받을 수 없는 VScode를 위하여 아래와 같이 설계하면 Debugging이 가능하다. 아래와 같이 launch.json 파일을 만들어 주면 끝! { "version": "0.2.0", "configurations": [ { "name": "Debug test.py", //파일 이름 "type": "python", //Script type "request": "launch", // "module": "torch.distributed.launch", //-m torch.distributed.launch "program": "${workspaceFolder}/tools/test.py", //실행하고자 하..

Etc. 2023. 5. 11. 21:26

Base (classification) model을 이용하는 대표 Downstream tasks 중 하나인 Semantic segmentation! 그리고 대표적인 segmentation toolbox인 mmsegmentation! (이하 mmseg) 그럼 만약에, Backbone change Head change Backbone or Head hyper-parameter modification 면 어떻게 해야할까? 정답은 mmsegmentation/configs 안에 담겨 있다! 오늘은 이 부분을 파헤쳐보자! OpenMMLab에서 제공하고 있는 모든 computer vision libraries (mmdetection, mmsegmentation, mmclassification 등)는 모두 동일한 형태..

Machine Learning 2023. 1. 26. 20:54

MM series들을 사용하는 횟수가 빈번해져서, 이참에 정리해보자 우선 Tutorial 부터 시작! 1. Inference 과정 config_file: yaml 파일처럼 model 구성을 위하여 필요한 정보가 담겨있음 checkpoint_file: pretrained model init_segmentor: segmentation model 생성 및 기존 pretrained weight 입혀주는 과정 inference_segmentor: 앞에서 생성된 모델 (model)과 inference할 영상 (img) 넣어주고 test output 출력 show_result_pyplot: 결과 그리기 from mmseg.apis import inference_segmentor, init_segmentor, show..

Machine Learning 2023. 1. 24. 23:12

Paper: Rethinking Vision Transformers for MobileNet Size and Speed, 2022 앞서 소개한 Next-ViT와 흡사하며, 성능 역시 Comparable results를 보여준다. (사실 두 방법 모두 좋은 성능을 내지만 개인적으로는 Next-ViT가 보다 simple yet efficient 하다고 생각한다.) Introduction (Next-ViT와 동일하게) Transformer의 높은 성능 대비 느린 속도 (because of quadratic complexity)를 지적하고 있다. 때문에 여전히 lightwegith CNNs 에 비해 real-world applications에서 한계를 보이고 있다. 때문에, 본 논문과 이전 논문 (Efficie..

ML Papers 2023. 1. 21. 00:02

소개 (Introduction) Vision Transformer (ViT) 덕분에 Computer vision 계열도 매우 빠른 성장을 보이고 있지만, CNN 계열 보다는 Realistic Indutrial 환경에서는 주목받지 못했었다. 주된 이유는 바로 SPEED!! 그렇다면 왜 Transformer는 Industrial scenarios에서 약할까? (e.g. TensorRT and CoreML) Quadratic complexity w.r.t. token length of multi-head self-attention (MHSA) mechanism Non-foldable Layer-Norm GeLU layer Complex model design 이러한 문제를 해결하기 위하여 기존 연구들은 단순히..

ML Papers 2023. 1. 17. 23:51

Interpreter + Deployment 설정 1. Deployment 설정 2. Interpreter 설정 Python command 관련 명령어 Download wget [url] $ wget https://chromedriver.storage.googleapis.com/77.0.3865.40/chromedriver_linux64.zip 다운로드 + 파일 이름 변경 특정 경로에 파일을 다운로드하려면 -O옵션에 디렉토리 위치를 함께 입력하면 됩니다. # wget [url] -O [dir / file name] $ wget https://chromedriver.storage.googleapis.com/77.0.3865.40/chromedriver_linux64.zip -O files/driver.zi..

Etc. 2022. 11. 27. 19:07

ShuffleNet > SqueezeNet > VGG Model 핵심 Conv 형태 특징 장점 단점 Xception Depthwise separable conv 깊이를 증가 MobileNetV1 Depthwise separable conv 깊이대신 경량화 이슈 ShuffleNet Depthwise separable conv + Pointwise group conv + Channel shuffle ResNeXt Group conv MobileNetV2 Inverted Residual Depthwise conv의 연산 비중을 늘림 + ReLU6 사용 scaling up을 3가지 측면 (depth, channel width, resolution)을 조정 Depthwise Convolution 8x8x3의 ma..

Machine Learning 2022. 11. 27. 19:07

매번 까먹는 Github 명령어를 저장저장 1. 자주 사용하는 Git 명령어 List Command Description 비고 git 명령어 --help 도움발 보기 git init Repository 초기화 .git 이 생성 git status Working directory의 상태를 알려줌 git add Working directory→Staging area 로 이동 git commit 새로운 버젼 만들기 (Staging area→local repository에 보내기) -am : add 안하고 바로 commit 진행 git log 지금까지는 모든 history (버젼 확인) git log --decorate --graph --oneline --all git log stat git log -p git..

Etc. 2022. 11. 8. 19:36