분류 전체보기 461

[알고리즘 - 이론] 0-1 KnapSack Problem and Fractional KnapSack Problem (0-1 배낭 문제, 분할 가능한 배낭 문제)

앞의 글을 읽으시면 이해에 도움이 됩니다. 2022.04.16 - [Computer Science/알고리즘] - [알고리즘] 탐욕법이란? (What is the Greedy Approach?) [알고리즘] 탐욕법이란? (What is the Greedy Approach?) 1. 탐욕 알고리즘이란? 탐욕 알고리즘이란 각 순환마다 '가장 좋은' 선택을 합니다. 탐욕 알고리즘은 DP와 마찬가지로 최적화 문제를 푸는데 주로 사용됩니다. 또한 상대적으로 DP보다 알고리즘을 hi-guten-tag.tistory.com 2022.04.13 - [Computer Science/알고리즘] - [알고리즘] 동적 계획법 (Dynamic Programming) [알고리즘] 동적 계획법 (Dynamic Programming) ..

[확률과 통계] Slotted ALOHA Protocol (슬롯 알로하 프로토콜)

1. Slotted ALOHA Protocol이란? S-ALOHA(Slotted ALOHA Protocol)는 ALOHA의 안 좋은 Performance를 보완하기 위해 만든 프로토콜입니다. 기존의 ALOHA는 너무 성능이 안 좋았고, 추가로 보내는 패킷 수가 0.5개일 때 최고의 성능인데, 이 마저도 0.184밖에 안 됐습니다. Slotted ALOHA는 아래의 그림과 같은 프로토콜입니다. 만약 T라는 시간 조각 '안'에 생성이 된다면, 다음 T 시간에 전송됩니다. 쉽게 말해서 1초마다 전송이 된다고 가정할 때, 0.5초에 패킷이 생성되면, 1초에 패킷을 전송합니다. 만약 0.1초에 생성되어도 1초에 전송이 되고, 0.99초에 생성이 되어도 1초에 전송됩니다. 따라서 0~1초 안에만 다른 패킷이 생성되..

[확률과 통계] ALOHA Protocol (알로하 프로토콜)

1. ALOHA Protocol이란? ALOHA는 Additive Links On-line Hawaii Area의 준말입니다. 1970년대 하와이 대학교에서 개발한 컴퓨터 네트워킹 시스템입니다. 여러 섬에 분산된 컴퓨터 간 무선 통신으로 데이터를 교환할 때 사용하는 프로토콜입니다. 이때 확률과 통계를 이용해서 ALOHA Protocol의 성능을 측정해보겠습니다. 2. ALOHA Protocol의 원리 기존의 복잡한 통신 시스템에 비해 다른 기본적인 가정이 있습니다. 시간이 정해져 있지 않음 패킷은 즉시 도착한다 별도의 채널이나 동일한 채널에서 ACK를 기다림 (정상 도착했다는 신호) 만약 충돌이 일어나면 Time-Out 혹은 NAK 신호를 받음 충돌이 일어난다면 재전송 단순한 구조입니다. 패킷이 생성되면..

[머신러닝 - 이론] Computer Vision의 연구 분야와 대표적인 모델 - Segmentation, SR, Generative, Translation (Computer Vision Research Fields and Representative Models - Segmentation, SR, Generative, Translation)

1. Image Sementic Segmentation 이미지에 의미가 있는 부분을 세분화하는 작업입니다. 중요한 특징 중 하나로는 output이 크기가 같은 image라는 것이 특징입니다. 2015년에 CVPR이라는 곳에 나온 모델을 보면, input과 output이 사이즈가 같은 이미지기 때문에 Dense Layer을 없앴습니다. 요즘은 영상이 output이면 Dense Layer을 없애고, Fully Conv Layer을 넣는 경우가 많다고 합니다. 의료분야에서 대표적인 Model은 U-Net입니다. 보시면 처음에 Conv Layer에서 나온 Feature Map을 두 개의 방향으로 보내는 것을 볼 수 있습니다. 아래 방향으로 가면서 중요한 정보들만 추출하고, 다시 upscailing하는 과정에서 ..

[머신러닝 - 이론] Computer Vision의 연구 분야와 대표적인 모델 - Classification, Object Detection (Computer Vision Research Fields and Representative Models - Classification, Object Detection)

1. Classification 말 그대로 해당 Image Object가 어떤 물체인지 분류하는 작업입니다. 대표적인 모델로는 EfficientNet이 있습니다. EfficientNet의 점수이며, 상대적으로 파라미터가 적음에도 불구하고 높은 정확도를 보이고 있습니다. EfficientNet의 구조는 다음과 같습니다. a를 보면 기본적인 모델의 구조입니다. 이때 EfficientNet은 다양한 테스트를 해봤는데, 기본적으로 채널 수를 더욱 늘려도 보았고, 깊이도 더 깊이 해봤고, 해상도도 변경했었습니다. 마지막으로 모두 혼합해서 테스트도 했습니다. 다양한 테스트 이후 좋은 구조를 합친 것이 바로 EfficientNet입니다. 가장 중요한 것은 결과가 아니라 과정에서 이 사람들이 왜 이런 생각을 했을까? ..

[머신러닝 - 이론] Computer Vision

1. Computer Vision이란? AI의 한 분야이고, 이미지, 비디오 혹은 visual input에서 의미 있는 정보를 추출하는 분야입니다. 또한 해당 정보에 기반해서 행동을 취하거나 추천을 하는 등의 분야입니다. 이 분야의 목적은 NLP와 비슷하게 컴퓨터에게 이미지를 이해시키는 것이 목적이며, 정보와 insight를 정확하게 추출하는 것이 목적입니다. 이때 이미지는 NLP와 다르게 매우 다양하며, VR, 적외선 레이더 등 매우 많은 이미지가 있습니다. 이때 이미지에서 현재 상황을 보거나, 어디에 무엇이 있는지, 어떤 행동이 일어나고 있는지, 어떤 행동을 예상하는지, 어떤 일이 발생할지에 대해 discover합니다. Computer Vision이 영향을 끼칠 수 있는 분야는 매우 많습니다. 기본적..

Google Colaboratory를 사용할 땐 항상 구글 드라이브에 백업하고, GPU 백엔드 사용 시간을 체크하자..

GPU 백엔드 사용시간이 다 끝나면 런타임이 끊기고, 구글 드라이브를 제외한 모든 디스크는 날라간다. 그러니까 미리미리 구글 드라이브에 저장하고, 남은 사용 시간을 체크 해야한다.... 어떻게 알았냐구요? 저도 알고 싶지 않았어요..2시간의 모델 학습이 증발했다는 사실을...

나의 일상 2022.06.02

[머신러닝 - 이론] NLP + Computer Vision

1. Common NLP Tasks (Mixed tasks (NLP + Computer Vision)) 일반적인 자연어 처리와 컴퓨터 비전을 합한 작업으로는 Text-Image search (retrieval) 텍스트가 왔을 때 이미지를 보여주거나, 이미지를 보여주면 텍스트를 매칭 시켜줌 이는 이미 존재한 것을 매칭 시키는 것 Image/video captioning 새로운 이미지에 자막 등 텍스트를 달아줌 Etc.. 이 있습니다. 이는 곧 이미지나 비디오를 해석해서 사람이 이해할 수 있는 언어로 표현하는 것입니다. 이때 중요한 두 가지 문제가 있습니다. 영상을 머신이 이해하는 것 그런 이해를 Natural Language로 표현하는 것 애초에 영상을 머신에게 이해시키는 것도 어려운데, 그런 이해를 NL..