본문 바로가기

분류 전체보기

(89)
09/15 개발일지 목차 1. 오늘 공부 내용 2. 글로 나온 결과물 1. 오늘 공부 내용 : Transformer(Standford, DeepLearning Specialization,BoostCourse 강의) Transformer에서 Wq,Wk,Wv의 선형대수적인 의미 Transformer에서 multihead attention 의 (Q,K,V) 라는 notation은 구현상에서 Q,K,V를 실제로 input으로 준다는 얘기가 아니다. multihead attention 클래스에는 self attention이 포함되어 있다. 블로그에 목차 달기 2. 글로 나온 결과물: 없음
Pytorch:hooking,nn.Module,autograd에 대한 고찰 부스트캠프 ai테크 2기 첫 P스테이지인 이미지 분류 대회가 열렸습니다. 이번 대회의 주제는 'COVID 19 Mask 탐지' 였습니다. 과거, 이미지 분류 대회(2021 Programmers 머신러닝 Dev-Matching)를 참가했을때에는 , pretrained_model을 keras에서 불러와서 , 실험-피드백-실험 과정을 반복하면서 성적을 내는데에 집중을 하였습니다. 하지만, 이번 대회는 기간이 몇시간이 아닌 2주였고, pretraiend_model을 이용하는 것은 많이 해보았기 때문에 , 성적이 저조하더라도 직접 모델을 제작하여 , 대회에 참여하고 싶었습니다. 1주차에서는 주어진 미션을 수행하였고, 2주차에는 1주차에서 나온 결과물에서 발생한 문제점을 해결하고자 시도했습니다. 1주차 모델의 학습..
Pytorch: Torchviz 딥러닝 모델을 작성하게 되면 backpropagation을 해야합니다. 간단한 모델이라면, backward hook을 이용해서 디버깅 할 수 있지만, backward hook은 각 Tensor,혹은 Module에 대한 back propagation(backward)노드 에 대한 input,output gradient 만 구하게 됩니다. 상당히 비효율 적이기에 , backpropagtion으로 구한 gradient가 잘 전달되는지 확인할 다른 방법이 필요합니다.
4주차 회고 ,5주차 회고 1.강의복습내용 2.과제수행,결과: wrap때 한번에 과제수행과정을 정리해서 올리겠음 결과물: ResNet(Bn,RELU) shape 오류, train gpu 오류 해결 3.피어세션정리: 매주과제에대해 토의 4.학습회고: 주먹구구식으로 보다 확실한 피드백을 통해 논리적인 사고를 통해 문제를 해결해나가고자함 나의 개인 결과물: Pytorch:hooking,nn.Module,autograd에 대한 고찰 (tistory.com)
시각화:Text,Color 데이터 분석을 위한 툴들은 여러가지가 있습니다. Seaborn,plotly,ggplot,pygal... 데이터에 대해서 분석을 하고 , 목적에 맞게 시각화를 한다면 전달하고자 하는 정보를 충분히 전달할 수 있습니다. 분명, 제일 중요한것은 분석을 하기위한 "통찰력" 인것은 분명합니다. 하지만, "글꼴","글씨체","색상"등의 시각정보로 전하고 싶은 내용을 통찰력을 이용하지 않고 전달할 수 있습니다. 파이썬에서 이를 어떻게 "조정"하는지 알아보도록 하겠습니다. 1.Text 2.Color
빅데이터,스트림데이터 in Python 파이썬은 인공지능(머신러닝,딥러닝)에서 굉장히 Hot 한 언어이다. 벡터,행렬 같은 머신러닝에 필요한 연산들을 제공해주는 라이브러리가 있기 때문에 , 그래프를 시각화해서 볼 수 있기 때문에, 이를 기반으로 여러 딥러닝 프레임워크들이 제공 되어진다. 딥러닝이 머신러닝에 비해 본격적으로 주목을 받게 된것은 빅데이터에서의 퍼포먼스가 머신러닝 보다 더 뛰어나다는 연구결과가 있고 나서이다. 그리고, 현재 딥러닝 프로세스는 한번에 데이터를 저장한 다음에 처리하는 것이 아니라 , 지속적으로 데이터가 들어오면서 동시에 처리하고 이를 학습에 사용하는 Cycle의 형태이기 때문에 , 스트림 데이터에 대한 취급도 중요합니다. (본 글은, 빅데이터 스트림 데이터에 대한 개념이 있다 가정하고 진행) 즉, 파이썬에서 빅데이터,스..
딥러닝에서의 파이썬 위 카테고리는 단순 파이썬이 아닌 딥러닝관점에서 왜 파이썬이 좋은지 알아보는 카테고리이다.
AI부스트코스 3주차 : 학습정리 및 회고 .AI 부스트캠프 2기 3주차에는 기본적인 Pytorch 대하여 공부를 하였습니다. 4주차부터는 Image Classification 대회가 예정이 되어 있습니다. 이번주에 무엇을 배웠는지 알아보도록 하겠습니다. 1.강의주제 : Pytorch 2.과제: 3.피어세션 다들 시행착오로 과제를 했다는 평이 많았다. 4.내가 얻어간것 https://woongjun-warehouse.tistory.com/49 파이토치의 데이터셋:Dataset,DataLoader,Transforms 부스트캠프 ai tech 2기도 어느새 3주차에 접어들면서 파이토치에 대해서 이것저것 공부하고 있습니다. 파이토치의 실습과제를 진행하는데 , 데이터셋을 만드는 부분에서 상당히 애를 먹었습니다 woongjun-warehouse.tisto..