IT 끄적이기 IT 끄적이기

무려 100$나 들여서 본 인증시험 Tensorflow Certification에 합격했다. colab에 코드들을 적어 놓고 모델링을 돌려놓고 결과를 보고 좋은 모델들을 저장하고 PyCharm에 Tensorflow 로고가 박혀 있는 Start Exam을 눌러서 시험을 쳤다. 시험은 Pycharm의 Tensorflow exam 플러그인을 통해서 치르게 된다. 총 5문제에서 각 문제별로 모델을 돌리면 모델링 결과가 mymodel.h5에 저장이 되는데 submit을 하면 모델의 점수를 알려준다. 좋은 점수가 나올때까지 돌려주면 된다. 5시간이나 주어지지면 모델학습에 시간이 많이 걸리므로 단단히 준비하는 것이 좋다. 새해 선물로 합격을 받아서 기분이 좋다. 1문항은 기본 레이어 모델링 2문항은 fashion-m..

tf.data.Dataset을 활용하여 다양한 Dataset 로더를 만들 수 있습니다. 그리고, 로더를 활용하여, shuffle, batch_size, window 데이터셋 생성등 다양한 종류를 데이터 셋을 상황에 맞게 생성하고 모델에 feed할 수 있도록 제공해 줍니다. 더 이상 numpy로 한땀 한땀 만들어 줄 필요없이, 간단한 옵션 몇 개면 데이터세트를 완성할 수 있습니다. References: 텐서플로우 공식 도큐먼트 # 필요한 라이브러리 import import numpy as np import tensorflow as tf 1. dimension을 1만큼 늘려주기 1-1. tensorflow 의 expand_dim : 차원 늘리기 x = np.arange(20) tf.expand_dims(x,..

순환 신경망 (Recurrent Neural Network) RNN 을 활용한 텍스트 분류 (Text Classification) RNN이란? 입력과 출력을 시퀀스 단위로 처리하는 모델. 번역기를 생각해보면 입력은 번역하고자 하는 문장. 즉, 단어 시퀀스. 출력에 해당되는 번역된 문장 또한 단어 시퀀스. 이러한 시퀀스들을 처리하기 위해 고안된 모델들을 시퀀스 모델이라고 한다. 그 중에서도 RNN은 딥 러닝에 있어 가장 기본적인 시퀀스 모델이다. 1. 순환 신경망(Recurrent Neural Network, RNN) 앞서 배운 신경망들은 전부 은닉층에서 활성화 함수를 지난 값은 오직 출력층 방향으로만 향했습니다. 이와 같은 신경망들을 피드 포워드 신경망(Feed Forward Neural Network)..

과대 적합(over-fitting) 과 과소 적합(under-fitting) 과대 적합 : 모델이 너무 과하게 적합하다. 샘플에 대해서는 100%일지 모르지만 예측율이 떨어지게된다. 과소 적합 : 모델이 너무 맞지 않는다. 샘플에 대해서도 정확도가 떨어지고 예측율또한 떨어지게된다. Appropriate-fitting을 찾는 것이 목표라고 할 수 있다. 아래 그림은 선형예측과 분류에서의 과적합 예제를 보여주고 있다. 과적합 방지를 위해서 전체 데이터중에서 보통 8:2의 비율로 나누어서 8이 학습용(train) 2를 검증용(validation)으로 사용한다. 파란선이 학습그래프이고 주황색이 검증그래프이다. 학습 횟수에 따라서 증감을 보여주는데 Loss에서 검증과 학습이 교차하는 부분이 최고의 모델이다. 과대..

데이터 전처리는 따로 없다. 매번 바뀌지만 데이터를 정의 해준다. Dense 와 Sequential 를 import를 해준다. model 생성중 input_shape값은 tuple이 와야하므로 input_shape = [1] or input_shape =(1.) 으로 한다. input값이 1일 경우 input_shape = 1이다. #학습 데이터 셋팅 celsius_q = np.array([-40, -10, 0, 8, 15, 22, 38]) fahrenheit_a = np.array([-40, 14, 32, 46, 59, 72, 100]) 이렇게 데이터가 주어졌을때 모델링은 다음과 같이 간단히 해주면 된다. model = tf.keras.Sequential([ tf.keras.layers.Dense(un..

Dense Layer(Fully Connected Layer) , FC라고 논문에서 많이 사용한다. node와 node들이 완전하게 연결되어있다. (Fully Connected) hidden layer = node(Neuron) = W(weight) * X(입력값) output layer = weight(가중치) 위 그림은 4층의 layer로 구성되어 있다. input layer에서는 input_shape를 지정해야한다. 각 layer는 input 값을 알고 있는데 input layer에서는 모르기 때문이다. 위 모델을 코드로 바꾸면 아래와 같다. model = Sequential([ Dense(3, input_shape=[1]), Dense(4), Dense(4), Dense(1), ]) 각 layer..

Epoch : 전체 데이터가 모두 학습한 단위 10 Epoch = 데이터를 10번 학습하겠다는 의미다. Loss(Error) : 정답 값과의 오차 학습이 진행됨에 따라서 낮아져야 한다. 만약 loss값이 높아진다면 학습이 잘 못되고 있다. Accuracy(acc) : 정확도 학습이 진행됨에 따라서 높아져야한다. Supervised Learning : 지도학습 지도 학습에는 회귀예측(Regression), 분류(Classification)이 있다. Tensorflow자격증 시험에서 1,5번은 회귀예측이고 2,3,4번은 분류 문제이다. 아래 그림은 필자가 회귀예측과 CNN에 대하여 간단하게 정리해본 문서이다. Features (X) : 입력데이터 Labels (Y) : 출력데이터 딥러닝 모델 학습 순서 im..

세번째 모델에 대한 공부이다. 구글링을 해보면 참 많이 나오는 dataset이며 초기 공부에 많이 쓰이는 붓꽃분류 모델이다. Python을 이용하여 작성하였으며 각 코드에 대해서는 주석으로 메모를 해 놓았다. 시험에는 dataset전처리 및 확인 모델링등이 자주 나온다고 하니 꼭 알아두도록 하자. from IPython.display import Image Image('https://user-images.githubusercontent.com/15958325/56006707-f69f3680-5d10-11e9-8609-25ba5034607e.png') import numpy as np import tensorflow as tf import tensorflow_datasets as tfds from tens..

앞에서 fashion_mnist 데이터셋을 가져와서 단순 Classification 모델링으로 학습하여 예측하는 걸 만들었다. #Image Classification with Convolutional Neural Networks #이 튜토리얼에서는 운동화와 셔츠와 같은 옷 이미지를 분류하는 신경망을 구축하고 훈련 할 것입니다. #모든 것을 이해하지 못해도 괜찮습니다. 이것은 전체 TensorFlow 프로그램에 대한 빠른 진행 개요와 함께 설명을 제공합니다. # 목표는 모든 세부 사항을 파악하는 것이 아니라 TensorFlow 프로젝트에 대한 일반적인 감각을 얻는 것입니다. #이 가이드는 TensorFlow에서 모델을 빌드하고 학습시키는 데 고급 API 인 tf.keras를 사용합니다. #Install a..

지난번에 만든 모델은 Regression을 이용한 예측값을 예측하는 모델이었다. 이번 모델은 Classification 으로 주어진 데이터로 입력데이터의 확률분포를 출력하는 모델이다. intro_to_modeling.ipynb - Colaboratory (google.com) Google Colaboratory colab.research.google.com 이렇게 Colab에 자세히 되어 있지만 직접 코딩해보는 것과 읽어보는것은 천지차이 일단 코딩을 해보았다. #종속성 설치 및 가져 오기 #Classification #데이터 세트 다운로드 및 액세스를 단순화하고 작업 할 여러 샘플 데이터 세트를 제공하는 API 인 TensorFlow_datasets가 필요합니다. # 또한 몇 가지 도우미 라이브러리를 사..