PROJECT (16) 썸네일형 리스트형 [딥러닝 + TensorFlow] ReLU와 RBM ▶ReLU 참고 동영상 : https://youtu.be/cKtg_fpw88c 먼저 ReLU를 들어가기 전에 전에 포스팅 해두었던 Neural Net for XOR이 뭔지 알아야한다. 관련 포스팅 : https://call203.tistory.com/38 그럼 저번 포스팅에 이어서 좀 더 설명해보겠다. 2개의 입력과 1개의 출력을 가지고 있는 네트워크를 보자. 만약 두개의 weight와 bias를 가질때는 아래와 같은 그림으로 나타낼 수 있다. 그렇다면 layer가 3개일 때는 어떨까? weight와 bias를 늘려주고 hypothesis를 아래와 같이 조정해주면 된다. 아래의 hypothesis가 이렇게 되는 이유는 이미 전에 포스팅이 되어있다. 단, 여기서 중요한 것은 weight의 tf.random.. [딥러닝 + TensorFlow] Tensor Board 사용해보기 참고 동영상 : https://youtu.be/eDKxY5Z5dVQ ▶ 지금까지 우리는 아래와 같이 Hypothesis값과 predicted로 정확도의 값, 그리고 Accuracy의 값을 단순히 print 형식을 사용해서 숫자로 확인하였다. 하지만 네트워크가 커지고 수행시간이 길어지면 보기 힘들어질 것이다. TensorBoard를 사용하면 이것을 시각화해서 한번에 볼 수 이다. ▶TensorBord를 사용하기위한 5단계 1. 그래프에서 어떤것을 출력하고 싶은지. - with tf.name_scope("test") as scope : 에서 "test"는 노드의 이름 - tf.histogram_summary("weight",W),tf.scalar_summary("accuracy",accuracy) : sca.. [딥러닝 + TensorFlow] XOR문제 딥러닝으로 풀기 ▶XOR 문제 딥러닝으로 풀기 참고 유튜브 : https://youtu.be/GYecDQQwTdI 하나의 unit으로는 xor문제를 풀기 어려우니 unit여러개를 합쳐야한다. 각각의 weight과 bias는 그렇다면 어떻게 학습시켜야할까? 위에 보이는 세개의 unit으로 xor문제를 풀어보려고한다. 한개의 unit은 2개의 입력과 1개의 출력을 가지고 있다. 처음에는 보라색과 초록색 unit에 0과 0을 넣어보자. 보라색에서는 (0*5 + 0*5) - 8을 해준다. 그러면 -8이 된다. 그렇다면 시그모이드 함수를 보자. 위에 보이는 그림처럼 -3은 0에 가까워져 출력은 0으로 나온다. 이런식으로 초록색도 풀어보면 표가 차례로 채워진다. 표를 보면 xor값과 출력값이 같음으로 위에 unit3개로 xor문제.. [딥러닝+TensorFlow] Tensor Manipulation 참고 동영상:https://youtu.be/ZYX0FaqUeN4 ▶Simple array and slicing 1차원 배열 -1의 의미 : 제일 마지막을 의미 [4:-1] : 5번째부터 마지막 숫자 바로 앞까지 [:2] : (0)처음부터 2번째앞까지 [3:] : 3번째뒤부터 끝까지 ▶2D array shape --> (행, 열) ▶Shape,Rank,Axis shape 배열의 형태를 알려준다. 1차원 : 배열 원소가 4개 라서 4 2차원 뒤에 2는 원소의 개수 앞에 2는 제일 안쪽 대괄호를 나가서 그다음 대괄호안에 배열 갯수 4차원 : 가로를 보면 맨 마지막 4는 배열들의 요소의 개수이다. 그다음 3은 제일 안쪽 대괄호를 나가서 그 다음 대괄호들이 그 다음 대괄호에 몇개로 묶여있는지 보면 3이라는 것을 .. [딥러닝 + TensorFlow] 딥러닝의 기본 개념 참고 동영상 : https://youtu.be/n7DNueHGkqE 뇌 - 뉴런이라는 유닛이 생각보다 단순하게 동작되고있었다. 어떠한 inpu(x)이 있고 w(weight)만큼 이 있다면 x * weight만큼의 신호가 들어오고 각 줄기마다 sum이 일어난다. 그런다음 어떤 bias(b) -->[ x * weight + b]가 합쳐져 어떠한 기준 값 이상이 되면 활성화 되고 이하가 되면 활성화 되지 않는 원리였다. 이것을 우리는 위의 식처럼 만들 수 있는 것이다. ▶ AND / OR problem : linearly separable 아래 그림과 같이 or와 and는 linear 선을 그려서 구분이 가능하지만 xor는 선으로 구분하기에는 애매하다. ▶Backpropagation 이 문제는 아래 그림과 같.. [딥러닝 + TensorFlow] logistic_regression 참고 동영상 https://www.youtube.com/watch?v=PIjno6paszY&list=TLPQMjAwMjIwMjCWs70029iMMA&index=2 ▶ Classification 예시 Spam Detection: Spam or Ham 즉, 스팸 이메일이냐 아니냐 Facebook feed : show or hide facebook의 많은 타임라인의 게시물 거르기 Credit Card Fraudulent Transaction detection : legitimate/fraud 신용카드가 도난되있을 시 사용 패턴이 다를때 이상감지 ▶ 0, 1 encoding Spam(0) or Ham(1) show(0) or hide(1) legitimate(0)/fraud(1) 위에 있는 예시 들만 봐도 대충.. [딥러닝 + TensorFlow] multi-variable linear regression 요즘 머신러닝 학습을 위해서 이것저것 들어보았는데 그나마 가장 이해가 잘 되는 동영상을 찾았다. https://www.youtube.com/watch?v=kPxpJY6fRkY&list=PLlMkM4tgfjnLSOjrEJN31gZATbcj_MpUm&index=8 ▶ linear regression 에서 가장 중요한 3가지 Hypothesis – 가설 Cost function (제곱) : U자형 그래프가 나옴 Gradient descent algorithm (cost 최적화) : 경사면을 미적분을 구해 W와 B의 최적화 값을 찾는다. 좀더 자세한 설명은 위에 첨부한 유튜브 강의에 Lec02와 Lec03을 참고하길 바란다. ▶ input이 여러개가 된다면? 위에 보이는 그림과 같이 그전에는 하나의 input만.. [부스트코스 TensorFlow] Machine Learning 용어 와 개념과 Simple Linear Regression 1. 머신 러닝이란 -Limitation of explict programing Spam filter : 규칙이 너무 많음 Automatic driving : 이것또한 규칙이 많음 결국 ..프로그래머가 배우지 않고 프로그램이 데이터를 가지고 학습하게 하자 Supervised learning 예를 들어 고양이 사진을 많이 가지고 학습시키면 어떠한 고양이 사진이라도 고양이라고 인식하게함. Unsupervised learning 자동적으로 유사한 것들을 모음. (구글 뉴스, 단어 등등... ) 즉, 데이터를 보고 스스로 학습 2. Supervised learning Traning data set : 아래 그림과 같이 특정 입력 값에 대해 결과값이 정해져 있는 데이터 모음을 말하는 것. 결과에 따라 3가지 분류.. 이전 1 2 다음
