본문 바로가기

[ML&DL]

[ML&DL] 2023. 3. 15. [ML&DL] 텍스트를 위한 인공 신경망 [전체흐름 정리] ### 기존 신경망 하나의 샘플을 사용하여 정방향 계산을 수행한 후, 해당 샘플은 버려지고 다음 샘플을 계산할 때 사용하지 않는다. * 피드포이드 신경망 입력 데이터의 흐름이 앞으로만 전달되는 신경망 ### 순환 신경망(recurrent Neural network: RNN) 신경망이 이전에 처리했던 샘플을 다시 샘플 계산 시, 재사용하기 위한 신경망 이전에 처리했던 샘플을 다음 샘플 연산에 표함시키기 위해 순환 시키는 신경망 완전 연결 신경망에 이전 데이터의 처리 흐름을 순환하는 고리 하나만 추가. 주로 은닉층에 추가 # 용어 타임스텝: 샘플을 처리하는 한 단계를 의미 셀: 하나의 층(layer). 여러개의 뉴런이 있지만, 모두 표시하지 않고 하나의 셀로 층을 표현 은닉상태: 셀의 출력..
[ML&DL] 2023. 3. 14. [ML&DL] 이미지를 위한 인공 신경망 1. 합성곱 신경망의 구성 요소 * 합성곱: 이미지 분류에 특화된 신경망 밀집층과 비슷하게 입력과 가중치를 곱하고 절편을 더하는 선형 계산임, 하지만 밀집층과는 달리 각 합성곱은 입력 전체가 아닌 일부만 사용하여 계산을 수행 합성곱 신경망에서 교차상관합성곱 연산)을 사용하는 이유? => 모델의 훈련과정에서 가중치를 업데이트 하는 과정과 유사. * 합성곱 층의 필터는 밀집층의 뉴런에 해당.필터의 가중치와 절편을 종종 커널이라고도 부르며 자주 사용되는 커널은(3,3)이다. * 특성 맵은 합성곱 층이나 풀링 층의 출력 배열을 의미한다. 합성곱 층에서 5개 필터를 적용하면 5개 특성 맵이 만들어짐 * 패딩은 합성곱 층의 입력 주위에 추가한 0으로 채워진 픽셀. 합성곱 층의 출력 크기를 입력과 동일하게 만들기 위..
[ML&DL] 딥러닝 입문
[ML&DL] 2023. 3. 13. [ML&DL] 딥러닝 입문 1. 인공 신경망 * 인공신경망: 생물학적 뉴런에서 영감을 받아 만든 머신러닝 알고리즘, 신경망은 기존의 머신러닝 알고리즘으로 다루기 어려웠던 이미지, 음성, 텍스트 분야에서 뛰어난 성능을 발휘하며 주목 받고 있고 인공 신경망 알고리즘을 딥러닝이라고 부름 * 텐서플로: 딥러닝 라이브러리, 케라스를 핵심 API로 채택하여 모델을 손쉽게 만듬 * 밀집층: 가장 간단한 인공 신경망의 층, 밀집충에서는 뉴런들이 모두 연결되어 있기 때문에 완전 연결 층이라고 부름 * 원-핫 인코딩 * TensorFlow - Dense는 밀집층을 만드는 클래스 - Sequential: 케라스에서 신경망 모델을 만드는 클래스 - compile()은 모델 객체를 만든 후 훈련하기 전에 사용할 손실함수와 측정 지표등을 지정 * loss..
[ML&DL] 2023. 3. 10. [ML&DL] 비지도학습 1. 군집 알고리즘 * 비지도 학습: 훈련데이터에 타깃이 없기 때문에 스스로 유용한 무언가를 학습해야함 * 히스토그램: 구간별로 값이 발생한 빈도를 그래프로 표시한 것 * 군집: 비슷한 샘플끼리 하나의 그룹으로 모으는 대표적인 비지도 학습, 군집 알고리즘으로 모은 샘플 그룹을 클러스터라고 부름 2. k-평균 * k-평균 알고리즘: 랜덤하게 클러스터 중심을 정하고 클러스터를 만들고, 클러스터의 중심을 이동하고 다시 클러스터를 만드는 식으로 반복해 최적의 클러스터 구성 * 클러스터 중심: k-평균 알고리즘이 만든 클러스터에 속한 샘플의 특성 평균값 * 엘보우 방법: 최적의 클러스터 개수를 정하는 방법, 너무 적으면 오차가 크고 너무 많으면 의미없는 클러스터가 많아짐. 따라서 엘보우 지점이 클래스터 개수k *..
[ML&DL] 2023. 3. 9. [ML&DL] 트리 알고리즘 1. 결정 트리 * 결정 트리: 예/아니오에 대한 질문을 이어나가면서 정답을 찾아 학습하는 알고리즘 * 불순도: 결정 트리가 최적이 질문을 찾기 위한 기준 * 정보이득: 부모노드와 자식노드의 불순도 차이 * 가지치기: 결정트리는 제한 없이 성장하면 과대접합되기 쉽기 때문에 가지치기로 성장을 제한 * 특성 중요도: 결정 트리에 사용된 특성이 불순도를 감소하는데 기여한 정도, 쉽게말해 특성이 트리에서 유용했는지를 판단하는 정도 * pandas - info()는 데이터 프레임의 요약된 정보를 출력, 인덱스/컬럼타입/메모리/Null개수 등 - describe()는 데이터프레임의 열의 통계값 제공, 최소/최대/평균/표준편차 등 * scikit-learn - DecisionTreeClassifier: 결정 트리 분..
[ML&DL] 2023. 3. 8. [ML&DL] 다양한 분류 알고리즘 1. 로지스틱 회귀 * 로지스틱 회귀: - 선형 방정식을 사용한 분류 알고리즘 ____ 1 / (1 + np.exp(-z)) - 선형 회귀와 달리 시그모이드 함수나 스프트맥수 함수를 사용하여 클래스 확률을 출력 가능 * 다중 분류: 타깃 클래스가 2개 이상인 분류 문제 * 시그모이드 함수expit(): 선형 방정식의 출력을 0~1 사이로 압축하며 이진 분류를 위해 사용 * 소프트맥스 함수softmax(): 다중 분류에서 여러 선형 방정식의 출력 결과를 정규화하여 합이 1이 되도록 만듬 * scikit_learn - LogisticRegression: 선형 분류 알고리즈인 로지스틱 회귀를 위한 클래스 * solver 매개변수에서 사용할 알고리즘을 선택할 수 있음 * penalty 매개변수에서 L2(릿지),..
[ML&DL] 2023. 3. 7. [ML&DL] 회귀 알고리즘과 모델 규제 1. K-최근접 이웃 회귀 * 회귀: 임의의 수치를 예측하는 문제, 따라서 타깃값도 임의의 수치가 됨 * k - 최근접 이웃 회귀: 가장 가까운 이웃 샘플을 찾고 이 샘플들의 타깃값을 평균하여 에측 * 결정계수(R**2): 대표적인 회귀 문제 성능 측정 도구(0~1클수록 좋음) * 과대적합/과소적합 * scikit-learn - KNeighborsRegressor: k-최근접 이웃 회귀 모델을 만드는 사이킷런 클래스(기본값 = 5) - mean_absolute_error(): 회귀 모델의 평균 절대값 오차를 계산, 매개변수(타깃,예측값) - mean_squared_error(): 타깃과 예측을 뺀 값을 제곱한 다음 전체 샘플에 대해 평균값을 반환 * numpy - reshape(): 배열의 크기를 바꾸는..
[ML&DL] 2023. 3. 6. [ML&DL] 데이터 다루기 1. 훈련 세트와 테스트 세트 비지도학습: 타깃 데이터가 없음, 입력 데이터에서 어떤 특징을 찾는데 활용 훈련세트: 모델을 훈련할 때 사용하는 데이터, 세트가 클 수록 좋고 테스트세트를 제외한 모든 데이터를 사용 테스트세트: 전체 데이터에서 20~30%를 사용하는 경우가 많고, 전체 데이터가 크다면 1%도 상관없음 지도 학습에서는 데이터와 정답을 입력과 타깃이라고 하고 이둘을 합쳐 훈련 데이터라고 부름 from sklearn.neighbors import KNeighborsClassifier # 클래스 임포트 kn = KNeighborsClassifier() # kn객체 생성 kn.fit(train_input, train_target) # 모델 훈련 kn.score(test_input, test_targ..
[ML&DL] 2023. 3. 6. [ML&DL] 입문 1. 인공지능(AI)과 머신러닝(ML), 딥러닝(DL) 인공지능(Artifical Intellignce)이란? 사람처럼 학습하고 추론할 수 있는 자능을 가진 컴퓨터 시스템 또는 기술. 영화 속 인공지능 인공일반지능(Artifical General Intellignce) 또는 강인공지능(String AI) => 사람과 구별하기 어려운 지능을 가진 컴퓨터 시스템 => 예) 영화 '그녀'의 사만다, 터메네이터의 '스카이넷' 등 현실 인공지능 약인공지능(Week AI) => 특정 분야에서 사람의 일을 도와주는 보조 역할만 가능. => 예) 음성비서, 자율주행 자동차, 음악추천, 기계번역 등. 알파고가 대표적 머신러닝(Machine Learning)이란? 일일이 프로그래밍하지 않더라도 자동으로 데이터에서 규칙을 ..

티스토리툴바