티스토리

좀 만 더..

검색하기

블로그 홈

좀 만 더..

hu-bris.tistory.com/m

기술블로그

구독자: 1

방명록 방문하기

주요 글 목록

자율 창고 로봇 프로세스 최적화를 위한 Q-Learning 구현 유데미 강의를 보고 실습할 수 있는 자료가 있어 공부하여 코드 분석을 하였다.Problem to solve이런 창고가 있고 창고에는 다른 제품들을 각 12개의 구역에 보관한다.12개의 구역은 각각 A부터 L까지로 나눠져있다고 한다.여기서 각 구역 별로 우선 순위가 정해져 있다.G구역이 최우선 순위이고, 차우선 순위는 K구역이다.Environment to define가장 먼저 해야 할 것은 환경을 정의하는 것이다.그리고 환경을 정의하려면 항상 3가지 요소가 있어야 한다.상태 state 정의행동 action 정의보상 reward 정의Defining the states상태는 A부터 L까지 있으며 문자 그대로 하는 것보다 인덱스로 매핑하는 것은 추후에 정의할 보상 행렬과 Q 행렬을 사용하기 때문이다.상태는 구역.. 공감수 0 댓글수 1 2025. 2. 20.
시간적 차이 Temporal Difference 이번에는 시간적 차이에 대해서 공부하려고 한다.Temporal Difference는 큐러닝 알고리즘의 전부나 다름없다.이전까지 공부했던 가치를 계산하는 방법은 아래와 같다.Q값을 사용한 벨만 방정식이다.이 방정식은 비결정적 탐색, 즉 어디로 갈지 모르기 때문에 다른 행동들의 확률의 값의 합을 구해서 사용했다.여기서 간단하게 쉽게 이해할 수 있도록 결정론적 탐색의 공식으로 바꿔보자.그림으로 이해해보도록 하자.현재 파랑공이 있는 블록에서 위로 가는 행동이 있다고 하자. 그러면 새로운 가치가 계산될 것이다.좌항, Q(s, a)는 행동을 수행하기 전이며, 이전의 학습 경험을 통해 가지고 있는 Q값이다.\( R(s, a) + \gamma max_{a'} Q(s', a') \) 는 행동을 수행하고 다음 상태로 갔다.. 공감수 0 댓글수 0 2025. 2. 18.
상태가치함수와 행동가치함수(Q함수) 이전의 포스팅을 보면 전부 V(s)를 구하는 것으로 되어 있다.2025.02.17 - [AI/RL] - 마르코프 의사결정 과정(MDP) 마르코프 의사결정 과정(MDP)마르코프 의사결정 과정(Markov Dicision Process, MDP)은 순차적인 의사결정 문제를 수학적으로 모델링하는 방법이다.이는 강화학습에서 핵심 개념으로 사용되며, 에이전트가 환경과 상호 작용하면서hu-bris.tistory.com지금까지는 특정 상태가 되었을 때의 가치에 대해 공부했다.이제는 Q를 활용하여 Q-Learning에 더 가까워져보려고 한다.Q가 무엇인가?큐러닝에 Q가 무엇일까?지금까지 각 상태의 가치를 보고 정책을 정한다고 하면, 이제는 각 행동의 가치를 보는 것이다.이제 V는 상태 가치를 나타내니 쓰지 않고 Q를 .. 공감수 0 댓글수 0 2025. 2. 18.
[RL] Living Penalty Living Penalty강화학습을 단순하게 접근했을 때는 최종 블록, 즉 목표 블록에 도달하면 +1 보상을 얻거나 불구덩이에 닿으면 -1 보상을 얻는 것이다.좀 더 현실적으로 들어가서 게임이 끝나는 지점뿐만 아니라 탐색 과정에서도 보상을 받도록 하는 것이다.예를 들어 총 게임에서 누군가에게 총을 쏘고 적을 죽였으면 점수를 획득할 수 있을 것이다. 다른 게임에서는 다른 차를 추월하면 점수를 얻을 수도 있을 것이다.이를 강화학습에도 적용할 수 있다. 이전에 많이 사용했던 미로를 예시로 들어보자.최종 블록에 +1 보상이 있고 다른 최종 블록에는 -1 보상이 있다.이외의 나머지 블록에는 -0.04의 보상이 있다고 추가해보자.그렇다면 에이전트가 돌아다닐수록 - 보상이 누적될 것이고 그렇기 때문에 에이전트는 최대.. 공감수 2 댓글수 1 2025. 2. 18.
Plan과 Policy 강화 학습의 Plan과 Policy에 대한 이해강화학습은 에이전트가 환경과 상호작용하며 보상을 최대화하는 방향으로 학습하는 방법이다.이때 Plan과 Policy는 에이전트의 학습과 행동 결정에 중요한 역할을 한다.Plan (계획)계획 Plan은 에이전트가 목표를 달성하기 위해 미래를 예측하고 행동 순서를 계획하는 과정, 즉 미래의 행동을 미리 설계하는 과정을 의미한다.일반적으로 환경의 모델(전이 확률과 보상 정보 등)을 알고 있을 때, 최적의 행동 경로를 계획하는 과정에서 사용된다.모델 기반 강화학습에 주로 사용되며, 모델 기반 강화학습은 환경 모델을 이용하여 Plan을 수립하고, 이를 바탕으로 Policy를 학습하는 방법이다.Policy (정책)정책 Policy는 에이전트가 특정 상태에서 어떤 행동을 .. 공감수 0 댓글수 1 2025. 2. 18.
마르코프 의사결정 과정(MDP) 마르코프 의사결정 과정(Markov Dicision Process, MDP)은 순차적인 의사결정 문제를 수학적으로 모델링하는 방법이다.이는 강화학습에서 핵심 개념으로 사용되며, 에이전트가 환경과 상호 작용하면서 최적의 행동을 학습하는 데 활용된다.결정적 탐색(Deterministic Exploration)과 비결정적 탐색(Non-Deterministic Exploration)결정적 탐색(Deterministic Exploration)걸졍적 탐색이란 주어진 상태에서 특정 행동을 취했을 때 정확히 어떤 상태로 전이될지 알 수 있는 환경에서 목표 상태를 찾는 과정이다. 즉, 모든 것이 예측 가능하고 불확실성이 전혀 없는 상황에서 최적의 경로를 찾는 문제이다.예를 들면, 만약 에이전트가 위로 가기로 결정하면 1.. 공감수 0 댓글수 0 2025. 2. 17.
벨만 방정식 Conceptss : State에이전트의 상태나 다른 모든 상태를 의미a : Action에이전트가 수행할 수 있는 행동을 의미다양한 상태 조합 속에서 행동이 수행되는 걸 관찰할 때 행동이 중요한 역할을 한다.특정 상태에 있고, 행동을 관찰한다면 그 행동의 결과가 어떨지 알 수 있다.상태에 대해 모른 채로 행동 자체만 관찰한다면 결과를 알 수 없을 것이다. 지금 어디에 있으며 어떻게 하면 될지 모르니깐R : Reward에어전트가 특정 상태에 도달하면 얻는 보상을 의미\( \gamma \) : Discount감마는 할인 계수이다.Bellman Equation벨만 방정식은 리차드 어니스트 벨만이 만들어낸 개념이다.미로에서 흰색 블록은 에이전트가 접근할 수 있는 블록이다.보라색 블록은 접근할 수 없는 블록이다,.. 공감수 0 댓글수 0 2025. 2. 17.
LeNet으로 교통 신호 분류하기 Overview교통 표지판 분류는 자율 주행 자동차에 중요한 과제이다.이 프로젝트에서는 LeNet이라는 딥 네트워크를 교통 표지판 이미지 분류에 사용한다.데이터 세트에는 43개의 서로 다른 이미지 클래스가 포함되어 있다.클래스는 아래와 같다.( 0, b'Speed limit (20km/h)') ( 1, b'Speed limit (30km/h)') ( 2, b'Speed limit (50km/h)') ( 3, b'Speed limit (60km/h)') ( 4, b'Speed limit (70km/h)')( 5, b'Speed limit (80km/h)') ( 6, b'End of speed limit (80km/h)') ( 7, b'Speed limit (100km/h)') ( 8, b'Speed lim.. 공감수 1 댓글수 0 2025. 2. 17.
Prophet으로 시카고 범죄율 예측하기 Import Libraryimport pandas as pd import numpy as np import matplotlib.pyplot as pltimport seaborn as snsfrom prophet import Prophet위의 네개의 라이브러리는 데이터 분석 및 시각화 처리를 하기 위해서는 필수적이라고 생각하면 되고, 가장 중요한 것은 시계열 예측을 하기 위한 prophet을 설치해야 한다. 원래 이름은 fbprophet이었는데 지금은 prophet으로 설치해야 한다.Importing Datachicago_df_1 = pd.read_csv('Chicago_Crimes_2005_to_2007.csv', on_bad_lines='warn')chicago_df_2 = pd.read_csv('Ch.. 공감수 0 댓글수 0 2025. 2. 17.
모델 성능평가 척도 모델 성능평가 지표모델 성능평가 지표, 이 사진을 많이 봤을 것이다. 제대로 이해해보려고 한다.True Positive, TP : 모델이 예측을 맞췄고 양성으로 예측을 했다는 뜻True Negative, TN : 모델이 예측을 맞췄고 음성으로 예측했다는 뜻False Positive, FP : 모델이 예측을 틀렸고 양성으로 예측했다는 뜻False Negative, FN : 모델이 예측을 틀렸고 음성으로 예측했다는 뜻위에 설명한 것처럼 모델이 예측을 성공했는지 틀렸는지가 먼저 들어가고 모델이 예측한 것을 뒤에 넣는다.정확도(Accuracy)모델이 정확히 분류 또는 예측한 데이터의 비율이다.그래서 식은 다음과 같이 된다.$$ \frac{TP + TN}{TP + TN + FP + FN} $$여기서 정확도는 2 .. 공감수 0 댓글수 0 2025. 2. 11.
Dicision Trees Stanford 대학의 CS229 머신러닝 강의에서 Lecture 10에 나오는 Dicision Tree에 대해서 보고 정리한 것이다.Dicision Tree시간과 위치(위도)가 주어지면 스키를 탈 수 있는지 없는지를 알려주는 분류기가 있다고 가정하자.위도는 남극의 음극의 90도부터 북극의 양극의 90도까지 있다.북극은 연초와 연말에 추우니 탈 수 있다, 남극은 반대로 된다. 적도는 항상 더우니 탈 수 없다.그래서 위와 같은 그래프가 나오게 된다.의사결정 트리로 무엇을 하고 싶은지 정확히 밝히려면 공간을 개별 영역으로 분할해야 한다. 우리가 의사결정 트리를 사용하는 방법은 기본적으로 Greedy하고, Top-Down, Recursive Partitioning가 있다.먼저 위도가 30도 보다 큰지에 대해.. 공감수 1 댓글수 0 2025. 2. 9.
4th course: Special applications: Face recognition & Neural style transfer (C4W4L01 ~ C4W4L11) C4W4L01 What is face recognition이 강의은 얼굴 인식에 대한 소개입니다. 얼굴 인식은 컴퓨터 비전의 한 분야로, 이미지나 비디오에서 사람의 얼굴을 식별하는 기술입니다. 얼굴 인식은 다양한 분야에서 활용되고 있으며, 대표적인 예로는 보안 시스템, 출입 통제, 금융 서비스 등이 있습니다.얼굴 인식 시스템은 크게 두 가지 단계로 구성된다. 첫 번째 단계는 얼굴 검출이다. 얼굴 검출은 이미지나 비디오에서 얼굴이 있는지 여부를 판단하고, 얼굴의 위치를 찾는 과정이다. 두 번째 단계는 얼굴 인식이다. 얼굴 인식은 검출된 얼굴의 특징을 분석하여 개인을 식별하는 과정이다.얼굴 인식 시스템의 성능은 다양한 요인에 의해 결정된다. 대표적인 요인으로는 조명, 표정, 각도, 피부색 등이 있다. 이러한.. 공감수 4 댓글수 0 2025. 2. 5.
4th course: Object detection (C4W3L01 ~ C4W3L10) C4W3L01 Object Localization최근 컴퓨터 비전 분야에서는 단순한 이미지 분류를 넘어, 이미지 내 물체의 위치까지 정확히 파악하는 물체 감지(Object Detection) 기술이 큰 주목을 받고 있습니다. 이번 포스팅에서는 물체 감지의 핵심 개념인 로컬리제이션 분류(Localization Classification)와, 이를 구현하기 위한 신경망 설계의 기본 아이디어를 살펴보겠습니다.물체 감지와 로컬리제이션 분류란?일반적인 이미지 분류 문제에서는 신경망이 이미지를 보고 "이것은 자동차다"와 같이 한 가지 레이블을 예측한다. 그러나 물체 감지 문제에서는 단순히 무엇이 있는지를 분류하는 것을 넘어,물체의 존재 여부,물체의 종류 (예: 보행자, 자동차, 오토바이 등),그리고 물체의 위치를 .. 공감수 2 댓글수 0 2025. 2. 3.
4th course: Deep Convolutional models: case studies (C4W2L01 ~ C4W2L11) C4W2L01 Why look at case studies?이번 영상에서는 지금까지 배운 합성곱 층, 풀링 층, 완전 연결 층을 어떻게 조합하여 효과적인 합성곱 신경망을 만들 수 있는지 다양한 사례를 통해 알아봅니다.주요 모델 소개LeNet-5: 초기의 대표적인 CNN 모델로, 손글씨 숫자 인식에 사용되었다.AlexNet: ImageNet 대회에서 우승하며 큰 주목을 받은 모델로, 깊은 신경망의 가능성을 보여주었다.VGG: AlexNet을 발전시킨 모델로, 더 깊고 정교한 구조를 가지고 있다.ResNet: 매우 깊은 신경망에서 발생하는 그래디언트 소실 문제를 해결하기 위해 residual connection을 도입한 모델이다.Inception: 다양한 크기의 필터를 사용하여 특징을 추출하는 Incepti.. 공감수 1 댓글수 0 2025. 2. 2.
4th course: Foundations of Convolutional Neural Networks (C4W1L01 ~ C4W1L11) C4W1L01 Computer Vision딥러닝 시대를 이끄는 컴퓨터 비전이 강의는 딥러닝 시대에 빠르게 발전하고 있는 컴퓨터 비전 분야의 핵심 기술인 합성곱 신경망에 대한 소개로 시작한다. 컴퓨터 비전은 자율주행 자동차, 얼굴 인식, 이미지 검색 등 우리 삶의 다양한 영역에서 활용되고 있으며, 딥러닝 기술의 발전으로 더욱 정교하고 다양한 기능을 구현할 수 있게 되었다.컴퓨터 비전의 중요성과 합성곱 신경망의 등장강의에서는 컴퓨터 비전이 중요한 이유로 다음 두 가지를 제시한다.새로운 애플리케이션의 탄생: 컴퓨터 비전의 발전은 자율주행, 얼굴 인식, 스타일 변환 등 몇 년 전에는 상상하기 어려웠던 새로운 애플리케이션을 가능하게 만들었다.다른 분야에 대한 영향: 컴퓨터 비전에서 개발된 기술들은 음성 인식 등 .. 공감수 5 댓글수 0 2025. 2. 2.
2nd course: Hyperparameter Tuning, Batch Normalization and Programming Frameworks (C2W3L01 ~ C2W3L10) Tuning Process (C2W3L01)딥러닝 모델을 학습시키는 과정에서 가장 어려운 부분 중 하나는 하이퍼파라미터 튜닝입니다. 학습률, 모멘텀, 은닉층의 개수 등 다양한 하이퍼파라미터 값에 따라 모델 성능이 크게 달라지기 때문입니다. 이번 글에서는 딥러닝 모델의 성능을 최대한 끌어올리기 위한 효과적인 하이퍼파라미터 튜닝 방법에 대해 알아보겠습니다.하이퍼파라미터란 무엇일까?하이퍼파라미터는 모델 학습 과정에서 직접적으로 학습되지 않고, 사용자가 직접 설정해야 하는 값이다. 대표적인 하이퍼파라미터로는 다음과 같은 것들이 있다.학습률(Learning rate) : 모델이 학습하는 속도를 조절하는 값모멘텀(Momentum) : 경사 하강법의 수렴 속도를 높이는 데 사용되는 값미니배치 크기 : 한 번에 학습하.. 공감수 0 댓글수 0 2025. 2. 1.
2nd course: Optimization algorithms (C2W2L01 ~ C2W2L09) Mini Batch Gradient Descent (C2W2L01)신경망 훈련은 많은 실험과 반복을 거쳐야 하는 과정이므로, 모델을 빠르게 훈련시키는 것이 매우 중요하다. 특히 딥러닝이 빅데이터에서 뛰어난 성능을 보이는 만큼, 대규모 데이터셋에서의 훈련은 종종 느리고 비효율적인 과정이 될 수 있다. 미니배치 경사 하강법(Mini-batch Gradient Descent)은 이러한 문제를 해결하고 훈련 속도를 향상시키는 데 효과적인 방법이다.배치 경사 하강법미니 배치 경사하강법을 알기 전에 배치 경사하강법에 대해 간단하게 알고 가는 것일 좋을 것 같다.배치 경사 하강법은 전체 훈련 데이터셋을 한 번에 사용하여 경사 하강법을 수행하는 방식이다. 즉, 모든 데이터를 처리한 후 가중치를 업데이트한다.전체 데이터.. 공감수 0 댓글수 0 2025. 1. 30.
2nd course: Practiccal aspectes of Deep Learning (C2W1L10 ~ C2W1L14) Vanishing/Exploding Gradients (C2W1L10)딥러닝 모델, 특히 심층 신경망(Deep Neural Network)을 훈련하는 과정에서 경사 소실(Vanishing Gradient) 및 경사 폭발(Exploding Gradient) 문제는 흔히 발생한다. 이 두 가지 문제는 모델의 깊이가 깊어질수록 더욱 심각해지며, 훈련을 어렵게 만드는 주요 요인으로 작용한다.경사 소실 및 폭발 문제란 무엇인가?경사 소실 및 폭발 문제는 역전파(Backpropagation) 과정에서 계산되는 미분값, 즉 기울기가 너무 작아지거나 너무 커지는 현상을 의미한다. 경사 소실: 기울기가 너무 작아지면 가중치 업데이트가 제대로 이루어지지 않아 학습이 매우 느려지거나 멈춰버리는 문제가 발생한다.경사 폭발: .. 공감수 0 댓글수 1 2025. 1. 30.
Normalizing Inputs (C2W1L09) 신경망을 훈련할 때 학습 속도를 높이는 방법 중 하나는 입력 데이터를 정규화(Normalization)하는 것이다. 이번 글에서는 입력 정규화의 개념과 이를 통해 얻을 수 있는 이점에 대해 살펴보자.NormalizationNormalization은 훈련 데이터를 특정한 분포로 변환하는 과정이다. 일반적으로 평균을 0으로 설정하고, 분산을 1로 맞추는 방식을 사용한다. 이를 통해 데이터가 일관된 범위를 갖도록 조정할 수 있다.정규화 과정입력 정규화, 즉 Normalization은 일반적으로 두 단계를 거쳐 이루어진다.평균 제거훈련 데이터셋의 각 특성별 평균을 계산하고, 각 데이터 포인트에서 해당 평균값을 빼준다. 이를 통해 모든 특성의 평균을 0으로 맞춘다.$$ \mu = \frac{1}{m} \sum_{.. 공감수 0 댓글수 0 2025. 1. 30.
Other Regularization Methods (C2W1L08) 이번 강의에서는 L2 정규화와 드롭아웃 정규화와 더불어 신경망의 과대적합을 줄이는 다른 기법들을 알아본다.Data augmentation첫 번째 방법은 더 많은 데이터를 추가하는 것이다. 많은 데이터가 과대적합을 해결하는데 도움을 줄 수 있지만 많은 비용이 들어가거나 불가능한 경우가 있다. 그러면 수평 방향으로 뒤집은 이미지를 훈련 세트에 추가시켜 데이터를 늘리는 방법도 있다. 그러나 새로운 고양이 사진을 더 많이 구하지 않고 할 수 있는 방법이지만 새로운 m개의 독립적인 샘플을 얻는 것보다 이 방법은 중복된 샘플들이 많아져 좋지 않다. 이 방법 외에도 무작위로 이미지를 편집해 새로운 샘플을 얻을 수도 있다. 이런 추가적인 가짜 이미지들은 완전히 새로운 독립적인 고양이 샘플을 얻는것보다 더 많은 정보를 .. 공감수 0 댓글수 0 2025. 1. 28.
Understanding Dropout (C2W1L07) 이번 강의에서는 신경망의 뉴론을 삭제하는 이상한 기법인 드롭아웃이 왜 정규화가 될까에 대한 이유를 담고 있는 강의이다.첫 번째 직관은 더 작고 간단한 신경망을 사용하는 것이 정규화 효과를 주는 것이고, 이번 영상에서는 두 번째 직관에 대해서 설명한다.드롭아웃이 정규화가 되는 이유단일 유닛의 관점에서 이 유닛은 입력을 받아 의미있는 출력을 생성해야 한다.드롭아웃을 통해 입력은 무작위로 삭제될 수 있다. 단일 유닛은 특성이 무작위로 바뀌거나 고유한 입력이 무작위로 바뀔 수 있기 때문에 어떤 특성에도 의존할 수 없다.따라서 이 특정 입력에 모든 것을 걸 수 없는 상황이다. 즉, 특정 입력에 유난히 큰 가중치를 부여하기가 꺼려지는 상황인 것이다.그래서 이 네 개의 입력 각각에 가중치를 분산시키는 편이 낫다.가중.. 공감수 0 댓글수 0 2025. 1. 28.
Dropout Regularization (C2W1L06) L2 정규화 외에 또 다른 매우 강력한 정규화 기법은 드롭아웃(Dropout)이다.드롭아웃(Dropout)드롭아웃은 딥러닝 모델의 학습 과정에서 일부 뉴런을 임의로 비활성화시키는 기법이다. 마치 신경망의 일부를 랜덤하게 떼어내 학습시키는 것과 같다. 이를 통해 모델이 특정 뉴런에 과도하게 의존하는 것을 방지하고, 다양한 뉴런의 조합을 학습하게 함으로써 모델의 일반화 성능을 향상시킨다.사진에서 왼쪽의 신경망을 그대로 복사해서 드롭아웃을 적용해보자.먼저 신경망의 각각의 층에 대해 노드를 삭제하는 확률을 설정하는 것이다.강의에서는 0.5의 확률로 했다. 각 노드를 돌면서 0.5의 확률로 노드를 유지하거나 0.5의 확률로 노드를 삭제하도록 설정한다.노드가 삭제되면 삭제된 노드에 연결되어 있는 링크도 같이 삭제가.. 공감수 0 댓글수 0 2025. 1. 28.
Why Regularization Reduces Overfitting (C2W1L05) 딥러닝 모델을 훈련할 때 흔히 발생하는 문제 중 하나는 과대적합(Overfitting)이다. 과대적합은 모델이 훈련 데이터에는 지나치게 잘 맞지만, 새로운 데이터에 대해서는 제대로 일반화하지 못하는 현상을 의미한다. 이 포스팅에서는 Andrew Ng 교수님의 강의 내용을 바탕으로 정규화가 어떻게 과대적합을 해결하는지 살펴보자.정규화가 과대적합을 줄이는 이유정규화는 \( \lambda \) 값을 조절하여 가중치 \( w \)를 제한한다. \( w \) 가 작아지면, 신경망의 복잡도가 줄어들고 단순한 모델이 되기 때문에 과대적합이 감소한다. 구체적으로는 다음과 같은 과정을 거칩니다. \( \lambda \) 값을 증가시키면 \( w \) 가 0에 가까운 값으로 설정된다.이는 은닉 유닛(hidden unit.. 공감수 0 댓글수 0 2025. 1. 27.
Regularization (C2W1L04) 높은 분산으로 신경망이 데이터를 과대적합하는 문제가 의심된다면 가장 처음 시도해야 할 것은 정규화이다. 높은 분산을 해결하는 다른 방법은 더 많은 훈련 데이터를 얻는 것이다. 꽤 믿을만한 방법이지만 더 많은 훈련 데이터를 얻는 것은 비용이 많이 들어가기 마련이다. 그러나 정규화를 추가하는 것은 과대적합을 막고 신경망의 분산을 줄이는데 도움이 된다.강의에서는 로지스틱 회귀를 사용해 방법을 제시하였다.Logistic Regression에서의 정규화 (Regularization)비용 함수의 기본 형태Logistic Regression의 기본 비용 함수는 다음과 같이 정의된 비용함수 J를 최소화하는 것이다.$$ J(\omega, {\small b} ) = \frac{1}{m} \sum_{i=1}^{m} L(\h.. 공감수 0 댓글수 0 2025. 1. 27.
Basic Recipe for Machine Learning (C2W1L03) 신경망 훈련의 기본 레시피최초의 모델을 훈련하고 난 뒤 처음으로 질문하는 것은 알고리즘이 높은 편향을 가지는지, 높은 편향을 평가하기 위해서는 훈련 세트 혹은 훈현 데이터의 성능을 봐야 한다. 편향 문제높은 편향 문제가 발생한다면 아래와 같이 문제를 해결할 수도 있다.더 많은 은닉 층 혹은 은닉 유닛을 갖는 네트워크를 선택더 오랜 시간 훈련시키거나 다른 발전된 최적화 알고리즘을 사용다른 신경망 네트워크를 사용다른 신경망 네트워크를 사용하는 것은 작동되게 할 수도, 그렇지 않을 수도 있다.분산 문제높은 분산를 평가하기 위해서 개발 세트 성능을 보게 된다.꽤 좋은 훈련 세트 성능에서 꽤 좋은 개발 세트 성능을 일반화할 수 있는지를 봐야 한다.높은 분산 문제가 발생한다면 아래와 같이 문제를 해결할 수 있다.데.. 공감수 0 댓글수 0 2025. 1. 26.
Bias/Variance (C2W1L02) 편향(Bias)과 분산(Variance)에 대한 개념을 알고 훈련 세트와 개발 세트의 오차를 통해 편향과 분산이 어떤지를 알아보고 추후 연구에 적용시켜볼 수 있도록 할 수 있다. 먼저 고양이를 분류하는 경우를 가정하자.고양이는 \( y = 1 \), 개는 \( y = 0 \) 높은 분산(high variance) 훈련 셋에서 에러률이 1%이고, 개발 셋에서는 11%라고 해보자.따라서 이 같은 예제에서 훈련 셋에서는 매우 잘 분류됐지만 상대적으로 개발 셋에서는 잘 분류되지 못한 경우이다.즉, 훈련 셋에 과대적합(Overfitting)이 되어서 개발 셋에서 일반화되지 못한 경우이다. 따라서 이런 경우의 예제는 높은 분산(high variance)을 갖는다고 말한다.높은 편향(high bias)다음은 훈련 셋.. 공감수 1 댓글수 0 2025. 1. 26.
Train/Dev/Test Sets (C2W1L01) Andrew Ng 교수님의 딥러닝 강의를 들으면서 내용 정리를 하려고 한다.신경망을 훈련시키려면 많은 것을 결정해야 한다.예를 들어 layers, hidden units, learning rates, activation functions 등이 있다.신경망이 몇 개의 층을 가지는지, 각각의 층이 몇 개의 은닉 유닛을 가지는지, 학습률이 무엇인지, 서로 다른 층에 사용되는 활성화 함수는 무엇인지 등을 결정해야 한다.처음 애플리케이션을 시작할 때, 한번에 적절한 값들을 찾는 것은 어렵다. 따라서 실질적으로 머신러닝을 적용하는 것은 위 사진과 같이 아이디어를 내고 코드를 작성하고 시험을 돌리는 이 과정이 매우 반복적인 과정이다.Train, Dev, Test Sets를 잘 설정하는 것은 과정을 더 효율적으로 만든.. 공감수 3 댓글수 0 2025. 1. 26.
로지스틱 회귀 (Logistic Regression) 분류 모델 (Classification)로지스틱 회귀는 분류 문제를 해결하는데 탁월한 해결법이다.먼저 분류에 대해서 알아보자.분류에는 연속적인 값으로 예측 값을 유추해 내는 것이 아닌 이분법적으로 예측하는 것이다.예를 들어보자.Spam Detection : Spam or HamFacebook Feed : Show or HideCredit Card Fraudulent Transaction Detection : Legitimate or Fraud로지스틱 회귀먼저 선형회귀와의 차이점을 알아보자.선형 회귀는 연속형 데이터를 예측하기 위한 모델인 반면, 로지스틱 회귀는 특정 범주로 데이터를 분류합니다. 주요 차이점은 출력값의 범위이다.선형 회귀: 출력값은 실수 범위.로지스틱 회귀: 출력값은 0과 1 사이의 확률.. 공감수 0 댓글수 0 2025. 1. 25.
선형회귀와 경사하강법 서론머신러닝의 기초를 이루는 알고리즘 중 하나인 선형회귀(Linear Regression)는 데이터를 분석하고 미래를 예측하는 데 있어 가장 기본적인 알고리즘이다.선형회귀는 주어진 데이터를 기반으로 직선 형태의 관계를 학습하여 독립변수(입력: \( x \))와 종속변수(출력: \( y \)) 간의 연관성을 찾아내는 모델이다. 이를 통해 데이터의 패턴을 이해하고, 미래 값을 예측해 낼 수 있다.선형회귀 모델이 효과적으로 작동하기 위해서는 데이터를 통해 최적의 모델 파라미터(기울기: \( \omega \), 절편, 가중치: \( {\small b} \) )를 찾는 과정이 필수적이다.선형회귀 선형회귀(Linear Regression)의 핵심을 입력 변수와 출력 변수 간의 선형적인 관계를 모델링하는 것이다.주어.. 공감수 0 댓글수 0 2025. 1. 24.
인공지능, 머신 러닝, 딥 러닝 차이점은? 인공 지능(AI), 머신 러닝(ML), 딥 러닝(DL)의 공통점인공지능, 머신러닝, 딥러닝의 각각의 차이점을 먼저 알기 전에 셋의 공통점을 알아야 할 것 같다.인공지능, 머신러닝, 딥러닝은 모두 컴퓨터가 사람처럼 학습하고 문제를 해결할 수 있도록 만드는 기술이다. 이들은 서로 계층적인 관계를 가지며, 딥러닝은 머신러닝의 하위 개념이고, 머신러닝은 인공지능의 하위 개념에 속한다. 모두 데이터와 연산 능력을 활용해 패턴을 학습하고 예측하는 데 초점이 맞춰져 있다.인공 지능(Artificial Intelligence)이란?인공지능(AI, Artificial Intelligence)은 컴퓨터가 의사 결정, 텍스트 처리, 시각적 인식과 같은 인간의 지능을 모방할 수 있도록 하는 과학이다. AI는 머신 러닝, 로봇.. 공감수 2 댓글수 0 2025. 1. 12.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.