[TIL] 내일배움캠프 AI 9기 - 20회

🐶 학습 범위

• 스탠다드반 
• 자가 검진 테스트

 

🐶 학습 내용

✨ 스탠다드

✔️ 가설식 (Hypothesis)

  1. 수식
    - H(x) = wx + b (w: 가중치/모델파라미터, x: 입력변수)

  2. 개념
    - 모델이 데이터로부터 학습하여 만들어진 예측 함수
    - 함수는 주어진 입력 데이터에 대해 특정 출력(예측 결과)을 계산
    - 파라미터들을 조정하면서 학습 데이터에 가장 잘 맞도록 모델을 훈련하며 계속 업데이트

✔️ 경사하강법(Gradient Descent)

  1. 개념
    - 함수의 최소값을 찾기 위해 사용되는 최적화 알고리즘
    - 비용 함수(cost function) 또는 손실 함수(loss function)의 최소값을 찾기 위해 사용
    - 머신 러닝과 딥러닝 모델에서 파라미터를 조정하는 데 사용

  2. 원리
    1) 함수의 기울기(gradient)를 계산
    2) 기울기가 가리키는 방향(함수값이 가장 빠르게 증가하는 방향의 반대 방향)으로 일정 거리만큼 이동
    3) 이 과정을 반복하면서 점차적으로 함수의 최소값에 도달
    
  3. 과정
    1) 초기 파라미터 선택
    2) 기울기 계산 (현재 파라미터에서 비용 함수의 기울기(미분값)를 계산)
    3) 파라미터 업데이트
        > 계산된 기울기의 반대 방향으로 파라미터를 업데이트
        > 업데이트의 크기를 결정하는 것이 학습률(learning rate)
    4) 반복
        > 위의 단계를 손실 함수의 값이 충분히 낮아질 때까지, 또는 다른 종료 조건을 만족할 때까지 반복

✔️ 퍼셉트론(Perceptron)

  1. 개념
    - 인공신경망의 가장 기본적인 형태 중 하나
    - 간단한 이진 분류 문제를 해결할 수 있는 알고리즘
    - 입력에 가중치를 곱한 후, 그 합을 활성화 함수에 통과시켜 출력을 생성

  2. 알고리즘
    1) 초기화
    2) 예측
    3) 가중치 업데이트

  3. 제한 사항
    - XOR 문제와 같이 선형적으로 분리할 수 없는 데이터 셋 처리 불가

✔️ 다층 퍼셉트론(Multilayer Perceptron, MLP)

  1. 개념
    - 퍼셉트론을 확장한 구조로, 여러 개의 층과 노드(뉴런)로 구성된 인공 신경망
    - 각 층마다 여러 뉴런이 있으며, 뉴런들은 전층의 출력에서 입력을 받아 처리
    - 비선형 문제를 해결할 수 있게 하며, 복잡한 패턴 인식과 분류 작업에 효과적

  2. 구조
    - 입력층(Input Layer)
      > 실제 입력 데이터를 받는 층
    - 은닉층(Hidden Layers)
      > 입력층과 출력층 사이에 위치하며, 하나 이상 존재할 수 있음
      > 은닉층은 데이터의 추상적인 특징을 학습
      > 각 노드는 가중치와 바이어스를 통해 입력을 처리
    - 출력층(Output Layer)
      > 최종 예측 결과를 생성하는 층
      > 분류나 회귀 작업의 목적에 맞게 설정

  3. 학습 과정 (주로 역전파 알고리즘을 사용하여 진행)
    1) 전방향 전파(Forward Propagation)
      > 입력 데이터가 네트워크를 통해 전방향으로 흐르며, 각 층의 출력을 계산
    2) 손실 계산(Loss Calculation)
      > 네트워크의 출력과 실제 레이블 간의 오차(손실)를 계산
    3) 역전파(Backpropagation)
      > 손실 함수의 그래디언트를 계산
      > 이를 사용하여 네트워크의 가중치와 바이어스를 업데이트
      > 이 과정은 출력층에서부터 시작하여 입력층 방향으로 진행
    4) 가중치 업데이트(Weight Update)
      > 계산된 그래디언트를 사용하여 각 노드의 가중치와 바이어스를 조정

  4. 응용
    - 음성 인식, 이미지 인식, 금융 예측 등 다양한 분야에서 활용
    - 패턴을 인식하고 분류하는 데 강력
    - 복잡한 비선형 관계 모델링 가능

 

 

🐶 느낀점

1. 난 글렀다..