본문 바로가기

til20

[TIL] 내일배움캠프 AI 9기 - 23회 🐶 학습 범위스탠다드반 개인 공부 🐶 학습 내용✨ 개인 공부✔️ 위치 인코딩 1. 위치 인코딩 1) 내용 - 트랜스포머에서는 모든 입력을 동시에 처리 - 그 과정에서 순서 정보가 사라짐 - 이때 순서를 추가해주는 역할을 담당 2. 절대적 위치 인코딩(absolute position encoding) 1) 내용 - 입력 토큰의 위치에 따라 고정된 임베딩을 더함 - 토큰과 토큰 사이의 상대적인 위치정보 활용하지 못함 - 긴 텍스트를 추론하는 경우에는 성능이 떨어짐✔️ 토큰화 샘플 코드# 텍스트를 적절한 단위로 나눔 (띄어쓰기 기준)input_text = "나는 최근 파리 여행을 다녀왔다"input_text_list = input_text.split().. 2025. 2. 6.

[TIL] 내일배움캠프 AI 9기 - 22회 🐶 학습 범위스탠다드반 개인 공부 🐶 학습 내용✨ 개인 공부✔️ 토큰 임베딩 1. 임베딩 (embedding) 1) 개념: 데이터를 의미를 담아 숫자 집합으로 변환하는 것 2. 토큰 임베딩 1) 개념: 토큰을 임베딩하는 작업 2) 내용 - 딥러닝 모델이 텍스트 데이터를 처리하기 위해서는 입력으로 들어오는 토큰과 토큰 사이의 관계를 계산해야 한다. - 토큰과 토큰 사이의 관계를 계산하기 위해서는 토큰의 의미를 숫자로 나타낼 수 있어야 한다. - 토큰화에서 부여한 토큰 아이디는 하나의 숫자일 뿐이므로 숫자의 의미를 담을 수 없다. - 의미를 담기 위해서는 최소 2개 이상의 숫자 집합인 벡터여야 한다. 🚩 위에 내용에 맞게 토큰을 임베딩하는 .. 2025. 2. 5.

[TIL] 내일배움캠프 AI 9기 - 21회 🐶 학습 범위스탠다드반 개인 공부 🐶 학습 내용✨ 개인 공부✔️ 토큰화 1. 토큰 (token) 1) 개념: 주어진 텍스트를 분석 및 처리 가능한 작은 단위로 나눈 것 2. 토큰화 1) 개념: 텍스트를 적절한 단위로 나누고 숫자 아이디를 부여하는 것 2) 내용 - 한글은 작게 (자음과모음) 단위부터 크게 단어 단위로 나눌수 있다 - 어떤 토큰이 어떤 숫자 아이디로 연결됐는지 기록된 사전을 만들어야 한다 > 단위가 큰 경우: 의미 유지는 잘 되지만 사전이 커진다. > 단위가 작은 경우: 사전은 작아지지만, 단어의 의미가 사라진다. 2. 서브워드 토큰화 1) 개념: 데이터의 등장하는 빈도에 따라 토근화 단위를 결정 2) 내용 - 기존 토.. 2025. 2. 4.

[TIL] 내일배움캠프 AI 9기 - 20회 🐶 학습 범위스탠다드반 자가 검진 테스트 🐶 학습 내용✨ 스탠다드✔️ 가설식 (Hypothesis) 1. 수식 - H(x) = wx + b (w: 가중치/모델파라미터, x: 입력변수) 2. 개념 - 모델이 데이터로부터 학습하여 만들어진 예측 함수 - 함수는 주어진 입력 데이터에 대해 특정 출력(예측 결과)을 계산 - 파라미터들을 조정하면서 학습 데이터에 가장 잘 맞도록 모델을 훈련하며 계속 업데이트✔️ 경사하강법(Gradient Descent) 1. 개념 - 함수의 최소값을 찾기 위해 사용되는 최적화 알고리즘 - 비용 함수(cost function) 또는 손실 함수(loss function)의 최소값을 찾기 위해 사용 - 머신 러닝과 딥러닝 모델에서 파라미터.. 2025. 2. 3.

[TIL] 내일배움캠프 AI 9기 - 19회 🐶 학습 범위LLM 특강 과제코드카타 🐶 공부 내용✨ LLM 특강 과제 (트러블 슈팅 조치)✔️ 작업 환경 - Window (PowerShell) - VSCode - Python 3.10✔️ 작업 내용 (OpenAI API 테스트) 1. API Key 생성 2. 환경변수 설정setx OPENAI_API_KEY "your_api_key_here" 3. OpenAI API 설치pip install openai 4. 소스 코드 작성 (text_example.py)from openai import OpenAIclient = OpenAI()completion = client.chat.completions.create( model="gpt-4o-mini", messages=[ .. 2025. 1. 31.

[TIL] 내일배움캠프 AI 9기 - 18회 🐶 학습 범위학습반 과제 (장고)파이썬 심화 강좌 시작머신러닝 과제 풀이 특강코드카타 🐶 공부 내용✨ 학습반 과제 - Django Relationship ✔️ 1:1 : models.OneToOneField - 두 테이블 간의 1:1 관계를 정의 - 하나의 레코드는 다른 테이블의 레코드 하나만 연결됨 - 하나의 모델에 너무 많은 필드가 있을 경우 데이터 구조를 분리하는데 유용# 회사class Company(models.Model): name = models.CharField(max_length=50) # 회사 이름 founded_date = models.DateField() # 설립일 website = models.URLField(blank=True) # 웹사이트# 주소cl.. 2025. 1. 9.

이전 1 2 3 4 다음

티스토리툴바