
이 이미지에서는 다양한 최적화 알고리즘에 대해 설명하고 있습니다. 각 알고리즘은 기계 학습 모델의 손실 함수를 최소화하기 위해 사용되며, 서로 다른 방식으로 학습률과 스텝 크기를 조정합니다. 이를 이해하기 쉽게 하나씩 설명해드리겠습니다.1. GD (Gradient Descent)설명: 모든 데이터를 사용하여 손실 함수의 기울기를 계산하고, 그 방향으로 이동하여 최소값을 찾습니다.특징: 모든 데이터를 사용하기 때문에 계산 비용이 큽니다.예시:import numpy as np#X: 독립 변수(특성) 데이터. 여기서는 𝑚×𝑛 형태의 2차원 배열입니다.#y: 종속 변수(목표) 데이터. 길이가 𝑚인 1차원 배열입니다.#learning_rate: 학습률. 각 반복에서 계수를 얼마나 크게 업데이트할지를 결정합니..
라쏘(Lasso)와 리지(Ridge)는 회귀 분석에서 자주 사용되는 두 가지 규제(regularization) 기법입니다만 다른 머신러닝모델에서도 활용될 수 있습니다. 이들은 모델의 복잡도를 조절하여 과적합(overfitting)을 방지하고, 예측 성능을 향상시키는 데 도움을 줍니다. 간단히 설명하면 다음과 같습니다.라쏘 회귀란 무엇인가요?라쏘 회귀는 데이터 분석에서 예측 모델을 만드는 방법 중 하나입니다. 특히, 데이터에 많은 특성(변수)이 있을 때 중요한 특성만을 선택해 주는 방법입니다.라쏘 회귀의 기본 개념Least Absolute Shrinkage and Selection Operator (Lasso):이름의 의미: '최소 절대 축소 및 선택 연산자'라는 뜻입니다.목표: 중요한 특성만 남기고 불필..
- Total
- Today
- Yesterday
- git
- Transformer
- 리스트
- #패스트캠퍼스 #UpstageAILab #Upstage #부트캠프 #AI #데이터분석 #데이터사이언스 #무료교육 #국비지원 #국비지원취업 #데이터분석취업 등
- 티스토리챌린지
- LIST
- 코딩테스트
- Numpy
- nlp
- PEFT
- recursion #재귀 #자료구조 # 알고리즘
- English
- #패스트캠퍼스 #패스트캠퍼스AI부트캠프 #업스테이지패스트캠퍼스 #UpstageAILab#국비지원 #패스트캠퍼스업스테이지에이아이랩#패스트캠퍼스업스테이지부트캠프
- 손실함수
- Github
- Hugging Face
- 오블완
- clustering
- 파이썬
- RAG
- 해시
- cnn
- LLM
- #패스트캠퍼스 #패스트캠퍼스ai부트캠프 #업스테이지패스트캠퍼스 #upstageailab#국비지원 #패스트캠퍼스업스테이지에이아이랩#패스트캠퍼스업스테이지부트캠프
- Lora
- speaking
- t5
- Python
- Array
- classification
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 | 29 |
30 | 31 |