자연어,
encoding,
언어 분석, tts,
https://www.youtube.com/watch?v=Rf7wvs8ZbP4
gpt로 앱 만들기
시계열 데이터
컴퓨터 저 시간표를 잘못짜서 ㅇㅇ 하기로 함.... 언제로 가지..
컴퓨터 이해하고 해석해서..
1. 언어 이해,
NLU
감정분석, 리뷰, 쿠팡 등 이커머스
- 하고 싶은 것
: 번역 어플 만들기, speak, 모방
2. word 2 vec encoding
자연어 -> 기계어로 변경
3. 통계 기반 언어
- Natinonal language Generation
나는 밥을 ( ? )
- 먹었다
쿼리를 날리면 해석하고 이해함.
많은 토큰 수 free
4. 가중치
좋다는 단어 0.3, 싫다는 단어 0.7
모델에서 어떤 식으로 하는 게 좋은지
calculate
NLU, NLG, -> agent robot
정보 추출
Information extraction
물어봐
번역
translation
auto encoder?
추세
- 통계적 언어 기반 사용 x
- transformer
NLM -> PLM -> LLM
sequence to sequence
wxh
어떻게 학습하지?
이미지를 넣고
NIPS
RLHF
프롬프트 엔지니어링
임베딩
히든레이어에서 표현되는 값.
// 공부: 흐름을 이해하고, 보상을 주고, 쉬운 것부터
RGB 3차원으로 들어옴
페이지 100페이지, 공부량 많음
히든레이어 많음.
압축할 때, 복호화 하는
인코더, 디코더