트랜스포머 1편. 텍스트가 벡터가 되기까지 - 토큰화와 임베딩
GPT-2가 입력 문장을 어떻게 숫자로 바꾸는지, 토큰화부터 768차원 임베딩과 위치 인코딩까지 따라갑니다
tag
tokenization
입력 텍스트를 토큰으로 나누고 ID를 매기는 과정의 기록입니다.
1 note
notes
tag
입력 텍스트를 토큰으로 나누고 ID를 매기는 과정의 기록입니다.
1 note
notes
GPT-2가 입력 문장을 어떻게 숫자로 바꾸는지, 토큰화부터 768차원 임베딩과 위치 인코딩까지 따라갑니다