cls 벡터

이미 파인튜닝된 언어모델을 가지고, 감정을 분류하는 과정을 단계적으로 설명하겠습니다.1. 텍스트 입력 처리입력된 자연어 문장을 언어모델이 이해할 수 있는 형태로 변환합니다.토크나이징숫자 id로 변환패딩 및 어텐션 마스크 처리2. 모델 입력 및 통과변환된 입력 데이터를 BERT와 같은 모델에 전달transformer에서 입력한 문장 내의 단어들의 문맥정보를 학습하고 최종 특징 벡터를 생성합니다.임베딩 레이어에서 입력데이터가 토큰 임베딩, 위치 임베딩, 세그먼트 임베딩으로  변환Transformer 인코더에서 attention 매커니즘을 사용해서 각 단어가 문맥적으로 다른 단어와 어떻게 연관되는 지 학습한다트랜스포머 모델(ex. bert, gpt)는 기본적으로 특징 추출기 역할을 합니다. 마지막 인코딩 레이..