목록2024/10/04 (1)
방카@Dev
[AI]LLM을 활용한 실전 AI 애플리케이션 개발_2장.트랜스포머 아키텍쳐
https://www.aladin.co.kr/shop/wproduct.aspx?ItemId=343185652&start=slayer LLM을 활용한 실전 AI 애플리케이션 개발LLM의 기본 아키텍처에서 출발해 애플리케이션의 요구사항에 맞춰 LLM을 길들이고 제한된 컴퓨팅 환경에서 동작하게 경량화해서 원활하게 서빙하게끔 기초를 다진 다음에 RAG라는 LLM의 대표적인www.aladin.co.kr토큰임베딩 : 임베딩을 통해 숫자 집합인 임베딩으로 입력값 변환위치임베딩 : 트랜스포머는 순차적인 처리 방식을 버리고 모든 입력을 동시 처리 하기 때문에 순서 정보가 사라지므로, 위치 인코딩을 통해 순서 정보 추가 인코더(Encoder) : 언어를 이해하는 역할디코더(Decoder) : 언어를 생성하는 역할자기회귀적..
AI
2024. 10. 4. 23:39