Langchain은 무엇일까?

모두의AI 유튜브 채널 보고 개인 정리용

랭체인 처음 접하는거라 기록 내용이 틀릴 수도 있다.

ㅇ

1. 랭체인을 왜 사용해야할까?  

 

 

일단 ChatGPT를 직접 사용할경우 해당 모델이 학습한 기간의 정보까지만 답변하고,엉뚱하고 거짓된 답변하고,토큰의 제한이 있다. 
이런 단점을 해결하기 위해 파인튜닝(모델을 학습시키는?),제로~N샷러닝,인컨텍스트 러닝 등 있는데 랭체인이 인컨텍스트러닝 도와주는 도구다. 

 

랭체인의 구조에는 저렇게 있는데

인덱스는 예를들어 사용자가 제공하는 PDF나 인터넷에 어떤 문서를 쉽게 탐색 가능하게 할 수 있도록 해주는 모듈이다.즉 PDF문서에 내용을 임베딩후 벡터DB에 넣고 탐색하는거다.

 

체인은 원래 사용자가 프롬프트 하나를 주면 그걸 답변해주고 끝나는건데 거기서 끝나지 않고,랭체인이 프롬프트 받으면 그 LLM 호출, 유틸리티(예: Python 함수, API 호출) 및 기타 체인들을 연결하여 복잡한 작업을 수행하고 프롬프트 답변 받도록 하는거다.

 

에이전트는 LLM을 기반으로 추론하고 어떤 행동을 취할지 결정하며, 도구를 사용하여 작업(구글에서 정보검색,DB에서 데이터 가져오기, 계산기, API 호출 등)을 수행하고 결과를 관찰하여 최종 답변을 생성하게 도와주는 모듈이다.

 

2. LLM에 대해서

인코더는 사용자가 보낸 내용 받아 들이는거를 말하고 디코더는 사용자한테 응답하는거를 말한다. 

나무에서 빨간부분이 인코더 발전부분  파란부분이 디코더  발전부분 초록은 인코더+디코더 둘다 발전을 말한다.

클로즈소스는 어떤 회사에서 개발한 모델을 사용하려면 돈을 내야하고,개발한 모델의 상세한 내용(모델의 소스,특징등)을 알 수 없다

오픈소스는 클로즈소스와 반대다.