LangChain

LLM의 Process는 다음과 같습니다.

Text Input을 줘서 Language 모델에 질문이나 명령어를 입력합니다.

Language Model은 입력된 명령어(프롬프트)를 입력받아 분석하고 모델을 활용해 응답을 출력합니다.

프롬프트는 하나 이상의 문장으로 구성된 입력 텍스트로 여러 개의 메지로 구성될 수 있습니다. 사용자의 질문이나 지시가 포함되어 있어야 하며, Output 에 직접적인 영향을 줍니다. 그러므로, 프롬프트는 명확하고 구체적이어야 좋은 출력값이 나올 수 있습니다.

출력값은 하나의 연속된 문장 또는 단락일 수 있고, 또는 입력에 대한 직접적인 답변 또는 관련 정보일 수 있습니다. 텍스트일 수 있으며 출력이 공식적일 수도 창의성이 뛰어날 수도 있습니다. 출력의 일관성, 정확성을 확보하기 위해서는 품질관리가 필수 있니다.

LangChain은 22년 10월에 오픈 소스 프로젝트로 시작해 LLM 기반 애플리케이션을 쉽게 개발 가능하도록 만든 프레임워크입니다. 언어모델이나 데이터 파이프라인 등 다양한 도구를 통합지원하고 각 도구를 연결시킬 수 있는 특징이 있습니다.

쉽게 설명하자면, LLM 모델인 GPT, Claude, Llama 등을 관리하는 도구가 Langchain 입니다.

Langchain 은 데이터 전처리, 프롬프트 관리, 출력 후처리 등을 담당하고 있습니다.

즉, 입력 > LLM 모델 > 출력 구조에서 Langchain은 입력과 출력을 관리하고 실제 LLM 모델과 연결해주는 미들웨어 역할을 합니다.

LangChain 모델은 크게 2개로 유형으로 구분할 수 있습니다.

LLM과 Chat Model 로 구분을 할 수 있으며 서로 다른 형태로 입력과 출력하는 언어 모델입니다.

단일 요청에 대한 복잡한 출력을 생성하는데 적합한 모델이고, 텍스트 문자열을 입력하고 텍스트 문자열을 출력하는 모델입니다.

예를 들면, user가 특정 주제에 대한 설명을 하면, 상세한 설명을 출력하는 모델입니다.

대량의 텍스트 데이터로 학습해서 패턴을 인식하고 입력에 대한 적절한 응답을 출력합니다.

트랜스포머 아키텍처를 기반으로 문맥을 이해합니다.

주요 모델로는 GPT(OpenAI), Claude(Anthropic)m, Gemini(Google) , Llama(Meta) 등이 있습니다.

해당 모델들은 전부 각각의 API와 LangChain을 활용합니다.

user와 상호작용을 하며 연속적인 대화를 할 수 있는 모델입니다.

메시지 리스트를 입력하고 하나의 메시지를 반환하는 형태로 대화형으로 연속적인 대화 처리에 특화되어 있습니다. 이는 이전의 대화 내용을 고려한 답변을 생성한다라는 특징이 있습니다.

"Text Input을 줘서 Language 모델에 질문이나 명령어를 입력합니다.

Language Model은 입력된 명령어(프롬프트)를 입력받아 분석하고 모델을 활용해 응답을 출력합니다. "

Message란, Chat Model 에서 사용하는 특수한 형태의 프롬프트 구성 요소입니다.

사용자의 입력을 처리하는 메시지이거나 응답을 표현하는 메시지일 수도 있고, 모델의 동작을 정의하는 메시지일 수 있습니다.

출력값은 Output Parser와 Structured Output으로 구분할 수 있습니다.

2개의 출력 형식은 LLM 모델과 Chat 모델 모두에서 사용가능합니다.

Output Parser 는 전통적인 방식으로 텍스트 응답을 구조화된 정보로 변환하는 클래스로 언어 모델의 응답 문자열을 받아 구조화된 형태로 변환합니다. 언어 모델의 텍스트 출력을 실용적인 데이터 형식으로 활용 가능합니다.

사용예시는 "JSON 형식으로 답변해!" > 생성된 텍스트를 JSON 형식으로 출력합니다.

Structured Output은 모델이 직접 구조화된 데이터를 생성합니다. LangChain의 경우 ".with_structured_output" 인터페이스를 통해 Structured Output을 출력합니다.

The 2025 SAS Hackathon Kicks Off on June 11!