컴퓨터 과학/AI

LangChain(랭체인) - 어플리케이션 개발 프레임워크

DevHam94 2024. 12. 30. 18:06

LLM(초거대 언어모델)을 이용한 어플리케이션 개발 프레임워크이다. 

LLM(Large Language Model)은 초거대 언어 모델로 chat gpt, PaLM, LLaMA 등이 있다. 

몇십억개 ~ 몇천억개의 파라미터를 보유한 초거대한 모델의 크기를 보유한 LLM으로 언어를 input하면 해당하는 답이나 다음 단어를 들을수있는 언어기반의 언어모델이다. 

 

즉슨 랭체인이란 LLM 초거대 언어모델로 개발을 하기 쉽게 만드는 도구의 모음이다. 

LLM로 만드는 여러 도구의 모음이라고 보면 쉽다. 

랭체인은 그런 도구의 연결역할을 한다. 

 

LLM(Large Language Model)에 대하여

platform.openai.com/playground에서 예를 알수있다.

mode가 chat일때는 대화형식으로 답을 주고 

complete는 답변으로 끝내는 형식을 취한다.

temperature은 숫자가 작을수록 대답이 달라지고 창의적인 답변을 한다. 0으로하면 가장 정확한 답변하나를 한다. 

Top P는 temperature랑 같이 답이 어떤확률로 나올건지 하는거다. 확률을 높히면 엉뚱한 답이 나올 확률이 커진다. 

 

 

랭체인을 시작해보자

https://python.langchain.com/docs/how_to/

 

How-to guides | 🦜️🔗 LangChain

Here you’ll find answers to “How do I….?” types of questions.

python.langchain.com

 

랭체인 모듈을 다운받아주고

pip install langchain
pip install langchain-community langchain-core
pip install --upgrade langchain

 

 

openai이용을 위해 openai 모듈도 다운받아주자.

pip install openai

pip install python-dotenv

 

 

랭체인 사용코드(.env안에 Openai의 api key가 포함되어야한다.)

from dotenv import load_dotenv
load_dotenv()

# from langchain.llms import OpenAI
# llm = OpenAI()
# result = llm.predict("내가 좋아하는 동물은 ")
# print(result)

from langchain.chat_models import ChatOpenAI
chat_model = ChatOpenAI()
result = chat_model.predict("hi!")
print(result)