LLM(초거대 언어모델)을 이용한 어플리케이션 개발 프레임워크이다.
LLM(Large Language Model)은 초거대 언어 모델로 chat gpt, PaLM, LLaMA 등이 있다.
몇십억개 ~ 몇천억개의 파라미터를 보유한 초거대한 모델의 크기를 보유한 LLM으로 언어를 input하면 해당하는 답이나 다음 단어를 들을수있는 언어기반의 언어모델이다.
즉슨 랭체인이란 LLM 초거대 언어모델로 개발을 하기 쉽게 만드는 도구의 모음이다.
LLM로 만드는 여러 도구의 모음이라고 보면 쉽다.
랭체인은 그런 도구의 연결역할을 한다.
LLM(Large Language Model)에 대하여
platform.openai.com/playground에서 예를 알수있다.
mode가 chat일때는 대화형식으로 답을 주고
complete는 답변으로 끝내는 형식을 취한다.
temperature은 숫자가 작을수록 대답이 달라지고 창의적인 답변을 한다. 0으로하면 가장 정확한 답변하나를 한다.
Top P는 temperature랑 같이 답이 어떤확률로 나올건지 하는거다. 확률을 높히면 엉뚱한 답이 나올 확률이 커진다.
랭체인을 시작해보자
https://python.langchain.com/docs/how_to/
랭체인 모듈을 다운받아주고
pip install langchain
pip install langchain-community langchain-core
pip install --upgrade langchain
openai이용을 위해 openai 모듈도 다운받아주자.
pip install openai
pip install python-dotenv
랭체인 사용코드(.env안에 Openai의 api key가 포함되어야한다.)
from dotenv import load_dotenv
load_dotenv()
# from langchain.llms import OpenAI
# llm = OpenAI()
# result = llm.predict("내가 좋아하는 동물은 ")
# print(result)
from langchain.chat_models import ChatOpenAI
chat_model = ChatOpenAI()
result = chat_model.predict("hi!")
print(result)
'컴퓨터 과학 > AI' 카테고리의 다른 글
이미지 생성 AI 사이트 (0) | 2025.01.03 |
---|---|
Langchain streaming - 실시간으로 답변받기 (0) | 2025.01.02 |
ChatPDF - pdf를 읽어서 chatgpt에게 물어보기 (0) | 2024.12.31 |
LLaMa2 - local에서 LLM돌리기 (0) | 2024.12.31 |