langchain FastAPI와 LangChain, Ollama를 이용한 LLM 기반 웹 서비스(1) AiDAOps 2025. 7. 23. AiDAOps 시스템구조 설계를 진행하다보니 계속 제자리 걸음입니다.조금 진행하다보면 테스트한답시고 멈춰서 이것저것 건드리다가 강의가 들어오면 그거 하다가..개발이 제대로 진척되지 않네요.그래서 방법을 바꾸었습니다.사용할만한 작은 기능들을 하나씩 만들면서 그냥 그때그때 수정해 나가는 방식으로 하기로 했습니다.그렇다고.. 무턱대고 만들어선 제대로 된 시스템이 되지 않을테니 필요한 기능을 만들고 추가하면서 추가 시점에 해당 기능에 관련된 구조까지만을 설계에 반영하는 형태로 진행하려고 합니다.솔직히 작업하면서 뭔가 눈에 띄는 결과물이 없으면 의욕도 나지 않고..사실 어떤 코드가 어떻게 들어올지도 잘 모르는 상태에서 큰 시스템을 혼자 설계하고 있는 것이 썩 재미있지는 않네요.제일 처음 만들어볼 내용은 FastA.. 내 프로젝트에 LLM을 달아보자(4) - LangChain 적용하기 AiDAOps 2024. 10. 17. 지난 글에서는 Ollama라고 하는 프레임워크에 대해서 다루었습니다.이번 글에서는 실제 프로젝트에 LLM을 적용해 볼 수 있도록 LangChain이라는 프레임워크를 사용해서 기능을 구현해 보겠습니다. LangChain이란 대규모 언어모델(LLM)로 구동되는 애플리케이션을 개발하기위한 오픈소스 프레임워크로 파이썬과 자바스크립트 라이브러리를 제공하고 있습니다.기본적으로 거의 모든 LLM을 위한 인터페이스가 컨셉이므로 일단 LLM 모델을 설정하고 LLM을 위한 애플리케이션을 구축한 다음 통합할 수 있는 중앙집중식 개발 환경을 갖추고 있다고 합니다.그리고 LLM 모델이 설정되고 나면 그 이후의 코드는 거의 동일한 메소드와 함수 등을 사용하기때문에 코드의 개발이 매우 쉽고 간소화 할 수 있다는 장점이 있습니다. .. 이전 1 다음 728x90 반응형
