내 프로젝트에 LLM을 달아보자(1) - Ollama
AI 관련 기술들/대형AI모델
2024. 9. 4.
요즘 가장 쉽게 접할 수 있는 AI 이슈는 뭐니뭐니해도 LLM의 개발과 활용에 대한 것이겠죠.그러나 LLM은 개인이 개발하기에는 너무 큰 프로젝트인 것도 사실이므로 대부분의 경우에는 개발이 아니라 활용을 목표로 하게 됩니다.또한 OpenAI의 GPT 계열은 API를 사용하려면 유료 결제를 해야하기때문에 무료로 제공되는 오픈소스 LLM과 API 셋을 찾아다니게 되죠.저도 그런 과정을 거치다가 발견한 것이 Ollama 입니다.Ollama는 로컬 환경에서 LLM을 실행할 수 있도록 지원하는 플랫폼입니다.Linux, Mac, Windows 모두에서 사용할 수 있지만 Windows 버전은 아직 Preview 상태이기때문에 Linux, Mac의 사용이 권장되는 상황입니다.Windows에서 사용하려면 Preview ..