본문 바로가기
728x90

AI 관련 기술들/대형AI모델

대형 액션 모델(LAM, Large Action Model) AI 관련 기술들/대형AI모델 2024. 12. 28. 며칠 전인 12월 20일, LG AI연구원에서 AI 에이전트용 대형 액션 모델(LAM, Large Action Model)을 개발중이라는 기사가 올라왔습니다. https://www.aitimes.com/news/articleView.html?idxno=166395 LG AI연구원 "AI 에이전트용 '대형액션모델' 개발 중...언어·멀티모달도 동시 개발" - AI타임스LG AI연구원이 최근 업데이트한 ‘엑사원 3.5’에 이어 대형액션모델(LAM)을 개발 중이라고 밝혔다. 이는 최근 트렌드인 인공지능(AI) 에이전트를 겨냥한 것이다. LG AI연구원(원장 배경훈)은 20일 \'www.aitimes.com 최근 호평을 받고 있는 엑사원 3.5의 후속 모델로 LAM을 포함한 LMM(대형 멀티모달 모델, Larg..
내 프로젝트에 LLM을 달아보자(4) - LangChain 적용하기 AI 관련 기술들/대형AI모델 2024. 10. 17. 지난 글에서는 Ollama라고 하는 프레임워크에 대해서 다루었습니다.이번 글에서는 실제 프로젝트에 LLM을 적용해 볼 수 있도록 LangChain이라는 프레임워크를 사용해서 기능을 구현해 보겠습니다. LangChain이란 대규모 언어모델(LLM)로 구동되는 애플리케이션을 개발하기위한 오픈소스 프레임워크로 파이썬과 자바스크립트 라이브러리를 제공하고 있습니다.기본적으로 거의 모든 LLM을 위한 인터페이스가 컨셉이므로 일단 LLM 모델을 설정하고 LLM을 위한 애플리케이션을 구축한 다음 통합할 수 있는 중앙집중식 개발 환경을 갖추고 있다고 합니다.그리고 LLM 모델이 설정되고 나면 그 이후의 코드는 거의 동일한 메소드와 함수 등을 사용하기때문에 코드의 개발이 매우 쉽고 간소화 할 수 있다는 장점이 있습니다. ..
내 프로젝트에 LLM을 달아보자(3) - 잘못된 대답 고치기 AI 관련 기술들/대형AI모델 2024. 9. 6. 이번 글은 프로그래밍 기술적인 부분은 아니고...그냥 심심해서 ollama를 통해서 openchat 모델에 간단한 수학 계산을 시켜본 결과입니다. 리더보드에 나온 평가 지표에는 수학계산 및 표현에 대한 지표도 있었던 것으로 기억하는데...과연 openchat의 표현능력은 얼마나 되나.. 궁금했습니다.그래서 아주 간단하게 x의 제곱을 미분한 결과를 설명해달라고 해 보았습니다. 아래는 그 결과입니다.미분 결과는 틀리지 않았는데 중간에 설명하는 부분이 잘못되었더군요.한 번 지적해 보았는데 제대로 고치지 못하길래 이렇게 고치는 것이 어떠냐.. 라는 식으로 딱 집어서 말해 보았습니다. 그래도 명확하게 지적한 부분은 제대로 이해하고 수정을 하네요.알고 있는 기능이지만 이렇게 보면 새삼 대단한데~ 싶습니다. ^^
내 프로젝트에 LLM을 달아보자(2) - Ollama API AI 관련 기술들/대형AI모델 2024. 9. 5. 지난 글에서 Ollama를 이용하여 로컬 시스템에서 LLM을 설치하고 사용해 보았습니다.그럼 내 프로젝트에 LLM을 적용하려면 어떻게 해야 할까요?기본적으로 LLM은 질의 메시지를 전달하면 결과를 돌려주는 방식이기때문에 프로젝트 내에서도 LLM으로 질의를 던져주고 결과를 받아오는 API를 사용하면 그걸로 끝이라고 볼 수 있습니다.그 외에는 뭐가 필요할까... 생각해보면 Web 환경에서 사용할 수 있는 UI 등이 있을 수 있겠죠.좀 복잡하지만 강력한 기능을 자랑하는 Open-WebUI, 간편하게 사용할 수 있는 Chatbot-Ollama 등 다양한 UI가 제공되고 있습니다.그러나 불행히도 많은 UI가 JavaScript 계열의 환경으로 되어 있습니다.뭐.. WebUI니까 어찌보면 당연하기도 합니다.그런데 ..
내 프로젝트에 LLM을 달아보자(1) - Ollama AI 관련 기술들/대형AI모델 2024. 9. 4. 요즘 가장 쉽게 접할 수 있는 AI 이슈는 뭐니뭐니해도 LLM의 개발과 활용에 대한 것이겠죠.그러나 LLM은 개인이 개발하기에는 너무 큰 프로젝트인 것도 사실이므로 대부분의 경우에는 개발이 아니라 활용을 목표로 하게 됩니다.또한 OpenAI의 GPT 계열은 API를 사용하려면 유료 결제를 해야하기때문에 무료로 제공되는 오픈소스 LLM과 API 셋을 찾아다니게 되죠.저도 그런 과정을 거치다가 발견한 것이 Ollama 입니다.Ollama는 로컬 환경에서 LLM을 실행할 수 있도록 지원하는 플랫폼입니다.Linux, Mac, Windows 모두에서 사용할 수 있지만 Windows 버전은 아직 Preview 상태이기때문에 Linux, Mac의 사용이 권장되는 상황입니다.Windows에서 사용하려면 Preview ..
Mistral 7B 모델 AI 관련 기술들/대형AI모델 2023. 12. 10. OpenAI의 GPT4, Google의 Gemini 1.0 등 최근 많은 LLM 또는 LMM이 출시되고 있습니다. 이러한 신 기술, 신 모델들이 빠르게 등장하고 활용되는 것을 보면 나도 저런 기술을 확보해야 할텐데.. 라는 생각이 들게 마련이죠. 그러나 현실적으로 시스템 요구사양부터 시작해서 많은 제약조건들이 점점 신기술의 확보를 어렵게 만들고 있습니다. 그러다보니 저런 서비스를 사용하는 것은 어찌어찌 한다고 하더라도(무료버전을 사용하든.. 유료버전을 사용하든..) 제대로 된 기술은 얻기 어려운 상황에 처하게 됩니다. 이렇게 점점 신기술의 일선에서 밀려나게 되는 거죠. ㅠㅠ 그래서 찾아보게 되는 것이 바로 오픈소스 LLM이 됩니다. 특히 상업적으로 사용해도 되는 라이센스를 가진 Llama2 라던지 최근 ..


728x90
반응형

티스토리툴바