본문 바로가기
728x90

AiDAOps/사전조사(by LLM)

AiDAOps개발 시 적용할 DB관련 조사 AiDAOps/사전조사(by LLM) 2024. 1. 26. MLOps 종류의 하나로 개발을 진행하는 AiDAOps에도 DB(Database)가 사용됩니다. 당연히 시스템을 위한 다양한 정보가 사용되니까 DB가 있어야겠죠. 일반적으로는 MySQL을 많이 사용하게 됩니다. 그러나 MySQL의 경우 오픈소스라고는 하지만 기본적으로 GPL (General Public License) 2.0을 따르고 있습니다. GPL 2.0의 경우에는 개인적으로 그냥 사용하는 경우에는 무료이지만 상용이나 영리 목적으로 사용하는 경우에는 구매를 해야하며 또 뭔가 수정을 가하는 경우에는 소스코드를 모두 공개해야 하는 등의 다양한 제약이 따르죠. Oracle의 MySQL 정책에 반발하여 개발된 MariaDB도 마찬가지로 GPL 2.0을 따르고 있습니다. 사실 개인적으로 사용하기 위한, 또는 ..
LLM 모델들을 학습하기 위한 시스템 사양은 어떻게 될까? AiDAOps/사전조사(by LLM) 2024. 1. 24. 최근 LLM(Large Language Model, 대형언어모델)에 대한 많은 관심 속에서 더욱 가볍게 학습시키고 사용할 수 있는 sLLM(smaller Large Language Model, 경량화 대형언어모델)이 주목을 받고 있죠. 얼마 전까지는 더욱 많은 파라미터를 사용하는.. 경쟁사보다 더욱 큰 모델을 개발하여 발표하는 것이 중심이었다면 최근에는 더욱 작은 모델로 더 좋은 성능을 내는 기술을 중심으로 하고 있다고 보입니다. 특히 2024년 CES와 함께 온디바이스에서의 AI와 같은 저성능의 단말기기에서 AI, 특히 LLM과 같은 기능을 지원하고자 하는 흐름이 퍼지기 시작하면서 이런 추세는 더욱 강해지고 있는 것 같습니다. 그래서 이번에는 이러한 LLM 모델들을 학습하기 위한 시스템 사양은 어떻게 ..
작업 계획을 위한 관련 정보의 사전조사를 LLM으로 하면 편하겠다 AiDAOps/사전조사(by LLM) 2024. 1. 24. AiDAOps의 개발을 진행하려면 다양한 정보가 필요하게 됩니다. 뭐 AiDAOps만이 아니라 어떤 것을 하더라도 마찬가지겠죠. 예전에는 일반적으로 인터넷 검색, 도서 검색, 논문 검색 등을 기본으로 정보를 조사하고, 이러한 정보들을 기반으로 시스템의 설계와 모듈 구성, 코드 개발 등을 진행했는데... 사실 시간이 매우 많이 걸리는 작업입니다. 그런데 요즘에는 LLM이라고 하는 아주 좋은 도구가 있죠. ^^ 예전에 수십 분 ~ 수 시간을 투자하여 조사를 할 내용을 LLM에게 지시하면 몇 초 이내에 결과를 보여줍니다. 물론 환각현상(Hallucination)과 같은 LLM의 특징으로 인해 해당 내용을 100% 신뢰할 수는 없지만 이러한 정보를 사전조사하는 것은 그 결과를 전적으로 믿기 위해서가 아니라 단지..


728x90
반응형

티스토리툴바