작업 계획을 위한 관련 정보의 사전조사를 LLM으로 하면 편하겠다

AiDAOps의 개발을 진행하려면 다양한 정보가 필요하게 됩니다.

뭐 AiDAOps만이 아니라 어떤 것을 하더라도 마찬가지겠죠.

 

예전에는 일반적으로 인터넷 검색, 도서 검색, 논문 검색 등을 기본으로 정보를 조사하고, 이러한 정보들을 기반으로 시스템의 설계와 모듈 구성, 코드 개발 등을 진행했는데... 사실 시간이 매우 많이 걸리는 작업입니다.

 

그런데 요즘에는 LLM이라고 하는 아주 좋은 도구가 있죠. ^^

예전에 수십 분 ~ 수 시간을 투자하여 조사를 할 내용을 LLM에게 지시하면 몇 초 이내에 결과를 보여줍니다.

물론 환각현상(Hallucination)과 같은 LLM의 특징으로 인해 해당 내용을 100% 신뢰할 수는 없지만 이러한 정보를 사전조사하는 것은 그 결과를 전적으로 믿기 위해서가 아니라 단지 참고하기 위해 사용하는 것이니 큰 문제는 없어 보입니다.

 

또한 최근의 LLM 서비스는 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 방식을 도입하여 LLM이 생성한 결과에 대한 참조 정보 및 URL 등을 제공하는 추세를 따르고 있습니다.

환각현상에 대한 해결책으로서는 부족하긴 하지만 어느 정도 부작용을 완화시켜주고 사용자로 하여금 스스로 내용을 판단할 수 있도록 지원하겠다는 목적인거죠(일종의 책임 회피?).

 

이렇듯 다양한 개선과 지원이 이루어지고 있는 LLM을 활용해서 내 작업에서 요구되는 시간과 노력을 줄여보고자 합니다.

이 카테고리에서는 이런 사전조사 작업의 내용을 정리해서 올리면 좋을 것 같습니다.

 

대신 이 내용은 조사를 해 나가는 과정을 표현하기 때문에 어떤 특정한 기준같은 것은 없고 해당 내용에 대한 저의 생각의 흐름대로 정리될 것으로 보이네요.

스스로에게는 진행 과정에 대한 기록, 즉 작업 이력의 정리가 되겠고 블로그를 찾아주시는 분들에게는 이렇게도 진행할 수 있구나.. 라는 참고가 되었으면 합니다.

 

그림: MS Bing Image Creator로 직접 그림