Mistral 7B LLM 모델들을 학습하기 위한 시스템 사양은 어떻게 될까? AiDAOps 2024. 1. 24. 최근 LLM(Large Language Model, 대형언어모델)에 대한 많은 관심 속에서 더욱 가볍게 학습시키고 사용할 수 있는 sLLM(smaller Large Language Model, 경량화 대형언어모델)이 주목을 받고 있죠. 얼마 전까지는 더욱 많은 파라미터를 사용하는.. 경쟁사보다 더욱 큰 모델을 개발하여 발표하는 것이 중심이었다면 최근에는 더욱 작은 모델로 더 좋은 성능을 내는 기술을 중심으로 하고 있다고 보입니다. 특히 2024년 CES와 함께 온디바이스에서의 AI와 같은 저성능의 단말기기에서 AI, 특히 LLM과 같은 기능을 지원하고자 하는 흐름이 퍼지기 시작하면서 이런 추세는 더욱 강해지고 있는 것 같습니다. 그래서 이번에는 이러한 LLM 모델들을 학습하기 위한 시스템 사양은 어떻게 .. Mistral 7B 모델 AI 기반 기술 2023. 12. 10. OpenAI의 GPT4, Google의 Gemini 1.0 등 최근 많은 LLM 또는 LMM이 출시되고 있습니다. 이러한 신 기술, 신 모델들이 빠르게 등장하고 활용되는 것을 보면 나도 저런 기술을 확보해야 할텐데.. 라는 생각이 들게 마련이죠. 그러나 현실적으로 시스템 요구사양부터 시작해서 많은 제약조건들이 점점 신기술의 확보를 어렵게 만들고 있습니다. 그러다보니 저런 서비스를 사용하는 것은 어찌어찌 한다고 하더라도(무료버전을 사용하든.. 유료버전을 사용하든..) 제대로 된 기술은 얻기 어려운 상황에 처하게 됩니다. 이렇게 점점 신기술의 일선에서 밀려나게 되는 거죠. ㅠㅠ 그래서 찾아보게 되는 것이 바로 오픈소스 LLM이 됩니다. 특히 상업적으로 사용해도 되는 라이센스를 가진 Llama2 라던지 최근 .. 이전 1 다음 728x90 반응형
