본문 바로가기

LLM

LLM 비즈니스의 하향 평준화 이슈에 대하여 AI & IT 이야기 2024. 10. 29. 메타에서 대형언어모델(LLM) Llama를 상업적 이용이 가능한 오픈소스 모델로 공개한 이후로 Llama를 기반으로 하는 수많은 LLM/sLLM이 등장했습니다.개인 연구/개발자의 입장에서는 매우 좋은, 환영할만한 상황이긴 합니다.그러나 유료 LLM을 포함하여 LLM 기반의 기술이 이렇게 확산되고 있는 것은 사업가의 입장에서는 썩 반길만한 상황은 아닌 것 같습니다.며칠 전 세계 최대의 벤처 캐피털 중 하나인 앤드리슨 호로비츠의 창업자이자 1990년대 최초의 웹브라우저인 모자이크 및 넷스케이프를 개발, 설립한 전설적인 소프트웨어 개발자인 마크 앤드리슨이 주장한 "LLM 비즈니스 하향평준화"이야기가 바로 그것입니다.https://www.aitimes.com/news/articleView.html?idxno=1..
LLM의 한계 확인을 위해 자주 사용되는 "3.9와 3.11은 어느 것이 더 큰가?" AI & IT 이야기 2024. 9. 11. LLM이 가지는 능력의 한계를 확인하기 위해 자주 사용되는 질문이 바로 "3.9와 3.11은 어느것이 더 큰가?"라는 질문입니다.아마 블로그를 포함해서 많은 글들이 이 주제를 다루고 있을것입니다. 수학적으로 3.9 > 3.11 이 올바른 크기 비교결과라고 할 수 있습니다만.. 그런데 LLM에게 질문을 하면 3.11이 더 크다고 설명합니다.OpenAI의 GPT-3.5-Turbo, MS의 Copilot(GPT-4기반), 네이버의 ClovaX, 구글의 Gemini, Perplexity.ai의 Perplexity에서 질문을 해 보았습니다만.. 모두 틀린 대답을 하더군요. ● GPT-3.5-Turbo의 경우● Copilot(GPT-4기반)의 경우● ClovaX의 경우 ● Gemini의 경우 ● Perplexity..
어떤 오픈소스 LLM을 사용하면 좋을까? AI & IT 이야기 2024. 9. 10. 지난 글에서 GPT-5의 비용으로 인한 논란을 소개해 드렸습니다.이렇듯 비용 문제는 어디서나 중요한 이슈가 되고 있는데...과연 어떤 LLM 서비스를 사용하는 것이 가장 비용 효율적인, 즉 가성비가 뛰어난지가 우리의 관심거리가 되겠죠.이런 시점에서 딱 적절하게 주요 LLM들을 비교분석한 기사가 나왔네요.AI전문 미디어인 Ai Times에서 "4대 프론티어 모델 순위를 뽑았더니...메타, 오픈AI·앤트로픽 성능에 근접"이라는 기사가 올라왔길래 살펴보았습니다.https://www.aitimes.com/news/articleView.html?idxno=163221 '4대 프론티어 모델' 순위를 뽑았더니...메타, 오픈AI·앤트로픽 성능에 근접 - AI타임스4대 인공지능(AI) 기업인 오픈AI와 앤트로픽, 구글..
내 프로젝트에 LLM을 달아보자(3) - 잘못된 대답 고치기 AI 기반 기술 2024. 9. 6. 이번 글은 프로그래밍 기술적인 부분은 아니고...그냥 심심해서 ollama를 통해서 openchat 모델에 간단한 수학 계산을 시켜본 결과입니다. 리더보드에 나온 평가 지표에는 수학계산 및 표현에 대한 지표도 있었던 것으로 기억하는데...과연 openchat의 표현능력은 얼마나 되나.. 궁금했습니다.그래서 아주 간단하게 x의 제곱을 미분한 결과를 설명해달라고 해 보았습니다. 아래는 그 결과입니다.미분 결과는 틀리지 않았는데 중간에 설명하는 부분이 잘못되었더군요.한 번 지적해 보았는데 제대로 고치지 못하길래 이렇게 고치는 것이 어떠냐.. 라는 식으로 딱 집어서 말해 보았습니다. 그래도 명확하게 지적한 부분은 제대로 이해하고 수정을 하네요.알고 있는 기능이지만 이렇게 보면 새삼 대단한데~ 싶습니다. ^^
백엔드 개발을 위한 로드맵에 대한 LLM과의 질의응답 AI 연관 기술 2024. 8. 8. 백엔드 시스템의 개발을 위한 로드맵이라는 포스팅을 보았습니다. https://roadmap.sh/backend Backend Developer Roadmap: What is Backend Development?Learn what backend development is, what backend developers do and how to become one using our community-driven roadmap.roadmap.sh 위의 포스트를 PDF파일로 다운로드 하여 ChatPDF에 인식시킨 후 해당 내용과 관련하여 떠오르는 질문을 ChatPDF에게 물어보았습니다.내 머리로 직접 생각하는 것이 귀찮아서 그런 것은 아니고...수많은 사람들의 생각이 정리된 데이터로 학습시켰을 LLM과 질의응답을 ..
LLM 모델들을 학습하기 위한 시스템 사양은 어떻게 될까? AiDAOps 2024. 1. 24. 최근 LLM(Large Language Model, 대형언어모델)에 대한 많은 관심 속에서 더욱 가볍게 학습시키고 사용할 수 있는 sLLM(smaller Large Language Model, 경량화 대형언어모델)이 주목을 받고 있죠. 얼마 전까지는 더욱 많은 파라미터를 사용하는.. 경쟁사보다 더욱 큰 모델을 개발하여 발표하는 것이 중심이었다면 최근에는 더욱 작은 모델로 더 좋은 성능을 내는 기술을 중심으로 하고 있다고 보입니다. 특히 2024년 CES와 함께 온디바이스에서의 AI와 같은 저성능의 단말기기에서 AI, 특히 LLM과 같은 기능을 지원하고자 하는 흐름이 퍼지기 시작하면서 이런 추세는 더욱 강해지고 있는 것 같습니다. 그래서 이번에는 이러한 LLM 모델들을 학습하기 위한 시스템 사양은 어떻게 ..
Mistral 7B 모델 AI 기반 기술 2023. 12. 10. OpenAI의 GPT4, Google의 Gemini 1.0 등 최근 많은 LLM 또는 LMM이 출시되고 있습니다. 이러한 신 기술, 신 모델들이 빠르게 등장하고 활용되는 것을 보면 나도 저런 기술을 확보해야 할텐데.. 라는 생각이 들게 마련이죠. 그러나 현실적으로 시스템 요구사양부터 시작해서 많은 제약조건들이 점점 신기술의 확보를 어렵게 만들고 있습니다. 그러다보니 저런 서비스를 사용하는 것은 어찌어찌 한다고 하더라도(무료버전을 사용하든.. 유료버전을 사용하든..) 제대로 된 기술은 얻기 어려운 상황에 처하게 됩니다. 이렇게 점점 신기술의 일선에서 밀려나게 되는 거죠. ㅠㅠ 그래서 찾아보게 되는 것이 바로 오픈소스 LLM이 됩니다. 특히 상업적으로 사용해도 되는 라이센스를 가진 Llama2 라던지 최근 ..
에릭 슈미트(전 구글 CEO), 과학 연구를 위한 AI를 개발한다 AI & IT 이야기 2023. 11. 9. 전 구글 CEO, 에릭 슈미트가 설립한 비영리 단체인 '퓨처 하우스'에서 매일 과학논문 1만건을 읽는 대형 언어 모델(Large Language Model, LLM)을 개발한다고 합니다. 이렇게 개발한 LLM을 이용하여 매일 전 세계에서 쏟아지는 1만여 건의 논문을 모두 읽고, 이를 바탕으로 과학 연구의 방식을 혁신하겠다는 계획이라고 합니다. https://www.aitimes.com/news/articleView.html?idxno=155020 "매일 전 세계 과학 논문 1만건 읽어내는 LLM 개발" - AI타임스 에릭 슈미트 전 구글 CEO가 과학 연구를 돕는 대형언어모델(LLM)을 개발하겠다고 밝혔다. 이를 통해 하루 1만건씩 쏟아지는 전 세계 논문을 모두 읽어내고, 이를 바탕으로 연구의 방식 자체..
구글의 Bard가 Bing AI보다 구글 기술을 모른다?? AI 기반 기술 2023. 5. 21. 5월 10일에 개최된 구글 I/O 컨퍼런스에서 구글의 최신 대규모 언어모델(Large Language Model, LLM)인 'PaLM 2'를 발표되었고, 며칠 전에는 PaLM 2의 세부 정보가 일부 알려졌다는 기사를 보았습니다. 또한 구글에서 OpenAI의 영향인지 PaLM 2의 구체적인 핵심 기술을 공개하지 않는다는 내용을 보면서 구글의 Bard는 자사의 모델에 대하여 어느 정도까지 알고 있을까? 라는 궁금증이 생겼습니다. 그래서 Bard와 Bing AI에게 질문을 해 보았습니다.(역시 최신 정보는 알지 못하는 ChatGPT는 제외하였습니다.) 구글의 LLM 모델에 대하여 세대별로 구분해서 자세하게 설명해줘 Bard의 경우, Bing AI의 경우, Bard는 생각보다 당황스러운 결과를 보여주네요. 세..


728x90
반응형

티스토리툴바