본문 바로가기
728x90

AI 관련 기술들

양자컴퓨팅과 AI (1) AI 관련 기술들/양자컴퓨팅 2024. 12. 30. 모레부터 2025년이 시작됩니다.내년에도 뒤처지지 않고 트렌드를 좇아가기 위해서 어떤 기술이 중요해질 것인지 잘 판단해서 내년의 목표를 세워야 할 때입니다.특히 AI 분야는 너무 빠르게 바뀌고 있기때문에 선택을 잘못하게되면 많이 힘들어질 것은 분명하니까 집중해서 살펴보고 계획을 세워야 하겠습니다. 그럼... 최근에 가장 주목받는 기술 이슈는 누가 뭐라고 하더라도 AI입니다.그럼 그냥 뭉뚱그려서 AI라고 하지말고 어떤 특정 기술이 특히 주목을 받고 있을까요? 저는 2가지를 보고 있습니다. 먼저 첫번째는 지난 번에 다루었던 AI 에이전트 기술입니다.이제 AI 기술은 사람이 요청하는 질문에 대답만 하는 것이 아니라 각 분야의 대행을 맡아서 수행하는 AI 에이전트가 중요한 역할을 하게 될 것입니다.AI 에이전트..
대형 액션 모델(LAM, Large Action Model) AI 관련 기술들/대형AI모델 2024. 12. 28. 며칠 전인 12월 20일, LG AI연구원에서 AI 에이전트용 대형 액션 모델(LAM, Large Action Model)을 개발중이라는 기사가 올라왔습니다. https://www.aitimes.com/news/articleView.html?idxno=166395 LG AI연구원 "AI 에이전트용 '대형액션모델' 개발 중...언어·멀티모달도 동시 개발" - AI타임스LG AI연구원이 최근 업데이트한 ‘엑사원 3.5’에 이어 대형액션모델(LAM)을 개발 중이라고 밝혔다. 이는 최근 트렌드인 인공지능(AI) 에이전트를 겨냥한 것이다. LG AI연구원(원장 배경훈)은 20일 \'www.aitimes.com 최근 호평을 받고 있는 엑사원 3.5의 후속 모델로 LAM을 포함한 LMM(대형 멀티모달 모델, Larg..
내 프로젝트에 LLM을 달아보자(4) - LangChain 적용하기 AI 관련 기술들/대형AI모델 2024. 10. 17. 지난 글에서는 Ollama라고 하는 프레임워크에 대해서 다루었습니다.이번 글에서는 실제 프로젝트에 LLM을 적용해 볼 수 있도록 LangChain이라는 프레임워크를 사용해서 기능을 구현해 보겠습니다. LangChain이란 대규모 언어모델(LLM)로 구동되는 애플리케이션을 개발하기위한 오픈소스 프레임워크로 파이썬과 자바스크립트 라이브러리를 제공하고 있습니다.기본적으로 거의 모든 LLM을 위한 인터페이스가 컨셉이므로 일단 LLM 모델을 설정하고 LLM을 위한 애플리케이션을 구축한 다음 통합할 수 있는 중앙집중식 개발 환경을 갖추고 있다고 합니다.그리고 LLM 모델이 설정되고 나면 그 이후의 코드는 거의 동일한 메소드와 함수 등을 사용하기때문에 코드의 개발이 매우 쉽고 간소화 할 수 있다는 장점이 있습니다. ..
내 프로젝트에 LLM을 달아보자(3) - 잘못된 대답 고치기 AI 관련 기술들/대형AI모델 2024. 9. 6. 이번 글은 프로그래밍 기술적인 부분은 아니고...그냥 심심해서 ollama를 통해서 openchat 모델에 간단한 수학 계산을 시켜본 결과입니다. 리더보드에 나온 평가 지표에는 수학계산 및 표현에 대한 지표도 있었던 것으로 기억하는데...과연 openchat의 표현능력은 얼마나 되나.. 궁금했습니다.그래서 아주 간단하게 x의 제곱을 미분한 결과를 설명해달라고 해 보았습니다. 아래는 그 결과입니다.미분 결과는 틀리지 않았는데 중간에 설명하는 부분이 잘못되었더군요.한 번 지적해 보았는데 제대로 고치지 못하길래 이렇게 고치는 것이 어떠냐.. 라는 식으로 딱 집어서 말해 보았습니다. 그래도 명확하게 지적한 부분은 제대로 이해하고 수정을 하네요.알고 있는 기능이지만 이렇게 보면 새삼 대단한데~ 싶습니다. ^^
내 프로젝트에 LLM을 달아보자(2) - Ollama API AI 관련 기술들/대형AI모델 2024. 9. 5. 지난 글에서 Ollama를 이용하여 로컬 시스템에서 LLM을 설치하고 사용해 보았습니다.그럼 내 프로젝트에 LLM을 적용하려면 어떻게 해야 할까요?기본적으로 LLM은 질의 메시지를 전달하면 결과를 돌려주는 방식이기때문에 프로젝트 내에서도 LLM으로 질의를 던져주고 결과를 받아오는 API를 사용하면 그걸로 끝이라고 볼 수 있습니다.그 외에는 뭐가 필요할까... 생각해보면 Web 환경에서 사용할 수 있는 UI 등이 있을 수 있겠죠.좀 복잡하지만 강력한 기능을 자랑하는 Open-WebUI, 간편하게 사용할 수 있는 Chatbot-Ollama 등 다양한 UI가 제공되고 있습니다.그러나 불행히도 많은 UI가 JavaScript 계열의 환경으로 되어 있습니다.뭐.. WebUI니까 어찌보면 당연하기도 합니다.그런데 ..
내 프로젝트에 LLM을 달아보자(1) - Ollama AI 관련 기술들/대형AI모델 2024. 9. 4. 요즘 가장 쉽게 접할 수 있는 AI 이슈는 뭐니뭐니해도 LLM의 개발과 활용에 대한 것이겠죠.그러나 LLM은 개인이 개발하기에는 너무 큰 프로젝트인 것도 사실이므로 대부분의 경우에는 개발이 아니라 활용을 목표로 하게 됩니다.또한 OpenAI의 GPT 계열은 API를 사용하려면 유료 결제를 해야하기때문에 무료로 제공되는 오픈소스 LLM과 API 셋을 찾아다니게 되죠.저도 그런 과정을 거치다가 발견한 것이 Ollama 입니다.Ollama는 로컬 환경에서 LLM을 실행할 수 있도록 지원하는 플랫폼입니다.Linux, Mac, Windows 모두에서 사용할 수 있지만 Windows 버전은 아직 Preview 상태이기때문에 Linux, Mac의 사용이 권장되는 상황입니다.Windows에서 사용하려면 Preview ..
Mistral 7B 모델 AI 관련 기술들/대형AI모델 2023. 12. 10. OpenAI의 GPT4, Google의 Gemini 1.0 등 최근 많은 LLM 또는 LMM이 출시되고 있습니다. 이러한 신 기술, 신 모델들이 빠르게 등장하고 활용되는 것을 보면 나도 저런 기술을 확보해야 할텐데.. 라는 생각이 들게 마련이죠. 그러나 현실적으로 시스템 요구사양부터 시작해서 많은 제약조건들이 점점 신기술의 확보를 어렵게 만들고 있습니다. 그러다보니 저런 서비스를 사용하는 것은 어찌어찌 한다고 하더라도(무료버전을 사용하든.. 유료버전을 사용하든..) 제대로 된 기술은 얻기 어려운 상황에 처하게 됩니다. 이렇게 점점 신기술의 일선에서 밀려나게 되는 거죠. ㅠㅠ 그래서 찾아보게 되는 것이 바로 오픈소스 LLM이 됩니다. 특히 상업적으로 사용해도 되는 라이센스를 가진 Llama2 라던지 최근 ..
Bing AI가 주가 전망을 상당히 꼼꼼하게 예측하고 있다. AI 관련 기술들/생성형 AI 활용 2023. 5. 22. Bing AI에게 특정 종목을 찍어서 배당금 내역, 주가 변동 내역, 환율 변동 내역을 기반으로 주가 전망을 예측해 보라고 시켜보았습니다. 생각보다 상당히 꼼꼼하게 예측을 하는군요. 생성형 AI의 구조적인 문제 때문에 근거로 든 내용들이 모두 맞는지 여부는 직접 확인해봐야 하겠지만 그런 문제를 제외하고도 이 정도 대답이면 꽤 훌륭한 것 같습니다. 물론 이 예측이 정확하다고 보장할 수는 없는 문제이므로 판단은 사용자가 직접 해야겠지요. 아래에 예측 내용을 올려 보았습니다. "바다로19호" 종목을 지정한 이유는 제가 저 종목을 아주 소량 가지고 있어서... 그냥 계속 배당금을 받아먹고 있으면 될지.. 아니면 손절하더라도 빨리 팔아치워야 할지.. 가 궁금해져서 입니다. (다시 말씀드리지만 이 예측이 정확한지 ..
어제는 주식 종목 추천은 안한다더니 오늘은 말을 바꾸는 안드로이드 Bing AI 앱 AI 관련 기술들/생성형 AI 활용 2023. 5. 22. ChatGPT에게 주식 종목 추천을 해서 투자했더니 애널리스트나 펀드매니저보다 더 좋은 수익률을 내더라는 기사를 보았습니다. 그래서 어떤 종목들을 추천하는가 보자.. 싶어서 질문을 해 보았습니다. 이번에는 안드로이드 앱으로 출시된 Bing AI 앱을 이용해 보았습니다. 어제 질문한 내용입니다. 다음 주 일주일간 수익이 날 수 있는 주식 종목을 추천해주고 그 이유를 설명해줘 그런데... 주식 추천은 안한다고 합니다. 자기의 규칙이라고 하네요. 이런 규칙도 있구나.. 싶어서 넘어갔는데... 날짜가 바뀌었길래 다시 한 번 물어봤습니다. 이번 주에 수익이 날만한 주식을 추천하고 그 이유를 설명해줘 그런데 이번엔 말을 바꿉니다. 언제는 주식 추천은 안한다고 하더니... 이번엔 줄줄 말하고 있습니다. 생성형 AI가..
구글의 Bard가 Bing AI보다 구글 기술을 모른다?? AI 관련 기술들/생성형 AI 활용 2023. 5. 21. 5월 10일에 개최된 구글 I/O 컨퍼런스에서 구글의 최신 대규모 언어모델(Large Language Model, LLM)인 'PaLM 2'를 발표되었고, 며칠 전에는 PaLM 2의 세부 정보가 일부 알려졌다는 기사를 보았습니다. 또한 구글에서 OpenAI의 영향인지 PaLM 2의 구체적인 핵심 기술을 공개하지 않는다는 내용을 보면서 구글의 Bard는 자사의 모델에 대하여 어느 정도까지 알고 있을까? 라는 궁금증이 생겼습니다. 그래서 Bard와 Bing AI에게 질문을 해 보았습니다.(역시 최신 정보는 알지 못하는 ChatGPT는 제외하였습니다.) 구글의 LLM 모델에 대하여 세대별로 구분해서 자세하게 설명해줘 Bard의 경우, Bing AI의 경우, Bard는 생각보다 당황스러운 결과를 보여주네요. 세..


728x90
반응형

티스토리툴바