본문 바로가기


분류 전체보기

이젠 돈 없으면 LLM은 사용도 못하는 시대가 오고 있나.. AI와 IT 이야기 2024. 9. 9. OpenAI가 GPT-5의 월 구독료를 $2,000(약 260만원)으로 인상하는 방안을 논의하고 있다는 기사가 돌고 있습니다. https://www.mk.co.kr/news/it/11112378 “월 260만원 내면 답해드리죠”…앞으론 GPT에 질문도 함부로 못하겠네 - 매일경제오픈AI 차세대 GPT-5 구독료 책정 오라이언 연산능력 100배 더 커www.mk.co.kr 원본 기사는 미국의 The Information 지의 기사인데요.https://www.theinformation.com/articles/openai-considers-higher-priced-subscriptions-to-its-chatbot-ai-preview-of-the-informations-ai-summit해당 경로로 가도 기사는..
중소 제조 기업의 AI 도입에 대하여... AI와 IT 이야기 2024. 9. 9. 최근에 읽은 기사 중에서 중소 제조 기업의 AI도입에 대한 기사가 있었습니다."공장서도 대세된 AI, 트렌드 넘어 주류 기술로... 솔루션 전환 가속"이라는 기사인데요. http://www.industrynews.co.kr/news/articleView.html?idxno=55358 공장서도 대세된 AI, 트렌드 넘어 주류 기술로… 솔루션 전환 가속 - 인더스트리뉴스[인더스트리뉴스 최종윤 기자] 인공지능(AI) 시대가 열리고 있다. 전 산업군에서 AI에 대한 활용 논의가 이어지고 있으며, AI 폰 등장 등 일상에서도 어렵지 않게 AI가 적용된 제품을 볼 수 있다.국www.industrynews.co.kr 요약해 보면 다음과 같은 내용을 다루고 있습니다.    1. 제조업 분야에서도 AI를 통해 실시간 분..
내 프로젝트에 LLM을 달아보자(3) - 잘못된 대답 고치기 AiDAOps개발/LLM 2024. 9. 6. 이번 글은 프로그래밍 기술적인 부분은 아니고...그냥 심심해서 ollama를 통해서 openchat 모델에 간단한 수학 계산을 시켜본 결과입니다. 리더보드에 나온 평가 지표에는 수학계산 및 표현에 대한 지표도 있었던 것으로 기억하는데...과연 openchat의 표현능력은 얼마나 되나.. 궁금했습니다.그래서 아주 간단하게 x의 제곱을 미분한 결과를 설명해달라고 해 보았습니다. 아래는 그 결과입니다.미분 결과는 틀리지 않았는데 중간에 설명하는 부분이 잘못되었더군요.한 번 지적해 보았는데 제대로 고치지 못하길래 이렇게 고치는 것이 어떠냐.. 라는 식으로 딱 집어서 말해 보았습니다. 그래도 명확하게 지적한 부분은 제대로 이해하고 수정을 하네요.알고 있는 기능이지만 이렇게 보면 새삼 대단한데~ 싶습니다. ^^
직장에서 AI를 사용하는 5가지 유형... 이라... AI와 IT 이야기 2024. 9. 6. 오늘 재미있는 기사를 봤습니다."직장에서 AI를 사용하는 5가지 유형..."이라는 기사였는데 제목 그대로 AI에 대한 직장인들의 태도가 5가지 유형으로 분류가능하며 회사에서 AI를 도입할 때, 이런 개인별 차이점을 반영할 필요가 있다는 연구결과에 대한 내용입니다. https://www.aitimes.com/news/articleView.html?idxno=163124 직장에서 AI를 사용하는 5가지 유형..."AI 도입 시 개인별 접근 방식 달리해야"  - AI타임스인공지능(AI)에 대한 직장인들의 태도를 5가지 유형으로 나눌 수 있다는 연구 결과가 나왔다. 회사에서 AI를 도입할 때는 이런 개인별 차이점을 이해, 적절하게 기술을 배분해야 한다는 지적이다.www.aitimes.com (원본기사)https..
내 프로젝트에 LLM을 달아보자(2) - Ollama API AiDAOps개발/LLM 2024. 9. 5. 지난 글에서 Ollama를 이용하여 로컬 시스템에서 LLM을 설치하고 사용해 보았습니다.그럼 내 프로젝트에 LLM을 적용하려면 어떻게 해야 할까요?기본적으로 LLM은 질의 메시지를 전달하면 결과를 돌려주는 방식이기때문에 프로젝트 내에서도 LLM으로 질의를 던져주고 결과를 받아오는 API를 사용하면 그걸로 끝이라고 볼 수 있습니다.그 외에는 뭐가 필요할까... 생각해보면 Web 환경에서 사용할 수 있는 UI 등이 있을 수 있겠죠.좀 복잡하지만 강력한 기능을 자랑하는 Open-WebUI, 간편하게 사용할 수 있는 Chatbot-Ollama 등 다양한 UI가 제공되고 있습니다.그러나 불행히도 많은 UI가 JavaScript 계열의 환경으로 되어 있습니다.뭐.. WebUI니까 어찌보면 당연하기도 합니다.그런데 ..
내 프로젝트에 LLM을 달아보자(1) - Ollama AiDAOps개발/LLM 2024. 9. 4. 요즘 가장 쉽게 접할 수 있는 AI 이슈는 뭐니뭐니해도 LLM의 개발과 활용에 대한 것이겠죠.그러나 LLM은 개인이 개발하기에는 너무 큰 프로젝트인 것도 사실이므로 대부분의 경우에는 개발이 아니라 활용을 목표로 하게 됩니다.또한 OpenAI의 GPT 계열은 API를 사용하려면 유료 결제를 해야하기때문에 무료로 제공되는 오픈소스 LLM과 API 셋을 찾아다니게 되죠.저도 그런 과정을 거치다가 발견한 것이 Ollama 입니다.Ollama는 로컬 환경에서 LLM을 실행할 수 있도록 지원하는 플랫폼입니다.Linux, Mac, Windows 모두에서 사용할 수 있지만 Windows 버전은 아직 Preview 상태이기때문에 Linux, Mac의 사용이 권장되는 상황입니다.Windows에서 사용하려면 Preview ..
기업의 AI 프로젝트 80%가 실패하고 헛돈만 날리는 이유... AI와 IT 이야기 2024. 9. 3. 며칠 전 "기업의 AI 프로젝트 80%가 실패하고 헛돈만 날리는 이유"라는 기사를 보았습니다. https://www.aitimes.com/news/articleView.html?idxno=162934 [8월29일] 기업의 AI 프로젝트 80%가 실패하고 헛돈만 날리는 이유 - AI타임스기업들이 본격적으로 인공지능(AI)을 도입한 지 일년이 넘었습니다. 국내에서도 지난해 말부터 이런 추세가 시작됐습니다.AI 스타트업을 만나보면 불과 몇개월 전과는 분위기가 많이 다르다고www.aitimes.com https://aimatters.co.kr/news/2909 AI 프로젝트, 80%는 실패한다. – AI MATTERSThe Root Causes of Failure for Artificial Intelligenc..
Docker 설치 및 설정하기 관련 기술/Docker 2024. 9. 2. 지난 글에서 컨테이너 기술에 대하여 다루었습니다.이번 글에서는 컨테이너 기술 중에서 가장 활발하게 사용되고 있는 Docker를 설치해보고자 합니다. 사실 Docker를 설치하려는 이유는 NVIDIA GPU를 텐서플로우에서 사용하기 위해서 입니다.예전 글에서 말했던 적이 있지만... NVIDIA GPU를 사용하려면 CUDA Toolkit을 설치해야 하는데... PyTorch는 그냥 스크립트 한 줄로 해결되지만 텐서플로우는 잘 안됩니다.몇 년 전만하더라도 몇 줄의 스크립트로 텐서플로우 GPU 버전을 사용할 수 있었는데 이젠 설치하기가 매우 까다롭습니다.까다로운 것으로 끝나면 다행인데.. 각 단계에서 문제를 다 해결해도 결국 실패하는 경우가 많았습니다. 결국 NVIDIA에서 제공하는 Docker 컨테이너를 사..
각 국에서 논란이 되고 있는 AI 규제법 AI와 IT 이야기 2024. 8. 30. 전 세계가 AI 규제로 인해 큰 혼란을 겪고 있는 추세입니다.특히 기업 활동의 자율성이 강조되는 미국에서조차 AI에 대한 규제법이 캘리포니아주를 비롯한 여러 주 의회에서 통과하는 등.. AI의 미래에 가시밭 길을 예고하고 있는 듯 합니다.아직 주지사가 법안에 서명하거나 또는 거부권을 행사할 수 있는 단계가 남긴 했지만 상황이 녹록치 않은 것은 사실인 것 같습니다.https://www.aitimes.com/news/articleView.html?idxno=162949 캘리포니아 AI 규제법, 의회 투표 통과...주지사 결정만 남아 - AI타임스실리콘밸리의 반대를 일으켰던 캘리포니아주의 인공지능(AI), 규제법이 결국 주 의회의 투표를 통과했다. 이제 남은 것은 주지사의 서명뿐인데, 기업들은 이를 거부할 것..
칼 세이건의 코스모스(와.. 개인적으로 충격적인 사실.. (해결됨)) 도서 2024. 8. 29. 아마도 우주에 관심이 있는 사람이라면 분명히 들어봤거나 또는 소장하고 있을 책 중 하나가 바로 칼 세이건의 명저 "코스모스"일 것입니다.저도 현재 양장본으로 소장하고 있습니다만...오늘 뭔가 충격적인 사실을 알게되었습니다. 제가 지금 소장하고 있는 책은 최근 구매한 것인데..원래는 제가 어릴때 용돈을 모아서 샀던 책입니다.제 기억으로는 그 책을 샀던 서점이 동네 서점이었고 그 서점은 제가 대학교에 입학하기 전인가.. 입학할 때인가..쯤에 이사를 한 것으로 기억하는데...그렇다면 제가 그 책을 산 것은 적어도 80년대 중후반.. 아무리 늦어도 90년대까지 가지 않았을 것입니다.어릴때 사서 부지런히 읽다가.. 사촌동생에게 빌려줬었는데 나중에 책을 돌려달라고 하니 잃어버렸다는 대답만 돌아와서...그렇게 제 손..


728x90
반응형

티스토리툴바