Bing AI와 Bard가 추천하는 RTX모델은?

AI 모델 개발을 하려면 GPU를 사용하기 위한 그래픽카드가 필수죠.

그래픽카드의 비싼 가격을 이유로 구입을 여태 미뤄왔지만 계속 미루기에는 슬슬 한계가 다가오고 있는 것 같습니다.

지금까지는 CoLab 등을 이용하면서 어떻게든 버텨왔지만 Native로 작동하는 모델을 다루는 일들이 점점 늘어나고 있네요.

 

어떤 모델을 사는 것이 가장 합리적일까.. 라고 계속 고민을 하고 있습니다만..

아무래도 최고성능을 가진 RTX4090 모델을 사는 것이 가장 좋겠지만 어마어마한 가격이 문제죠.

단순히 CUDA 코어 수만을 따진다면 RTX4080보다는 RTX3080~3090이 더 많은 코어를 가지고 있죠.

그러나 베이스가 되는 아키텍처를 본다면 최신 아키텍처인 Ada Lovelace 아키텍처를 사용하는 RTX40 시리즈를 선택하는 것이 타당해 보입니다.

이전 세대의 아키텍처인 Ampere 아키텍처보다 AI 모델을 위한 기능이 대폭으로 강화되었다고 하니까요.

 

그래서 Bing AI와 Bard에게 Ada Lovelace 아키텍처에 대하여 물어보았습니다.

ChatGPT는 2021년 9월 이후의 내용은 모른다고 대답을 거부하기 때문에 이번에는 뺐습니다.

 

Ada Lovelace 아키텍처에 대한 Bing AI의 대답

 

Ada Lovelace 아키텍처에 대한 Bard의 대답

 

역시 시스템의 베이스가 되는 아키텍처를 무시할 수는 없을 것 같습니다.

일단은 RTX30계열은 선택 대상에서 제외해야 할 것 같네요.

 

 

 

 

 

그럼 도대체 어떤 모델을 선택하는 것이 가장 좋을까..

사실 가격이나 그런 것을 따져보면 대답은 거의 나와있다고 볼 수 있겠죠.

RTX4090이 제일 좋지만 비싸서... RTX4070은 여러모로 욕을 먹고 있는 모델이니... 결국 남은 것은 RTX4080일겁니다.

그런데 사실 RTX4080은 Spec 정보를 보면 여러 부분에서 뭔가 가운데 껴서 여기저기 눈치를 보는.. 애매한 Spec을 가진 모델이긴 합니다.

 

이런 뭔가 찜찜한 상황에서... 누군가 내 선택에 동의를 해줄 사람(?)을 찾게 되는 것은 당연한 심리상태.... 겠죠..?

 

아무튼.. 그래서 역시 Bing AI와 Bard에게 추천을 요구했습니다.

일단은 RTX40 모델 중에서 추천해 달라고 해 보았습니다.

 

Bing AI의 추천은 RTX 4070 Ti (???!!!)

 

Bard의 추천은 RTX4070 (...)

 

Bing AI와 Bard 모두 RTX4070을 추천하는군요.(뭐 Bing AI는 Ti 모델이긴 합니다만..)

아마도 가성비가 좋은 모델이라고 했기 때문에... 그리고 그냥 RTX40을 비교하라고 했기 때문에 게이밍 노트북으로서의 요구 성능을 기준으로 추천한 것으로 보입니다.

 

그래서 이번에는 AI 모델 개발에 쓸거라고 명시하고 다시 추천해 달라고 했습니다.

 

Bing AI의 이번 추천은 RTX4080 (흠..)

 

Bard의 추천은 RTX4090 (가성비는???)

 

흠...

AI 모델 개발용으로 명시를 했더니 Bing AI는 RTX4080을 추천하고 Bard는 RTX4090을 추천하는군요.

그런데 왠지 Bard는 뭔가 포기한 듯한 느낌을 주네요.

RTX4090을 추천하는데 RTX4080을 하건 RTX4070을 하건 맘대로 해라... 라는 느낌이네요.

 

앞에서도 언급을 했지만... 사실상 가능한 답은 정해져 있는 상태에서...

Bing AI와 Bard가 왜 저런 선택을 했는지를 간략하게 설명한 내용을 보니 새로운 느낌이 듭니다.

 

역시 얘네들은 잘 쓰면 꽤 편해지겠다.. 싶습니다. ^^