현재의 AI와 딥러닝 모델에 대하여..

제가 AI에 관심을 가지고 공부를 하기 시작한것이 2004년쯤이었으니까 벌써 19년정도 되었네요.

3년정도 개인적으로 공부하다가 2007년에 대학원에 진학하면서 본격적으로 진행을 했었죠.

그 당시에는 AI, 특히 제가 관심이 많았던 신경망은 장래성이 없다는 평가였기때문에 공부할때도 힘들었던 것으로 기억합니다.

지금은 신경망이 좀 더 발전한 딥러닝이 산업과 사회, 경제 전반을 휩쓸고 있네요(격세지감이 느껴집니다..)

 

그러나 저는 개인적으로 현재의 딥러닝 모델과 신경망에 대하여 문제가 많다는 생각을 하고 있습니다.

지금은 AI, 딥러닝, 데이터 분석 등을 주제로 강의를 많이 하고 있는데, 강의할 때에도 늘 그런 이야기를 학생들에게 해주고 있습니다.

기술 자체가 문제가 있는 것은 아니고.. 흔히 말하는 강인공지능을 향해서 가기에는 상당히 많은 부분이 바뀌어야 한다는 거죠.

많은 분들이 딥러닝이 조금 더 발달하면 강인공지능을 구현할 수 있을것이라고 생각하시는 것 같은데.. 제 생각으로는 불가능하다는 입장입니다.

세계적으로 유명한 석학들이 AI의 위험성을 이야기하고 있지만 현재의 딥러닝 기반 모델에서는 그런 위험은 불가능하다고 보고 있습니다.

 

이유를 말하자면 두 가지를 들 수 있는데...

 

첫 번째 이유는...

현재의 딥러닝 모델의 근간이 되는 신경망 모델은 실제 신경체계를 모방했다고 하지만... 한 마디로 말하면 모방은 모방이되 극도로 단순화한 모델이므로 실제 신경체계를 모방했다고 보기에는 약간 어렵다는 것입니다.

 

우리 몸의 신경세포들이 신호를 전달하는 것도 컴퓨터와 마찬가지로 전기신호입니다.

그러나 전기신호는 전달 중에 저항을 만나 약화되거나 소멸됩니다.

특히 우리 몸은 많은 양의 수분을 가지고 있기 때문에 저항이 더욱 커지죠.

그래서 우리 몸이 선택한 방법은 시냅스에서 신호를 전달받으면 신경전달물질을 분비하고 다음 신경세포의 시냅스에서는 그 물질을 수용하면서 이온화 및 화학작용을 통해 전위차를 발생시켜 전기신호를 새로 만들어 전달하는 것입니다.

그런 과정을 거쳐서 뇌까지 문제없이 신호를 전달하게 되죠.

 

그런데 이 과정에서 분비되는 신경전달물질은 한 가지가 아닙니다.

약 100여가지의 신경전달물질(세로토닌, 도파민, 아드레날린 등)이 우리 몸 속에 존재하고 있으며 어떤 물질이 분비되는가에 따라서 우리 몸의 반응이 달라집니다.

어떤 물질을 분비하는지 결정하는 과정은 아직 명확하지는 않지만 시냅스까지 전달된 전기 신호의 파형? 패턴?에 따라서 결정되는 것으로 추정하고 있습니다.

따라서 동일한 신호만 전달되는 것으로 간주되어 다양한 신경전달물질의 패턴이 반영되지 않는 현재의 신경망 모델과 딥러닝 모델은 우리의 신경체계를 모방하기에는 그 능력이 너무 미미하다는 것입니다.

 

두 번째 이유는...

바로 딥러닝 모델의 학습과정입니다.

퍼셉트론이 등장하고 침체기를 겪고 다시 부활하는데에는 학습 알고리즘인 Backpropagation(역전파) 알고리즘이 큰 역할을 한 것은 분명합니다.

사실 역전파 알고리즘이 개발되기 전의 퍼셉트론(SLP이든 MLP이든 관계없이)은 AI 모델이라고 할 수 없다는 것이 제 주장입니다.

왜냐하면 학습이라는 개념 자체가 없는 모델이거든요.

그러나 1986년, 유명한 제프리 힌튼 교수가 개발한 역전파 알고리즘이 도입되면서 퍼셉트론 기반의 신경망 모델은 학습이라는 개념이 성립했습니다.

여기까지는 별 문제가 없는데..

 

문제는 우리 몸의 신경체계는 역전파따위는 하지 않는다는 것입니다.

우리 몸의 신경체계에서는.. 신호는 한 번 지나가는 것으로 끝입니다.

그렇게 지나가는 신호가 얼마나 자주 발생하는가에 따라서 신경세포와 시냅스의 민감도가 상승하고 물리적으로 굵어지거나 가늘어지거나 또는 세포가 증식하거나 소멸하거나.. 이런 과정을 거치면서 학습이라는(정확하게는 학습이라고 하기도 어렵죠) 것이 성립하게 됩니다.

 

이런 이유들로 인해서 성능이나 효율이나 여러가지 가능성 등이 실제 신경체계를 모방했다고 하기에는 너무 부족하다는 것입니다.

이런 문제점을 해결하기 전에는 흔히 말하는 강인공지능같은 것은 불가능에 가깝다는 것이 제 생각입니다.

 

오늘 AiTimes 를 보니 9월 22일자 기사에 제프리 힌튼, 얀 르쿤, 요슈아 벤지오. 이렇게 3명의 거장이 한 간담회 내용이 올라왔더군요.

현재의 딥러닝 모델은 신경과학적인 요소가 반영되어서 새롭게 연구되어야 하며, 동시에 역전파 알고리즘을 대체할 수 있는 새로운 방법을 찾아야 더 발전할 수 있을것이다.. 현재의 거대 AI 모델로 가는 방향은 (뭐 필요하기는 하지만) 답이 될 수는 없다.. 이런 이야기였습니다.

 

http://www.aitimes.com/news/articleView.html?idxno=146939 

"AI모델이 갖춰야 할 필수 요소는 예측성"...AI석학 3인이 본 AI의 과제 - AI타임스

 

세계적인 거장들이 저와 비슷한 주장을 한 것을 보니까.. 역시 이쪽 분야에서 오랫동안 생각을 해 온 사람들은 다들 비슷한 생각을 가지고 있구나... 라고 새삼 느꼈네요.

 

이후의 딥러닝, AI는 과연 어떤 방향으로 흘러갈 것인가.. 라고 생각하니 기대가 되기도 하고.. 따라가지 못하고 떨어지는건 아닐까.. 라는 두려움도 생기네요.