[비즈니스포스트 채널Who] 16.7페타플롭스와 1102 페타플롭스. 한국과 미국 국립 기관이 각각 가지고 있는 최고 성능 슈퍼컴퓨터의 연산 능력이다.

민간기업을 포함해 우리나라가 보유한 가장 강력한 슈퍼컴퓨터의 성능은 25페타플롭스다. 삼성전자가 보유하고 있다. 

물론 연산 능력의 차이가 그대로 성능 차이를 결정하는 것은 아니지만, 그 차이가 40배라면 이야기가 조금 달라진다. IT 강국 중에서 이야기긴 하지만 우리나라의 슈퍼컴퓨터 기술력이 상당히 뒤쳐져있다는 것을 알 수 있는 일면이다.

현재 우리나라가 보유하고 있는 5대의 슈퍼컴퓨터 가운데 국내에서 개발된 슈퍼컴퓨터는 한 대도 없다. 성능도 선진국에 비해서 낮다.

한국은 2012년에 이르러서야 ‘국가초고성능컴퓨팅위원회’를 만들고 슈퍼컴퓨터와 관련된 투자에 나섰는데 그 당시 미국, 일본, 중국 등은 우리나라의 최고급 슈퍼컴퓨터인 누리온과 비슷한 성능의 슈퍼컴퓨터를 만들고 있었다. 거의 기술력으로 8년 이상 뒤쳐진 셈이다.

과기정통부는 2025년까지 초당 30페타플롭스의 연산을 처리할 수 있는 슈퍼컴퓨터를 국내 기술로 개발할 계획을 세웠다. 이미 미국에서 가장 성능이 좋은 슈퍼컴퓨터의 연산 능력은 초당 1102페타플롭스라는 것을 살피면 때를 놓쳤다고 말해도 과언이 아니다.

하지만 최근 이 ‘완전히 때를 놓친’ 시장에서 한 번 기술력을 끌어올려보겠다고 나선 기업이 있다. 바로 삼성전자다.

경계현 삼성전자 반도체부문 사장은 최근 카이스트 강연에서 “삼성종합기술원에서 2028년까지 메모리가 중심이 되는 슈퍼컴퓨터를 만들어보려고 한다”고 말했다.

삼성전자는 꽤나 슈퍼컴퓨터에 진심인 기업 가운데 하나다. 특히 이재용 회장이 슈퍼컴퓨터에 상당히 관심이 많은 것으로 알려져 있다. 

이재용 회장은 지난해 6월 삼성종합기술원 산하에 ‘슈퍼컴퓨팅센터’를 세웠고, 11월에는 이 센터를 직접 찾아 개발자들과 직접 대화를 나누기도 했다.

그렇다면 ‘메모리 위주의 슈퍼컴퓨터’는 무슨 뜻일까? 그리고 이 메모리 위주의 슈퍼컴퓨터는 뒤쳐진 우리나라의 슈퍼컴퓨터 기술을 단숨에 끌어올려 줄 수 있을까?

‘메모리 위주의 슈퍼컴퓨터’를 살펴보기 위해서는 슈퍼컴퓨터의 ‘용도’와 관련된 측면을 봐야한다.

삼성전자가 슈퍼컴퓨터에 기대하고 있는 것은 바로 인공지능이다.

챗GPT의 대두 이후 인공지능 바람을 타고 미국의 엔비디아 주가가 급등한 것에서도 알 수 있듯이, 인공지능의 ‘두뇌’는 명실상부 그래픽카드(GPU)라고 할 수 있다.

문제는, 인공지능을 위해 슈퍼컴퓨터에서 GPU를 돌리려고 하더라도 GPU가 풀로드 되지 않는 다는 것이다. 쉽게 말해 더 열심히 일해야 할 GPU가 놀아버린다는 뜻이다. 슈퍼컴퓨터 GPU의 연산속도를 메모리가 따라오질 못하기 때문이다.

뭔가 데이터가 날아와야 그걸 가지고 연산을 하는데, 데이터가 메모리에서 안 오니까 GPU는 놀 수 밖에 없다. 

경계현 사장은 “저는 GPU가 (챗GPT에서) 엄청 바쁘게 일할 줄 알았는데 대부분 놀고 있다더라”라며 “왜 그런지 보니 메모리에서 데이터가 와야지 GPU가 뭔가를 쓸텐데, 지금은 GPU 한계가 아니라 메모리 한계가 있더라”라고 표현하기도 했다.

추형석 소프트웨어정책연구소 AI정책연구팀 선임연구원의 ‘슈퍼컴퓨터 주요 동향’ 이라는 보고서에서는 “GPU는 특히 연산능력과 메모리 전송속도의 차이가 크기 때문에 연산강도가 낮은 알고리즘의 경우 상당한 폭으로 성능이 저하된다”고 설명했다.

CPU가 어려운 연산을 해내는 데 특화된 유닛이라면, GPU는 쉬운 연산을 굉장히 빠르게 많이 해내는 데 특화된 유닛이다. 그리고 인공지능 알고리즘에서는, 어려운 계산을 해내는 것 보다 쉬운 계산을 여러번 해내는 게 훨씬 중요하다. 

인공지능 테마를 타고 GPU 기업의 주가가 하늘 높은 줄 모르고 고공행진 하는 이유다.

문제는 GPU가 급속도로 발달하면서 연산속도가 굉장히 빨라지면서 그걸 메모리에서 데이터가 전송되는 속도가 못따라가는 현상이 발생하고 있다는 것이다.

삼성전자는 명실상부 세계에서 제일 뛰어난 메모리반도체 기업이다. 결국 삼성전자는 현재 슈퍼컴퓨터가 맞이하고 있는 한계를 메모리반도체를 통해 해결하려는 원대한 꿈을 품고 있는 것이다.

과연 삼성전자가 자신들이 세계에서 가장 잘하는 메모리반도체를 통해 슈퍼컴퓨터의 두뇌라고 볼 수 있는 GPU의 한계를 메모리반도체를 통해 뛰어넘고, 만년 슈퍼컴퓨터 약소국이었던 우리나라의 입지를 끌어올릴 수 있지 궁금하다. 윤휘종 기자