반도체 산업에 대해 공부하는 'For K-chips(포카칩)' 연구모임(간사: 강태우 뉴스1 기자)이 11월 29일 모임을 가졌습니다. 

모임 회원인 고석현 중앙일보 기자가 정리한 강의 내용을 공유합니다.

□ 주제 : 컴퓨터의 출발과 미래 - 인공 신경망과 뉴로모픽 하드웨어

□ 강사 : 황철성 서울대 석좌교수

<포카칩 회원들이 황철성 교수의 강의를 듣고 있다.>  

이번 강연은 ‘컴퓨터의 출발과 미래 - 인공 신경망과 뉴로모픽 하드웨어’를 주제로, AI를 구성하는 하드웨어인 반도체의 원리와 미래 반도체 변화에 대해 진행됐다. 강연은 크게 △새로운 컴퓨터 시스템 △폰 노이만 구조와 인간의 뇌 △뉴로모픽·인메모리 컴퓨팅과 DNA 메모리 등으로 나뉘어 진행됐다.

사람의 연산 방법과 컴퓨터의 연상 방법은 차이가 있다. 예를 들어 ‘1+1’에 대한 답을 구하려 할 때, 컴퓨터는 복잡한 연산과정을 거치지만, 사람은 간단하게 풀어낸다. 사람은 과거에 계산했던 기억을 다시 꺼내내는 것이기 때문이다. 반면 컴퓨터는 모든 숫자를 1과 0으로 바꿔 계산하는 이진법으로 구동한다.  

반도체 회로도 마찬가지다. 회로에서의 전달이 있고 없음을 쉽게 구별하는 방식이다. 트랜지스터가 스위치와 같은 역할을 하는데, 스위치를 켜면 1이 출력되고 끄면 0이 출력되는 것과 같은 원리다. 합(SUM)과 자리올림(Carry)회로가 있는데, 입력에 따라 회로의 연결 상태를 바꿔주면 다른 출력 결과가 나온다. 이를 조합해 원하는 입출력을 조절하는 게 컴퓨팅의 원리다. 다양한 회로의 조합으로 곱셈과 같이 복잡한 연산도 가능해지고, 이를 활용해 컴퓨터나 스마트폰과 같은 다양한 디지털 제품도 개발할 수 있다.

여기서 중요한 게 복잡한 연산일수록 회로를 잘 구성하고 최적화하는 것이다. 컴퓨터는 많은 계산을 빠르게 수행할 수 있는 장점을 가지고 있지만, 연산을 수행하는 과정에서 많은 회로 동작이 필요하고 시간이 소요될 수 있다. 이러한 한계는 컴퓨터 구조나 알고리즘을 개선해 극복하려는 연구와 노력이 계속되고 있다.

AI 딥러닝도 마찬가지다. 딥러닝은 여러 요소 간의 가중치를 찾고 결정을 내리는 과정을 수행하는 것을 의미한다. 여러 가지 방법을 활용해 가중치를 조정하고, 어떤 결괏값이 나오는지 기록하고 분석하는 것이다. 딥러닝은 많은 데이터와 매개변수를 가지는 복잡한 모델에서 효과적으로 작동할 수 있는데, 이는 비용 함수를 효율적으로 최소화하는 최적화 알고리즘과 이에 기반을 둔 백프로퍼게이션(역전파)의 사용으로 이뤄진다. 이를 통해 딥러닝 모델은 입력에 대한 정확한 출력을 예측하고, 다양한 문제를 해결할 수 있게 되는 것이다.

이러한 과정에서 많은 계산량과 데이터의 처리를 해야 하며, 최적의 결과를 얻기 위해서는 적절한 하이퍼 파라미터 설정과 모델의 구조 설계가 필요하다.  

딥러닝은 지속적인 연구와 개발이 진행되고 있는 분야로, 다양한 알고리즘과 기법이 개발되고 발전되고 있다. 미분을 복잡한 함수에 적용하면 복잡한 데이터 처리도 가능해진다.  

최근 인기를 끄는 GPT는 Generative Pre-trained Transformer의 줄임말인데, 이중 Pre-trained는 미분과 최적화를 사용해 가중치 값을 찾는 과정을 의미한다. GPT 기능이 발전하며 상상하기 어려운 규모의 매개변수를 가진다. 이에 대한 가중치를 최적화하는 건 쉽지 않아, 훈련 대신 추론이 주로 사용된다. GPT와 대형 언어 모델(Large language model)은 언어 처리에 사용되는 모델이고, 이미지 처리에 대해선 추가적 연구가 이어지고 있다.

주로 그래픽 처리를 담당해왔던 GPU(그래픽처리장치)가 AI 분야에서 획기적 돌파구를 마련 해줬다. 기존에 활용돼왔던 CPU(중앙처리장치)에 비해 병렬 계산 작업에 특화되어 있기 때문에 빠른 계산 속도를 내고, 대량의 데이터를 동시에 처리할 수 있기 때문이다. 고성능 대역폭(밴드위스)을 가정해 GPU가 제작됐기에, HBM(High Bandwidth Memory) 시장도 확대되고 있다.

그렇다면 미래 컴퓨팅은 어떻게 발전할까. 황철성 교수는 “현재 활발하게 연구되고 있는 양자컴퓨터의 경우 ‘1과 0’의 중첩원리를 활용하는데, 현재까지 컴퓨터로 풀기 어려웠던 문제를 잘 풀어낼 수 있다”라며 “컴퓨터 연구자들의 궁극적 목표는 AI의 비약적으로 발전해 인간의 지능을 뛰어넘는 기점인 ‘특이점’을 이해해 보는 것”이라고 설명했다.  

■ 황철성 서울대 재료공학부 석좌교수는

메모리 소자와 반도체 물질·공정 분야 연구의 세계적인 석학으로, 미국 국립 표준 기술연구소와 삼성전자 반도체연구소 선임연구원, 서울대 반도체 공동 연구소장 등을 역임했다. D램의 한계를 극복하기 위한 소재 등 미래 메모리 소자 분야 연구를 하고 있다. 2004년 젊은 과학자 상 대통령 상, 2016년 과학기술진흥부문 대통령 표창 등을 받았고 2014년 영국 왕립화학회 펠로우에 선정됐다.