최대 10조 개 파라미터…젠슨 황 CEO “세계에서 가장 강력한 칩”
AI 진화 속도 점점 빨라진다…현 수준 뛰어넘는 ‘인간AI’ 등장 예고
엔비디아가 18일 공개한 새로운 그래픽처리장치(GPU) 블랙웰이 나오면서 현재의 수준을 크게 뛰어넘는 AI 등장이 가능해지게 됐다.
엔비디아가 차세대 AI칩 분야에서 또다시 한걸음 앞서 나가며 선두주자 굳히기에 나선 가운데 AI 진화 속도도 한층 빨라지는 흐름이다.
엔비디아는 블랙웰이 최대 10조 개의 파라미터로 확장되는 모델에 대한 AI 훈련과 실시간 거대 언어모델(LLM) 추론을 지원한다고 밝혔다.
블랙웰 GPU 72개와 자체 중앙처리장치(CPU)인 그레이스를 36개 결합한 ‘GB200 NVL72’라는 컴퓨팅 유닛을 여러 개 결합하면 최대 10조 개 파라미터의 AI 모델도 구동할 수 있다는 얘기다.
젠슨 황 CEO는 이날 블랙웰을 공개하는 자리에서 “2080억개의 트랜지스터를 탑재한 세계에서 가장 강력한 칩”이라며 “블랙웰은 모든 산업에서 AI를 구현시키며, 우리 회사 역사상 가장 성공적인 제품이 될 것”이라고 강조했다.
파라미터는 생성형 AI가 정보를 학습하고 기억하는 신경 연결 역할을 하는데, 많을수록 AI 성능도 더 뛰어난 것으로 여겨진다.
오픈AI의 GPT-3의 경우 파라미터가 1750억개에 달한다. 오픈AI의 최신 AI 모델인 GPT-4의 경우 GPT-3보다 훨씬 크지만, 정확한 수치는 공개되지 않았다.
GPT-4의 파라미터가 5000억개라고 가정할 경우 이보다 최대 20배 뛰어난 성능의 AI 모델도 지원할 수 있다는 것이다. 사람의 뇌는 약 100조 개에 달한다.
구글의 생성형 AI 제미나이의 파라미터는 1조 개에 달하며, 우리나라 네이버의 하이퍼클로바X는 수천억개의 파라미터를 학습한 평가를 받고 있다.
현재는 최신 AI 칩인 H100이 주로 AI 모델 구동을 지원하고 있지만, 지원할 수 있는 최대 파라미터 한도가 어디까지인지는 확인되지 않았다.
다만, H100을 연결해 파라미터가 10조개에 달하는 AI를 지원할 수 있다고 하더라도 속도가 느려지는 등 100% 성능을 발휘할 수 없는 것과 달리 블랙웰은 최대 10조개까지는 원활한 지원이 가능하다.
업계 한 관계자는 “블랙웰 등장으로 GPT-4보다 성능이 훨씬 뛰어난 AI 모델도 나올 수 있다”며 “그동안 그 이상의 AI 모델을 만들고 싶어도 그에 걸맞은 칩이 없어서 시도하지 못했을 수도 있다”고 말했다.
