AI는 왜 GPU가 필요할까? 그래픽카드가 게임 말고 AI에도 쓰이는 이유

요즘 AI 이야기를 보면 GPU라는 말이 자주 나온다.

 

GPT, 제미나이, 클로드 같은 AI 서비스가 커질수록 GPU가 중요하다는 말도 같이 나온다.

 

그런데 처음 들으면 이상하다.

 

GPU는 그래픽카드 아닌가?

 

게임할 때 화면을 그리는 부품 아닌가?

 

AI는 똑똑한 계산을 하는 거니까 CPU가 좋아야 하는 거 아닌가?

 

결론부터 말하면 이렇다.

 

AI가 GPU를 쓰는 이유는 그래픽을 그리기 위해서가 아니다.

 

GPU가 많은 계산을 동시에 처리하는 데 강하기 때문이다.

 

 

---

CPU와 GPU는 잘하는 일이 다르다

CPU는 컴퓨터의 중심 처리 장치다.

 

운영체제를 돌리고, 프로그램을 실행하고, 전체 흐름을 관리한다.

 

마우스 입력, 파일 열기, 브라우저 실행 같은 일도 CPU가 처리한다.

 

CPU는 복잡한 일을 순서대로 판단하는 데 강하다.

 

반대로 GPU는 단순한 계산을 아주 많이 동시에 처리하는 데 강하다.

 

비유하면 이렇게 볼 수 있다.

 

구분	비유	잘하는 일
CPU	똑똑한 관리자 몇 명	복잡한 판단, 순서 처리, 전체 지휘
GPU	계산 담당 직원 수천 명	단순 계산을 대량으로 동시에 처리

 

그래서 CPU와 GPU는 경쟁 관계가 아니다.

 

역할이 다른 부품이다.

 

---

AI는 생각보다 숫자 계산을 많이 한다

AI는 겉으로 보면 사람처럼 대답하는 것처럼 보인다.

 

그래서 뭔가 복잡한 사고를 하는 장치처럼 느껴진다.

 

하지만 컴퓨터 안에서는 결국 숫자 계산이 일어난다.

 

문장을 만들 때도 숫자를 계산한다.

 

이미지를 만들 때도 숫자를 계산한다.

 

음성을 인식할 때도 숫자를 계산한다.

 

AI 모델은 수많은 숫자 값을 가지고 있다.

 

그리고 입력된 질문이나 이미지를 이 숫자들과 계속 계산한다.

 

이 계산은 대부분 비슷한 곱셈과 덧셈을 엄청 많이 반복하는 형태다.

 

이런 계산은 GPU가 아주 잘한다.

 

---

그래픽카드가 왜 이런 계산을 잘할까

GPU는 원래 그래픽을 빠르게 처리하기 위해 만들어졌다.

 

게임 화면을 생각해보면 이해가 쉽다.

 

게임에서는 화면에 수많은 픽셀이 있다.

 

빛, 그림자, 색깔, 3D 위치도 계속 계산해야 한다.

 

이런 작업은 같은 종류의 계산을 엄청 많이 반복한다.

 

GPU는 바로 이런 작업에 맞게 발전했다.

 

그런데 AI 계산도 비슷하다.

 

AI도 많은 숫자를 동시에 계산해야 한다.

 

그래서 그래픽카드가 게임뿐 아니라 AI 계산에도 잘 맞는 것이다.

 

 

 

---

그럼 CPU는 필요 없는 걸까

그건 아니다.

 

CPU는 여전히 필요하다.

 

컴퓨터 전체를 움직이는 일은 CPU가 맡는다.

 

GPU에게 어떤 계산을 시킬지도 CPU가 정리한다.

 

AI 작업에서도 CPU는 데이터를 준비한다.

 

작업 순서를 관리한다.

 

그리고 GPU가 계산할 수 있도록 일을 넘긴다.

 

GPU는 넘겨받은 대량 계산을 빠르게 처리한다.

 

즉 CPU와 GPU는 같이 일한다.

 

상황	결과
CPU만 사용	AI 계산이 너무 느릴 수 있음
GPU만 사용	컴퓨터 전체 운영과 작업 관리가 어려움
CPU + GPU 사용	지휘와 대량 계산을 나눠서 처리

 

---

왜 GPU가 좋을수록 AI가 빨라질까

AI 모델은 계산량이 크다.

 

특히 큰 언어 모델은 한 번 답을 만들 때도 많은 계산을 반복한다.

 

GPU가 좋으면 이 계산을 더 빠르게 처리할 수 있다.

 

그리고 GPU 메모리가 크면 더 큰 모델이나 더 많은 데이터를 다룰 수 있다.

 

그래서 AI 서버에서는 GPU 성능이 중요하다.

 

단순히 화면을 잘 그리는 그래픽카드라서가 아니다.

 

대량 계산을 빠르게 처리하는 병렬 계산 장치이기 때문이다.

 

---

한 줄로 정리하면

GPU는 게임 화면을 그리는 데서 출발했다.

 

하지만 본질은 많은 계산을 동시에 처리하는 장치다.

 

AI는 내부적으로 엄청난 숫자 계산을 반복한다.

 

그래서 CPU보다 GPU가 더 잘 맞는 부분이 많다.

 

다만 CPU가 사라지는 것은 아니다.

 

CPU는 전체 흐름을 지휘한다.

 

GPU는 대량 계산을 맡는다.

 

이 둘이 같이 일할 때 AI 작업이 가장 효율적으로 돌아간다.

 

AI에 GPU가 필요한 이유는 그래픽 때문이 아니다. GPU가 수많은 숫자 계산을 동시에 처리하는 데 강하기 때문이다.

 

---