슈퍼컴퓨터 성능 논쟁: 플롭(FLOPs)의 진실과 함정

최근 슈퍼컴퓨터 성능 경쟁이 치열해지면서 플롭(FLOPs, Floating-point Operations Per Second)이라는 용어가 자주 등장합니다. 하지만 단순한 숫자 놀음에 현혹되지 않고, 플롭이 실제로 의미하는 바와 숨겨진 함정을 파악하는 것이 중요합니다. 이 글에서는 슈퍼컴퓨터 성능 측정의 핵심인 플롭의 개념을 명확히 하고, 다양한 정밀도(FP64, FP32, FP16 등)가 성능에 미치는 영향, 그리고 마케팅 전략에 숨겨진 함정을 짚어보겠습니다.

플롭(FLOPs)이란 무엇인가?

플롭은 부동소수점 연산 1회를 의미하며, 소수점이 있는 숫자를 대상으로 한 번의 산술 계산(덧셈, 뺄셈, 곱셈, 나눗셈)을 수행하는 것을 말합니다. 컴퓨팅 성능을 측정하는 데 정수 연산 대신 부동소수점 연산을 사용하는 이유는 정수 연산보다 측정 지표로서 정확도가 훨씬 높기 때문입니다. 플롭 앞에는 1초 동안 수행하는 연산 횟수를 나타내는 접두어가 붙으며, 메가플롭(1초당 100만 회)부터 엑사플롭(100경)까지 그 단위가 확장되었습니다. 최근에는 엑사플롭 달성 경쟁이 치열하지만, 이는 단순한 성능 자랑을 위한 측면이 강합니다.

부동소수점 정밀도의 중요성

부동소수점 정밀도는 FP4(4비트)에서 시작하여 FP64까지 두 배씩 증가합니다. FP64는 IEEE 754 표준에 따른 64비트 배정밀도 부동소수점 형식으로, 실수를 높은 정확도로 표현하기 위한 규격입니다. FP64는 정밀도가 높기 때문에 계산 시간이 가장 오래 걸리지만, 계산 정확도는 FP32의 2배, FP16의 4배에 해당합니다. 또한, 메모리 사용량도 FP64가 FP32의 2배, FP16의 4배를 사용합니다. 톱500 슈퍼컴퓨터 목록은 슈퍼컴퓨터 성능을 FP64 기준으로 측정하며, 이는 과학 컴퓨팅 애플리케이션이 여전히 64비트 정확도에 주로 의존하기 때문입니다.

다양한 분야별 부동소수점 활용

FP64는 기상 시뮬레이션, 해양 모델링, 자동차 충돌 시뮬레이션, 항공기 날개 공력 분석, 석유 시추 지점을 찾기 위한 탄성파 분석, 신약 설계를 위한 분자 모델링 등 높은 수준의 과학적 정밀도를 요구하는 분야에서 널리 사용됩니다. FP32는 생명과학 시뮬레이션과 금융 모델링에 주로 사용되며, FP16은 AI 추론에서 일상적으로 사용됩니다. AI 학습은 FP64에 전적으로 의존하는데, 이는 AI가 개나 고양이 이미지를 구분하는 것처럼 복잡한 특징을 인식하려면 FP64의 미세한 정밀도가 필요하기 때문입니다.

숨겨진 함정: 마케팅 용어로서의 플롭

페타플롭과 엑사플롭이 마케팅 용어로 변질되면서 일부 하드웨어 업체는 벤치마크에서 어떤 부동소수점 정밀도를 사용하는지 명확하게 공개하지 않기도 합니다. 엑사스케일 성능을 홍보하면서 작은 글씨로 FP8 기준이라는 점을 명시하는 경우가 대표적입니다. 과거에는 엑사플롭 성능이 64비트 과학 컴퓨팅 기준을 의미했지만, 현재는 그렇지 않습니다. 특히 AI 분야에서는 플롭 수치 뒤에 숨겨진 정밀도를 반드시 확인해야 합니다. '총합 AI 플롭'이라는 용어를 사용하면서도 플롭의 기준과 정밀도에 대한 표준 정의가 없는 경우도 있습니다.

결론

슈퍼컴퓨터 성능을 평가할 때는 단순한 플롭 숫자에 현혹되지 않고, 어떤 정밀도 기준으로 측정되었는지 꼼꼼히 확인해야 합니다. 특히 AI 분야에서는 플롭 수치 뒤에 숨겨진 함정을 파악하는 것이 중요합니다. 이제는 플롭이라는 용어가 과학적 기준뿐만 아니라 마케팅 도구로도 사용되고 있음을 인지하고, 정보의 정확성을 검증하는 비판적인 시각을 갖춰야 할 때입니다.