컴퓨팅 속도를 높이는 획기적인 동시 및 이기종 멀티스레딩 기술

Apple 및 Google과 같은 거대 기술 기업의 모든 새로운 장치는 배터리 수명의 한 자릿수 증가, 제조업체에 아직 최적의 수율을 제공하지 못하는 프로세서의 나노미터 감소, 몇 메가픽셀의 추가 등 점진적인 개선 기능을 갖추고 있지만 문제는 다음과 같습니다. 발생: 그러한 작은 개선이 정말 충분합니까? 더 많은 하드웨어를 추가하는 것이 해결책입니까?

캘리포니아 대학교 리버사이드(UCR) 전기 및 컴퓨터 공학과의 Hung-Wei Tseng 부교수에 따르면 그렇지 않습니다. 그는 말한다: 

"이미 프로세서가 설치되어 있으므로 새로운 프로세서를 추가할 필요가 없습니다."

정 교수 연구팀은 병렬 처리를 위한 새로운 소프트웨어 프레임워크 개발 동시 및 이종 멀티스레딩(SHMT)이라고 합니다. 초기 결과에 따르면 SHMT는 개인용 컴퓨터, 휴대폰 및 기타 장치에 있는 현재 프로세서의 잠재 기능을 활용하여 처리 속도를 크게 향상시키고 전력 소비를 줄일 준비가 되어 있습니다.

기술 커뮤니티에서 "획기적"이라고 칭찬받는 SHMT는 데이터 흐름 병목 현상을 제거하고 많은 처리 장치의 원활한 협업을 촉진하는 것을 목표로 합니다. 이러한 획기적인 발전은 개인용 전자 제품뿐만 아니라 데이터 센터 및 기타 대규모 병렬 컴퓨팅에도 영향을 미칠 수 있습니다.

고급 포토닉스를 통해 어떻게 더 나은 스마트폰을 만들 수 있는지 알아보려면 여기를 클릭하세요.

병목 현상 해소

동시 및 이기종 멀티스레딩으로 달성할 수 있는 모든 기능을 탐색하기 전에 먼저 현재 컴퓨팅 시스템의 한계를 이해하겠습니다. 

대부분의 장치에서는 중앙 처리 장치(CPU), 그래픽 처리 장치(GPU), 텐서 처리 장치(TPU)와 같은 다양한 구성 요소가 정보를 별도로 처리합니다. 데이터는 한 처리 장치에서 다른 처리 장치로 전송되며, 이로 인해 전체 시스템 성능을 방해하는 "병목 현상"이 발생하는 경우가 많습니다.

이러한 문제는 일반적으로 단일 유형의 프로세서에 작업을 위임하여 다른 리소스가 유휴 상태이거나 활용도가 낮은 상태로 방치되는 기존 프로그래밍 모델로 인해 더욱 악화됩니다. 이러한 관찰 결과를 반영하여, Kuan-Chieh Hsu와 Hung-Wei Tseng의 연구 논문 '동시 및 이기종 멀티스레딩'은 다음과 같이 기술합니다. 

"확고한 프로그래밍 모델은 각 코드 영역에 대해 가장 효율적인 처리 장치만 사용하는 데 중점을 두어 이기종 컴퓨터 내의 처리 능력을 충분히 활용하지 못합니다."

SHMT는 컴퓨팅 시스템 내 여러 구성 요소의 다양성을 활용하여 이러한 접근 방식에서 벗어났습니다. 이 개념을 이질성(heterogeneity)이라고 합니다. SHMT는 계산 기능을 세분화하고 이를 사용 가능한 처리 장치에 분산함으로써 진정한 병렬 처리를 촉진합니다. 

계산 기능을 분해하고 이를 여러 처리 장치에 분산시키는 이러한 접근 방식은 사용 가능한 리소스의 활용을 극대화하여 성능을 향상시키고 에너지를 절약합니다. 연구 논문에서는 "코드 영역을 한 종류의 프로세서에만 독점적으로 위임할 수 있고, 현재 기능에 기여하지 않고 다른 컴퓨팅 리소스를 유휴 상태로 남겨둘 수 있다"고 말함으로써 기존 프로그래밍 모델의 단점을 자세히 분석합니다. 

반면 SHMT는 각 처리 장치의 고유한 기술과 공유 코드 영역에서의 협업을 활용하여 이러한 제약에서 벗어나는 것을 목표로 합니다. 저자들은 또한 모든 컴퓨팅 플랫폼이 여러 유형의 처리 장치와 하드웨어 가속기를 통합하고 있기 때문에 현대 컴퓨팅 기술이 명백히 이질적이라고 지적합니다. 따라서 이러한 다양한 구성 요소의 성능을 효과적으로 활용할 수 있는 프로그래밍 모델이 필요하며, 이는 바로 SHMT가 달성하고자 하는 목표입니다.

따라서 SHMT는 현재 전통적인 컴퓨팅의 병목 현상을 해결하여 더 빠르고 효율적인 컴퓨팅을 위한 길을 열어줍니다. 

동시 및 이기종 멀티스레딩 기술은 어떻게 작동합니까?

분명한 바와 같이, 다양한 하드웨어 구성 요소 간에 컴퓨팅 활동을 효율적으로 관리하고 배포하는 것이 SHMT의 기본 원칙입니다. 

프레임워크에는 CPU 애플리케이션에서 애플리케이션으로 작업 오프로드를 용이하게 하는 가상 작업(VOP) 모음이 포함되어 있습니다. 가상 하드웨어 장치연구에 따르면 "가상 연산(VOP) 집합을 통해 CPU 프로그램은 가상 하드웨어 장치로 기능을 '오프로드'할 수 있습니다." 이러한 VOP는 프로그램과 하드웨어 사이에 장벽을 생성하여 통신과 작업 위임을 중재합니다.

런타임 시스템은 애플리케이션 실행 중에 각 하드웨어 리소스의 성능을 평가하고 지능적인 스케줄링 결정을 내림으로써 성능을 최적화합니다. 연구에 따르면, "프로그램 실행 중에 런타임 시스템은 동시 및 이기종 멀티스레딩의 가상 하드웨어를 구동하여 하드웨어 리소스의 스케줄링 결정 능력을 측정합니다." SHMT는 리소스 효율성을 극대화하고 작업별 요구 사항에 맞게 조정하기 위해 하드웨어 성능을 동적으로 평가합니다.

런타임 시스템은 VOP를 상위 수준 작업(HLOP)으로 나누어 다양한 하드웨어 작업 대기열에 배포합니다. 연구에 따르면 "런타임 시스템은 VOP를 하나 이상의 HLOP(고급 작업)로 나누어 여러 하드웨어 리소스를 동시에 사용합니다." VOP를 HLOP로 분해하면 작업 할당과 각 처리 장치의 최대 활용도를 세밀하게 제어할 수 있습니다.

SHMT 스케줄링 정책은 품질 인식 작업 훔치기(QAWS) 방식을 활용하여 효율적인 리소스 활용과 다양한 워크로드를 보장합니다. 연구에 따르면, "SHMT는 리소스를 독점하지 않으면서도 품질 관리와 워크로드 균형을 유지하는 데 도움이 되는 품질 인식 작업 훔치기(QAWS) 스케줄링 정책을 사용합니다." 이 방식은 시스템 전체에 작업을 효과적으로 분배할 뿐만 아니라, 어떤 처리 장치도 리소스를 독점하지 못하도록 합니다.

SHMT가 품질 저하 없이 성능을 극대화하려면 QAWS 스케줄링 정책이 필요합니다. 연구에 따르면 "SHMT는 상당한 오버헤드를 발생시키지 않고 결과를 보장해야 합니다." 이기종 처리 장치의 출력이 정확하고 일관되도록 보장하기 위해 SHMT는 품질 관리 기술을 일정 관리에 통합합니다.

각 하드웨어의 특정 기능을 활용하는 SHMT의 능력은 큰 장점입니다. 연구에 따르면 "SHMT는 동일한 기능에서 여러 유형의 컴퓨팅 리소스로 계산을 분할하고 그 동안 이기종 유형의 병렬 처리를 활용할 수 있습니다." SHMT는 이기종 시스템의 병렬 처리를 활용하여 여러 프로세서 장치에서 동시에 작업을 실행하므로 성능을 크게 향상시킵니다.

유연하고 적응적이어야 하는 SHMT의 또 다른 측면은 런타임 시스템입니다. 연구에 따르면 "HLOP는 하드웨어 독립적이므로 런타임 시스템은 필요에 따라 작업 할당을 조정할 수 있습니다." 적응성 덕분에 SHMT는 하드웨어 가용성이나 작업 부하 요구 사항의 변화에 ​​즉각적으로 반응하여 시스템이 최고의 효율성과 성능으로 실행되도록 유지할 수 있습니다.

전반적으로 이 연구는 SHMT의 작동 방식을 이해하는 데 필요한 모든 단계를 제시하고, 이기종 컴퓨팅 환경에서 놀라운 효율성과 효과를 달성할 수 있는 중요한 부분과 프로세스에 주목합니다. VOP, HLOP 및 QAWS 스케줄링 전략을 사용하여 병렬 처리를 혁신하는 SHMT 덕분에 효율적이고 강력한 컴퓨팅의 새로운 시대가 곧 시작됩니다.

프로토타입의 초기 테스트에서 얻은 긍정적인 결과

SHMT의 작동을 증명하기 위해 UCR 연구진은 최신 휴대폰에 표준으로 사용되는 부품을 사용하여 데이터 센터 기능을 모방한 프로토타입 시스템에 대한 엄격한 테스트를 수행했습니다. 이 프로토타입에는 시스템의 M.2 Key E 슬롯을 통해 통합된 Google Edge TPU, 쿼드코어 ARM Cortex-A57 프로세서를 탑재한 NVIDIA Jetson Nano 모듈, 그리고 128개의 Maxwell 아키텍처 GPU 코어가 포함되었습니다.

다양한 워크로드 환경에서 SHMT 프레임워크의 성능을 평가하기 위해 연구진은 프로토타입을 다양한 벤치마크 프로그램에 적용했습니다. 그 결과는 놀라웠습니다. 최고 성능을 보인 QAWS 전략은 에너지 사용량을 51% 절감했을 뿐만 아니라, 기본 기법 대비 처리 성능을 1.95배 향상시켰습니다.

이 결과는 SHMT가 광범위한 장치 및 소프트웨어 애플리케이션에서 처리 성능과 에너지 효율을 크게 향상시킬 수 있는 잠재력을 보여줍니다. SHMT는 새 하드웨어에 큰 비용을 들이지 않고도 모든 리소스를 더 효율적으로 활용하여 현재 설정을 최대한 활용할 수 있음을 보여주었습니다.

더 빠르고 효율적인 컴퓨팅에 대한 요구가 계속 증가함에 따라 동시 및 이기종 멀티스레딩과 같은 획기적인 기술이 미래 기술 궤적을 형성하는 데 점점 더 중요해질 것입니다. UCR 연구팀의 작업은 디지털 세계의 역동적인 요구에 적응할 수 있는 장기적인 고성능 컴퓨팅 솔루션을 찾는 것이 UCR 연구팀의 작업보다 결코 쉬웠던 적이 없다는 것을 분명히 보여줍니다.

동시 및 이기종 멀티스레딩의 시사점과 향후 방향

SHMT의 생성과 테스트는 컴퓨팅의 미래에 있어 중대한 변화를 의미합니다. 이는 기존 하드웨어를 통해 상당한 성능 향상과 에너지 절약을 제공함으로써 여러 응용 프로그램 전반에 걸쳐 컴퓨팅 장치 설계 및 사용에 혁명을 일으킬 수 있는 잠재력을 가지고 있습니다.

SHMT가 널리 채택됨에 따라 소비자는 값비싼 하드웨어 업데이트를 피하고 더 빠르고 응답성이 뛰어난 모바일 장치, 태블릿, 노트북 및 데스크탑을 즐길 수 있습니다. 이로 인해 곧 더 많은 사람들이 고성능 컴퓨터를 구입하고 사용할 수 있게 되어 디지털 격차를 해소하는 데 도움이 될 것입니다.

데이터 센터 및 기타 대규모 컴퓨팅 시스템 역시 SHMT가 성능 저하 없이 비용과 에너지 사용량을 절감하는 데 필수적인 도구가 될 수 있습니다. 또한, SHMT와 같이 에너지 효율과 지속가능성을 증진하는 혁신은 기술의 환경적 영향에 대한 우려가 커짐에 따라 그 중요성이 더욱 커질 것입니다.

최선의 노력에도 불구하고, UCR 연구팀은 아직 극복해야 할 장애물과 앞으로 더 많은 조사와 발전을 위한 기회가 있음을 인식하고 있습니다. 소프트웨어 엔지니어와 하드웨어 제조업체는 SHMT를 대규모로 구현하기 위해 긴밀히 협력해야 합니다. 이렇게 하면 기술이 모든 장치와 플랫폼에서 잘 작동하도록 보장됩니다. 그러나 이 혁신적인 기술을 사용하는 데 가장 적합한 애플리케이션과 워크로드를 결정하려면 추가 연구가 필요합니다.

이러한 어려움에도 불구하고 학계와 기업 모두 SHMT의 유망한 초기 결과에 주목하고 있습니다. 연구가 진행되고 협력 연구가 진행됨에 따라 이 획기적인 기술이 컴퓨터 산업을 혁신할 가능성은 점점 더 매력적이 되고 있습니다. 

다른 많은 훌륭한 아이디어와 마찬가지로 동시 및 이종 멀티스레딩은 상식의 산물인 것처럼 보이지만 악마는 세부 사항에 있습니다. CPU와 GPU 간의 공유 캐시 아이디어는 흥미롭지만 하드웨어 아키텍처를 완전히 점검해야 할 가능성이 높습니다.

이는 현재의 x86-64 아키텍처에서 벗어나는 것을 보장하며, 이러한 설계에는 공유 L3 또는 L4 캐시를 갖춘 새로운 프로세서 아키텍처의 개발이 필요합니다. 이는 결과적으로 CPU의 복잡성을 증가시키고 공유 캐시에서 얻은 이점을 잠재적으로 무효화합니다. 

게다가 캐시 메모리는 일반적으로 시스템 RAM에 비해 훨씬 작으며 많은 양의 고대역폭 메모리가 필요한 GPU 애플리케이션에는 적합하지 않습니다. 그러나 다음과 같은 발전은 범용 메모리 이러한 우려를 해결할 수 있습니다. SHMT에 대한 연구가 계속됨에 따라 이 혁신적인 기술이 어떻게 발전하고 병렬 처리 및 이기종 컴퓨팅의 미래에 영향을 미치는지 보는 것은 흥미로울 것입니다.