최근 해외 하드웨어 커뮤니티와 깃허브(GitHub)를 뜨겁게 달군 흥미진진한 그래픽 모딩 소식이 하나 전해졌습니다.
바로 AMD 라데온(Radeon) 그래픽카드에서 엔비디아의 최신 차세대 기술인 ‘DLSS 5 신경망 렌더링(Neural Rendering)’을 강제로 구동하는 서드파티 도구(DLSS-NR on AMD)가 공개된 것인데요.
개발자(danielblnc)가 공개한 릴리즈 노트에 따르면, 최신 플래그십 그래픽카드인 라데온 RX 9070 XT를 장착하고 <사이버펑크 2077> 1080p(FHD) 환경에서 75 FPS를 달성했다고 합니다.
이 소식을 언뜻 접한 게이머분들이라면 “드디어 라데온에서도 엔비디아의 최신 DLSS를 켜서 프레임이 비약적으로 뻥튀기되었구나!”라고 생각하기 쉽습니다.
하지만 결론부터 말씀드리면, 이 ’75 FPS’라는 숫자는 우리가 직관적으로 떠올리는 것과 정반대의 의미를 가지고 있습니다. 프레임이 75까지 올라가며 빨라진 것이 아니라, 원래 150프레임 이상 뿜어져 나와야 할 화면이 AI 신경망 연산 부하 때문에 75프레임까지 처절하게 깎여 나갔다는 뜻이기 때문입니다.
도대체 어떻게 엔비디아 전용 기술이 라데온에서 돌아가는 것인지, 왜 프레임을 올려주는 게 아니라 깎아먹는 것인지, 하드웨어 아키텍처의 비밀과 실사용 시 주의사항을 차근차근 짚어보겠습니다.
1. 단순한 ‘변환 래퍼(Wrapper)’가 아니다: 바닥부터 다시 짠 신경망 런타임
그동안 PC 게이밍 씬에는 엔비디아의 DLSS 설정을 AMD의 FSR이나 인텔의 XeSS로 토스해 주는 모드(예: OptiScaler나 FSR 3 프레임 생성 모드)들이 꽤 많았습니다. 게임 엔진이 “DLSS 함수 실행해 줘”라고 호출하면, 중간에서 가로채 “라데온이니까 FSR로 바꿔서 실행할게” 하고 전달해 주는 일종의 ‘통역사(번역 레이어)’ 역할을 했던 것이죠.
하지만 이번에 공개된 DLSS-NR on AMD 프로젝트는 그런 단순한 변환 래퍼가 아닙니다.
개발자의 설명에 따르면, 엔비디아의 신경망 런타임(Runtime) 자체를 AMD GPU 아키텍처에서 직접 실행될 수 있도록 AMD의 HIP(Heterogeneous-compute Interface for Portability) 연산 커널을 이용해 바닥부터 완전히 새로 작성(From-scratch Reimplementation)했다고 합니다.
구동 순서 역시 기존 모드들과는 정반대입니다.
- 게임 설정에서 AMD FSR 업스케일러를 먼저 활성화하여 기본 해상도를 업스케일링합니다.
- 그 위에 모드가 개입하여 DLSS 5의 신경망 렌더링(Neural Rendering) 패스를 추가 레이어로 덧씌우는 구조입니다.
게다가 이 모드를 구동하려면 DLSS 5를 공식 지원하는 다른 게임 패키지에서 정품 엔비디아 라이브러리인 nvngx_dlssnr.dll (빌드 310.8.0.0) 파일을 직접 추출해 게임 폴더에 집어넣어야 하는 독특한 구조를 취하고 있습니다.
2. 가장 큰 오해: ‘신경망 렌더링’은 업스케일러가 아니다
많은 분들이 DLSS라는 이름 때문에 “이걸 켜면 프레임이 오르겠지?”라고 착각합니다. 우리가 잘 알고 있는 DLSS 2나 FSR 2는 ‘초해상도 업스케일러(Super Resolution)’로, 낮은 해상도로 가볍게 렌더링한 뒤 AI나 알고리즘으로 화면을 키워 프레임을 대폭 올려주는 기술이 맞습니다.
하지만 엔비디아가 DLSS 5에서 선보인 신경망 렌더링(Neural Rendering, NR)은 근본적으로 목적이 다릅니다.
- 업스케일러 (DLSS 2 / FSR): 렌더링 해상도를 낮춰 프레임을 벌어다 주는(Gain) 기술
- 신경망 렌더링 (DLSS 5 NR): 그래픽 품질을 위해 프레임을 지불하는(Cost) 최종 후처리 단계
현대 고사양 3D 게임은 연산 성능의 한계(Performance Budget) 때문에 완벽한 빛의 굴절, 복잡한 재질 반사, 미세한 간접 조명을 온전히 계산하지 못하고 생략하거나 타협합니다. 신경망 렌더링은 이 타협된 영역에 딥러닝 AI 모델을 개입시켜, 생략되었던 실시간 광원 디테일과 재질감을 사진처럼 극대화하여 복원해 내는 기법입니다.
즉, 프레임을 희생해서 극상의 비주얼 디테일을 얻는 기술이지, 프레임을 올려주는 마법의 부스터가 결코 아닙니다.
3. 텐서 코어가 없는 라데온의 연산 지옥: ’75 FPS’의 숨겨진 의미
그렇다면 엔비디아의 정식 지포스 그래픽카드와 라데온의 차이는 어디서 발생할까요? 바로 하드웨어 가속기(Tensor Core)의 유무입니다.
엔비디아 지포스 RTX 50 시리즈에는 딥러닝 텐서 연산만을 초고속으로 전담 처리하는 전용 ‘텐서 코어(Tensor Core)’가 칩셋 내부에 물리적으로 탑재되어 있습니다. 3D 그래픽을 그리는 일반 셰이더 자원을 거의 건드리지 않고도 텐서 코어가 독자적으로 신경망을 돌리기 때문에, NBA 2K27 같은 게임에서 4K 해상도로 370 FPS라는 경이로운 프레임을 유지할 수 있는 것입니다.
반면, AMD 라데온(RX 9070 XT를 포함한 RDNA 아키텍처)에는 엔비디아 규격의 텐서 코어가 없습니다.
결국 모더가 작성한 HIP 연산 커널은 라데온 그래픽카드가 게임 화면(폴리곤, 텍스처, 래스터라이징)을 그리는 데 써야 할 일반 연산 셰이더(Compute Shaders)를 강제로 쪼개어 신경망 연산에 갈아 넣는 방식을 선택할 수밖에 없었습니다.
이 때문에 극심한 셰이더 병목 현상이 발생합니다.
- 1080p 해상도에서 RX 9070 XT 정도의 최신 플래그십 그래픽카드라면 원래 가볍게 150~200 FPS 이상을 뿜어내야 정상입니다.
- 하지만 신경망 렌더링 패스가 셰이더 자원을 무지막지하게 집어삼키면서, 초기 알파(0.3.1) 버전에서는 프레임이 고작 33 FPS 수준으로 폭락했습니다.
- 이후 연산 정밀도를 타협한 ‘Fast 모드’를 도입하고 나서야 겨우 75 FPS 선까지 끌어올린 것입니다.
결국 “75 FPS 달성”이라는 발표는 성능이 좋아졌다는 자랑이 아니라, “텐서 코어도 없는 라데온 셰이더를 쥐어짜서 신경망 연산을 돌렸음에도 불구하고 75프레임까지 방어해 냈다”는 모더의 기술적 사투를 의미하는 셈입니다.
4. 각 진영의 공식 지원 현황과 AMD의 행보
현재 이 프로젝트는 엔비디아나 AMD의 공식 승인을 받은 것이 전혀 아닙니다.
엔비디아의 DLSS 5 신경망 렌더링 런칭 타이틀은 <NBA 2K27> 및 지포스 나우 얼티밋 환경이며, <사이버펑크 2077>은 아직 엔비디아 공식 DLSS 5 지원 목록에도 올라와 있지 않습니다. CD 프로젝트 레드(CDPR) 공식 패치 역시 FSR 3까지만 지원할 뿐 신경망 렌더링에 대한 언급은 없습니다.
AMD 역시 손을 놓고 있는 것은 아닙니다. 펄어비스의 신작 <붉은사막(Crimson Desert)> 시연을 통해 라데온 전용 차세대 신경망 복원 기술인 ‘FSR 레이 리제너레이션(FSR Ray Regeneration)’의 작업물을 일부 선보인 바 있으며, 이는 차세대 RDNA 5 아키텍처에서 본격적인 하드웨어 가속과 함께 공식 발표될 것으로 점쳐지고 있습니다.
5. 일반 게이머가 반드시 주의해야 할 3대 위험 요소
기술적인 호기심에 이 모드를 직접 다운받아 테스트해 보고 싶으신 분들이 계실 텐데요, 실사용 전 반드시 알아두셔야 할 치명적인 리스크들이 있습니다.
1. 온라인 게임 안티치트(Anti-Cheat) 영구 정지 위험
이 툴은 외부 DLL을 게임 프로세스 메모리에 직접 주입(Injection)하는 방식으로 작동합니다. 사이버펑크 2077 같은 싱글 플레이 게임은 안티치트가 없어서 구동되지만, 배틀그라운드, 발로란트, 오버워치 같은 멀티플레이 게임에서 실행했다가는 핵 프로그램(변조 툴)으로 감지되어 계정이 영구 정지(VAC/Anti-cheat Ban)될 수 있습니다.
2. 비공개 소스코드 바이너리의 보안 리스크
깃허브 프로젝트 형태로 공개되어 있긴 하지만, 현재 배포본은 소스코드가 투명하게 공개되지 않은 바이너리 인스톨러(Installer) 형태입니다. 개발자가 주장하는 “엔비디아 코드가 일체 들어가지 않았다”는 점을 제3자가 검증할 수 없으며, 시스템 보안 측면에서도 검증되지 않은 외부 실행 파일을 설치하는 위험을 감수해야 합니다.
3. 라이선스 저작권 분쟁 소지
사용자가 다른 정식 게임에서 엔비디아의 독점 파일인 nvngx_dlssnr.dll을 무단으로 복사해 가져와야 한다는 점에서 엔비디아 EULA(최종 사용자 라이선스 계약) 위반 소지가 다분합니다.
정리하며
엔지니어링 관점에서 바라본 이번 DLSS-NR on AMD 프로젝트는 대단히 흥미롭고 놀라운 성과임에 틀림없습니다. 엔비디아의 독점 딥러닝 하드웨어에 종속되어 있던 최신 신경망 렌더링 알고리즘을, 순수 오픈 컴퓨팅 환경인 HIP 커널을 통해 타사 GPU에서 성공적으로 구동해 냈기 때문입니다.
하지만 일반 게이머 관점에서의 실사용 가치는 아직 물음표입니다.
화면의 미세한 광원 품질을 조금 높이겠다고 150프레임 이상 나와야 할 고급 그래픽카드의 프레임을 75프레임 수준으로 반토막 내는 것은, 대부분의 사용자에게 결코 달가운 트레이드오프가 아니기 때문이죠.
지금 당장은 “라데온에서도 기술적으로 이런 구동이 가능하구나” 하는 기술 실증(PoC) 정도로 지켜보시는 것을 추천하며, 라데온 사용자분들은 향후 AMD가 정식으로 내놓을 ‘FSR Ray Regeneration’의 공식 드라이버 지원을 기다리는 편이 훨씬 안정적이고 현명한 선택이 될 것입니다.
오늘 정리해 드린 분석이 그래픽 신기술에 대한 궁금증을 해소하는 데 도움이 되었기를 바랍니다. 글이 유익하셨다면 하단의 공감과 구독 부탁드리며, 여러분의 생각은 어떠신지 댓글로 자유롭게 남겨주세요!