60초 만에 WebXR 앱이 나온다: Gemini가 XR Blocks를 조합하는 법

Google Research가 공개한 Vibe Coding XR의 아키텍처, Gemini Flash·Pro 성능 비교, XR Blocks 프레임워크 구조와 전통적 XR 개발 대비 차이를 정리한다.

2026-08-14 · 최초 발행 2026-04-03

2026년 3월, Google Research가 공개한 Vibe Coding XR은 자연어 프롬프트만으로 완전한 WebXR 애플리케이션을 60초 이내에 생성하는 워크플로다. 오픈소스 프레임워크인 XR Blocks와 Gemini의 추론 능력을 결합해, 공간 컴퓨팅 개발의 진입 장벽을 획기적으로 낮췄다.

말로 설명하면 코드가 된다

Vibe Coding XR은 Google Research가 2026년 3월에 발표한 논문(arXiv: 2603.24591)을 기반으로 하는 XR 프로토타이핑 워크플로다. 핵심 개념은 "바이브 코딩(Vibe Coding)"이라는 용어에 담겨 있다. 개발자가 코드를 직접 작성하는 대신, 자연어로 원하는 XR 경험을 설명하면 AI가 이를 해석해 실행 가능한 WebXR 애플리케이션을 생성하는 방식이다.

이 워크플로는 두 핵심 구성 요소로 이뤄진다. Google이 오픈소스로 공개한 XR Blocks 프레임워크가 깊이(depth)·물리 엔진·제스처 인식·공간 UI 등 복잡한 공간 컴퓨팅 기반 작업을 고수준 모듈로 추상화하고, Gemini Canvas 내에서 동작하는 Gemini 모델이 자연어 의도를 해석해 XR Blocks API 호출로 변환한다.

자연어에서 헤드셋까지, 하나의 파이프라인

Vibe Coding XR의 워크플로는 자연어 입력에서 실행 가능한 XR 앱 출력까지의 전체 파이프라인을 자동화한다.

출력XR Blocks 프레임워크 (오픈소스)Gemini 추론 엔진사용자 입력자연어 프롬프트(예: 태양계 3D 모델을물리 엔진으로 구현해줘)Gemini Canvas의도 파싱(공간 요소, 인터랙션 추출)XR Blocks 코드 생성코드 검증 최적화깊이(Depth) 모듈물리 엔진 모듈제스처 인식 모듈공간 UI 모듈WebXR 렌더링 엔진WebXR 애플리케이션Chrome 데스크톱 미리보기Android XR 헤드셋 실행

Flash는 빠르고, Pro는 덜 틀린다

Google의 내부 평가에 따르면 Gemini Flash와 Gemini Pro는 XR 프로토타이핑에서 서로 다른 강점을 보인다.

항목 Gemini Flash Gemini Pro
프로토타입 생성 시간 약 20초 약 45~60초
복잡한 지시 이해도 보통 우수
환각(Hallucination) 발생률 높음 낮음
물리 엔진 통합 정확도 보통 높음
권장 사용 시나리오 단순 UI 프로토타입 복잡한 인터랙션 설계

Gemini Flash는 단순한 3D 장면 구성에서 20초라는 압도적 속도를 보이지만, 복잡한 물리 시뮬레이션이나 다중 인터랙션이 필요한 경우에는 Gemini Pro가 환각 발생률이 현저히 낮아 더 신뢰할 수 있는 결과를 만든다.

Scene부터 Audio까지, 조합되는 블록들

XR Blocks는 WebXR 개발의 복잡성을 추상화하는 모듈형 프레임워크다. 각 "블록"은 특정 공간 컴퓨팅 기능을 캡슐화하며 개발자가 직접 쓰거나 Gemini가 자동으로 조합할 수 있다. Scene Block은 3D 장면 그래프 관리·조명·카메라 설정을, Physics Block은 강체 역학(rigid body dynamics)·충돌 감지·중력 시뮬레이션을, Gesture Block은 핸드 트래킹·핀치(pinch)·그랩(grab)·포인팅 제스처 인식을, Spatial UI Block은 3D 공간에 배치되는 패널·버튼·슬라이더 등 UI 요소를, Depth Block은 환경 깊이 추정·오클루전(occlusion) 처리를, Audio Block은 공간 오디오·3D 사운드 소스 배치를 담당한다. 이 블록들은 조합 가능(composable)하게 설계돼, Gemini가 자연어를 분석한 후 필요한 블록들을 자동으로 선택하고 연결할 수 있다.

수일 걸리던 일이 60초로

수일~수주60초 이내Vibe Coding XR자연어 프롬프트원하는 경험 설명Gemini 코드 생성XR Blocks 자동 조합즉시 미리보기브라우저에서 확인반복 수정프롬프트 수정으로 개선전통적 XR 개발개발 환경 설정Unity/Unreal 설치3D 에셋 제작모델링, 텍스처링코드 작성C#/C++ 프로그래밍물리/인터랙션엔진 통합빌드 배포플랫폼별 컴파일테스트 반복디바이스 디버깅프로토타입 완성프로토타입 완성
비교 항목 전통적 XR 개발 Vibe Coding XR
프로토타입 소요 시간 수일~수주 60초 이내
필요 기술 스택 C#/C++, Unity/Unreal, 3D 모델링 자연어 작성 능력
개발 환경 대용량 IDE 설치 필요 Chrome 브라우저
배포 방식 플랫폼별 빌드 필요 WebXR로 즉시 배포
프로덕션 적합성 높음 프로토타이핑에 한정
커스터마이징 자유도 무제한 프레임워크 범위 내

교육 자료부터 게임 메카닉까지

Vibe Coding XR은 다양한 영역에서 프로토타이핑 도구로 활용될 수 있다. 교육 분야에서는 "태양계의 행성 궤도를 3D로 보여주되, 각 행성을 잡아서 정보를 확인할 수 있게 해줘"라는 프롬프트만으로 인터랙티브 천문학 교육 자료를 즉석에서 생성할 수 있다. UI/UX 디자인에서는 공간 컴퓨팅 애플리케이션의 UI 콘셉트를 자연어로 빠르게 프로토타이핑한 후 이해관계자에게 즉시 시연할 수 있어, 기존에는 수일이 걸리던 콘셉트 증명(PoC)을 분 단위로 단축한다. 게임 디자인에서는 게임 메카닉의 초기 아이디어를 자연어로 빠르게 구현해 플레이 테스트할 수 있는데, 물리 엔진 통합이 XR Blocks 수준에서 자동화되므로 복잡한 인터랙션도 프롬프트 수정만으로 반복 실험이 가능하다.

Vibe Coding XR은 현재 XR Blocks Gem 데모(xrblocks.github.io/gem, Chrome 데스크톱 또는 Android XR 헤드셋), XR Blocks 프레임워크 소스(github.com/google/xrblocks, 오픈소스), 논문(arXiv:2603.24591) 경로로 접근할 수 있다. 자연어에서 실행 가능한 WebXR 애플리케이션까지의 전체 경로를 60초 이내로 단축하는 이 워크플로는 XR 개발의 진입 장벽을 근본적으로 낮췄지만, 현재는 프로토타이핑 단계에 최적화돼 있으므로 프로덕션급 XR 애플리케이션에는 전통적 개발 파이프라인과의 병행이 필요하다.

Sources

VibeCodingXRXRBlocksGeminiWebXR공간컴퓨팅