AlphaEvolve — Gemini를 변이 연산자로 쓴 진화 알고리즘이 Strassen을 넘어선 방법

Google DeepMind가 2025년 5월 공개한 AlphaEvolve는 Gemini 대형 언어 모델과 진화 알고리즘을 결합하여 수학·컴퓨터과학 분야의 미해결 문제에서 새로운 알고리즘을 자동으로 발견하는 코딩 에이전트다. 50개 이상의 수학 미해결 문제에서 약 75%는 최고 수준의 기존 해법과 동등한 결과를 냈고, 약 20%에서는 기존 최선의 해법을 능가하는 새로운 알고리즘을 발견했다. AlphaEvolve는 이론적 성취에 그치지 않고 Google 데이터센터의 전력 관리 스케줄링 알고리즘 최적화와 TPU 칩 설계 간소화에 실제 적용되어 실무적 가치를 입증했다.

LLM을 변이 연산자로 쓴다는 발상

AlphaEvolve의 핵심 설계 철학은 LLM을 단순한 코드 생성 도구가 아닌 진화 알고리즘의 변이 연산자(mutation operator)로 활용한다는 점이다. 전통적인 진화 알고리즘에서 변이는 무작위 비트 반전이나 간단한 규칙 기반 조작으로 수행되는 반면, AlphaEvolve에서는 Gemini 모델이 기존 알고리즘 코드를 이해하고 맥락에 맞는 의미론적 변이(semantic mutation)를 생성한다.

⤢✕

AlphaEvolve는 Gemini 모델 두 가지를 전략적으로 조합한다. Gemini Flash는 탐색의 폭(breadth)을 담당한다. 빠른 추론 속도를 활용하여 다양한 변이 후보를 대량 생성하고 탐색 공간을 넓게 커버한다. 반면 Gemini Pro는 탐색의 깊이(depth)를 담당한다. 유망한 후보 알고리즘에 대해 심층적이고 통찰력 있는 개선안을 제시한다. 이 앙상블 전략은 넓은 탐색과 집중적 개선 사이의 균형을 동적으로 조정하여 탐색 효율성을 극대화한다.

AlphaEvolve의 성능은 적합도 함수(fitness function) 설계에 크게 좌우된다. 수학 문제에서는 발견된 알고리즘의 정확성을 자동으로 검증할 수 있는 검증기(verifier)가 필수적이다. 행렬 곱셈 알고리즘의 경우 연산 결과의 정확성을 수치적으로 검증할 수 있으므로 자동화 평가가 가능하다. 적합도 함수는 정확성뿐만 아니라 연산 복잡도(스칼라 곱셈 횟수 최소화), 수치 안정성, 실제 하드웨어에서의 실행 시간 등 다차원 목표를 포함한다.

진화 알고리즘의 고전적 문제인 조기 수렴(premature convergence)을 방지하기 위해 AlphaEvolve는 알고리즘 집단 내 구조적 다양성을 유지하는 메커니즘을 갖춘다. 단순히 최고 점수의 후보만을 유지하는 것이 아니라, 서로 다른 구조적 특성을 가진 알고리즘들의 균형 잡힌 집단을 관리하여 지역 최적해(local optima)에 갇히는 것을 방지한다.

Strassen을 넘어선 행렬 곱셈, 그리고 미해결 문제 75%

AlphaEvolve의 가장 주목할 만한 수학적 성취는 4×4 복소수 행렬 곱셈 알고리즘 발견이다. 1969년 Strassen이 발표한 알고리즘은 수십 년간 이 분야의 최선으로 알려져 있었다. AlphaEvolve는 Strassen 알고리즘보다 더 적은 48번의 스칼라 곱셈으로 4×4 복소수 행렬 곱셈을 수행하는 새로운 알고리즘을 발견했다. 행렬 곱셈 최적화는 딥러닝 학습의 핵심 연산을 가속화하므로 실질적인 컴퓨팅 비용 절감으로 이어진다.

수학 분석, 기하학, 조합론, 수론 분야의 50개 이상 미해결 문제를 대상으로 한 평가에서 AlphaEvolve는 약 75%의 문제에서 현재 최고 수준의 해법과 동등한 결과를 달성했고, 약 20%의 문제에서 기존 최선의 해법을 개선하는 새로운 알고리즘을 발견했다. 키싱 수(kissing number) 문제에서도 진전을 보여 IEEE Spectrum이 주목한 바 있다.

AI 주도 알고리즘 발견은 어디에 위치하는가

AlphaEvolve는 자동 프로그램 합성(Automatic Program Synthesis) 분야와 메타휴리스틱 최적화(metaheuristic optimization)의 교차점에 위치한다. 전통적인 프로그램 합성은 논리적 사양(formal specification)에서 프로그램을 자동 도출하지만, 탐색 공간이 방대하여 실용적 규모의 문제에는 적용이 어렵다. AlphaEvolve는 이 한계를 LLM의 사전 지식과 창의적 추론 능력으로 보완하여 대규모 알고리즘 탐색을 현실화한다.

⤢✕

AlphaEvolve의 전신 격인 FunSearch(2023)는 LLM을 사용하여 수학 함수를 탐색하는 최초의 LLM-진화 알고리즘 결합 시스템이었다. AlphaEvolve는 FunSearch의 단일 함수 탐색에서 전체 알고리즘 코드베이스 수준의 탐색으로 스케일을 확장하고, 더 강력한 Gemini 모델을 활용하여 탐색 품질을 높였다.

이론에서 Google 인프라로

AlphaEvolve가 개발한 데이터센터 스케줄링 알고리즘은 Google의 대규모 컴퓨팅 인프라에 실제 적용되었다. 작업 스케줄링 최적화를 통해 서버 가동률을 높이고 전력 소비를 줄이는 효과를 달성했으며, 이는 수백만 달러 규모의 운영 비용 절감으로 이어진 것으로 알려져 있다.

하드웨어 설계 영역에서도 AlphaEvolve는 TPU(Tensor Processing Unit) 회로 설계의 기능적으로 동등한 간소화를 발견했다. 이는 AlphaEvolve가 소프트웨어 알고리즘을 넘어 하드웨어 설계 최적화에도 적용 가능함을 보여주며, AI for Science 패러다임의 적용 범위를 넓힌다.

AlphaFold(단백질 구조 예측)에서 시작된 Google DeepMind의 AI for Science 계보는 AlphaGeometry(기하학 문제 풀이), AlphaProof(수학 증명), AlphaEvolve(알고리즘 발견)로 이어지며 과학 연구의 자동화 영역을 확장하고 있다. 이 패러다임의 공통점은 검증 가능한 형식적 평가(formal evaluation)가 가능한 문제 영역에서 AI가 특히 강력한 성과를 낸다는 점이다.

실무 적용 가능성 측면에서 AlphaEvolve 방식은 최적화 가능한 코드 구성 요소와 자동화된 성능 평가 체계가 갖춰진 소프트웨어 엔지니어링 분야에 적용 가능하다. 컴파일러 최적화, 암호화 알고리즘, 수치 해석 라이브러리, 데이터베이스 쿼리 최적화 등이 유망한 적용 영역이다.

AlphaEvolve는 Gemini 모델을 변이 연산자로 활용하는 LLM-진화 알고리즘 융합 아키텍처로, 수십 년간 해결되지 않은 수학 문제에서 새로운 알고리즘을 자동 발견하는 성과를 달성했다. 데이터센터 스케줄링과 TPU 설계 최적화에의 실제 적용은 AI 주도 알고리즘 발견이 이론적 연구에 그치지 않고 실용적 가치를 창출함을 입증한다.

LLM을 변이 연산자로 쓴다는 발상

Strassen을 넘어선 행렬 곱셈, 그리고 미해결 문제 75%

AI 주도 알고리즘 발견은 어디에 위치하는가

이론에서 Google 인프라로

Sources

함께 읽기