변이가 1%만 쓸모 있어도 진화는 전진한다, 96%를 이긴 LLM

진화를 기울기를 못 쓸 때 꺼내는 무작위 탐색으로 보는 통념에 Akarsh Kumar는 선택이 부분 해답을 붙잡아 주기 때문에 "anything but random"이라고 반박한다. Core War 실험에서 LLM은 맨손으로는 Redcode를 못 짰지만, 변이 연산자로 쓰고 검증기를 붙이자 사람이 쓴 워리어의 96%를 이겼다.

• 진화는 랜덤이 아니다 — Kumar는 AI 쪽에서 진화를 기울기를 못 쓸 때 쓰는 멍청한 무작위 탐색으로 보지만, 진화는 "anything but random"이라고 잘라 말한다.
• 가능한 생명 — 인공생명은 지금 있는 생명이 아니라 "life as it could be"를 이해하는 일이고, 가능한 모든 지능의 공간을 알아야 일반 원리를 말할 수 있다고 한다.
• 경로 의존 — 인간 학습과 진화는 순차적·경로 의존적이고, 그래서 표현에 규칙성이 생기며 견고하고 일반화가 잘 된다고 본다.
• 세렌디피티 커리큘럼 — 커리큘럼만으로는 부족하고, 미리 짜지 않은 "serendipitous curriculum"이 필요하다고 말한다.
• 통계 vs 규칙성 — FER 계열 연구는 통계적 지능이 아니라 규칙성 기반 지능이라는 다른 패러다임을 연구하는 것이고, 규칙성이 회로 안에 구워져 있다고 설명한다.
• Game of Life — 셀이 켜짐/꺼짐 둘뿐인 2D 격자와 두세 개의 규칙에서 아무도 예상 못 한 복잡성이 나오며, 커뮤니티는 정보 전파 속도(셀 1칸/스텝)를 빛의 속도 C라 부른다.
• 시뮬레이터 목록 — ASAL은 Lenia, neural cellular automata, Boids, Particle Life를 다뤘고, Particle Life에는 입자 6종의 6x6 상호작용 행렬로 세포처럼 보이는 패턴이 나타난다.
• 지속성의 출현 — 세포 모양 객체는 물리 규칙을 이용해 지속하는 대상을 만든 것이며, 모든 시뮬레이션이 아니라 일부에서만 생긴다고 한다.
• ASAL 방식 — 시뮬레이션 공간을 매개변수화하고, 돌려 본 결과를 foundation model에 보여 평가하게 하며, 결과를 예측하려 하지 않는다.
• 고양이 아무거나 — 특정 고양이 이미지를 요구하면 탐색이 어렵지만 "아무 고양이나"라고 하면 만족하는 공간이 훨씬 넓어져 찾기 쉽다.
• 작은 섬 — Life-like 규칙 약 26만 개를 CLIP 공간에 찍자 개방형이 아닌 큰 섬 하나와 가장 흥미로운 시뮬레이션이 모인 작은 섬이 갈렸다.
• Core War 결과 — MAP-Elites 안에서 LLM을 변이로 쓴 워리어는 첫 라운드에서 사람이 만든 약 300개 워리어의 96%를 이겼고, 라운드가 거듭될수록 일반화되며 행동 분산이 줄었다.
• 1% 법칙 — 선택이 부분 해답을 붙잡으면 지수적 탐색이 선형으로 바뀌고, 변이가 1% 정도만 쓸모 있어도 되는데 LLM은 그보다 훨씬 높은 성공률을 낸다.

그가 한 말

첫 번째 훈련 라운드에서 이미 인간 워리어 데이터셋의 96%를 이길 수 있습니다. 인간 워리어가 300개쯤 되는 데이터셋인데, LLM으로 진화시키는 것만으로 그중 96%를 이깁니다.In this first round of training we can already beat like 96% of a data set of human warriors. There's like a data set of like 300 human warriors. We can beat 96% of them just by using an LLM to evolve them.44분 12초

LLM은 레드코드를 잘 못합니다. 이 언어를 제로샷으로 시키면 형편없습니다.The LLM is not good at red code. If you just try to zero this language, it's terrible.2분 52초

퍼즐의 한 부분이라도 풀고 그것을 붙잡은 채 나머지를 찾으면, 지수적인 탐색 문제를 선형 탐색 문제로 바꿀 수 있습니다.If you solve like even one part of a puzzle and you hang on to that and you search for the other ones, you can turn your exponential search problem into a linear search problem.3분 3초

하지만 진화에 필요한 건 돌연변이가 1% 정도만 쓸모 있는 것뿐입니다.But all it needs is your mutations to be good like 1% of the time, right?46분 35초

이해관계 · Kumar는 Sakana AI와 연계돼 있고 ASAL 논문의 주저자이지만, 이 대담에서 판매하는 제품은 없다.

덧붙임 — 여기에 하나 덧붙이면, "LLM 대 진화"가 아니라 LLM이 변이의 질을 올리고 검증기가 선택을 맡는 분업으로 읽어야 한다. 이 논리는 Redcode 같은 자동 검증이 가능한 문제에서 가장 잘 성립한다.

오늘 밤 해볼 수 있는 한 가지
풀고 싶은 작은 문제 하나(예: 테스트가 있는 함수)를 정해, LLM에게 코드를 다시 쓰게 하는 변이 루프를 돌려 보자. 테스트 통과 여부를 검증기로 삼아 통과한 후보만 남기고 20회 돌린 뒤, 한 번에 생성한 결과와 비교해 보자.