에이전트가 한 달 대기해도 서버리스 비용 0원인 이유

Restate 개발자 Giselle van Dongen은 에이전트 루프 자체가 아니라 그 밑을 떠받치는 인프라가 문제라고 말한다. 재시도 · 복구 · 세션 격리 · 실행 취소를 팀마다 부실하게 재발명하고 있다는 것이다. 그가 보여준 것은 한 달을 기다려도 죽지 않는 승인 대기 함수였다.

• 세 번째 물결 — Andrej Karpathy를 인용하며 LLM 상호작용이 웹사이트형, 앱형을 지나 이제 조직 곳곳의 툴과 다른 에이전트에 접근하는 영속적·비동기적 엔티티 단계로 가고 있다고 말했다.
• SDK의 한계 — 에이전트 SDK는 PoC를 빠르게 만드는 데는 좋지만 조직 내 분산된 부분을 연결하는 데는 도움이 안 된다고 지적했다.
• Restate 4요소 — 단일 실행의 복원력(durable execution), 수천 개 동시 세션의 상태 격리, 에이전트·MCP 서버 간 통신, 실행 중단·취소라는 네 가지를 뼈대로 제시했다.
• 저널 기반 복구 — 에이전트가 이벤트를 Restate로 보내면 그 저널로 실패 지점까지 정확히 되돌려 복구하며, 처음부터 다시 시작하지 않는다고 설명했다.
• 데모: Slack 리서치 에이전트 — 플래너가 하위 주제를 제안하면 승인 버튼을 눌러 병렬 서브 에이전트를 띄우는 딥리서치 워크플로를 시연했다.
• 주입된 장애 — 웹 검색 API 장애를 일부러 주입했더니 처음부터 재시작하지 않고 저널을 이용해 해당 지점에서 재시도 후 성공했다고 보여줬다.
• restate.run — 파이썬 LLM 호출을 restate.run으로 감싸면 두 시간 뒤든 두 달 뒤든 실패 시 정확히 그 지점부터 복구된다고 설명했다.
• 서버리스 비용 0원 대기 — 사람 승인을 몇 주~한 달 기다리는 동안 함수가 서스펜드돼 서버리스 실행 시간을 전혀 소비하지 않는다고 밝혔다.
• virtual object — 세션 ID를 가진 virtual object로 상태를 격리해 두 개의 Slack 메시지가 같은 세션 상태를 덮어쓰지 않도록 한 번에 하나의 실행만 돌게 보장한다고 설명했다.
• 진행 중 개입 — 실행 중인 리서치에 'focus on frontier models'라고 추가 지시를 주입하면 LLM이 관련성을 분류해 신호로 주입하거나, 무관하면 취소 후 새로 시작한다고 시연했다.
• 취소는 스택을 되감는다 — 컨트롤러를 취소하면 서브 에이전트부터 순서대로 취소되며 호출 체인을 따라 신호가 내려가 스택을 되감는다고 설명했다.
• push vs pull — 대부분의 워크플로 오케스트레이터가 폴링 방식인 것과 달리 Restate는 인보케이션을 푸시해 10단계 워크플로에서 p99 45밀리초 지연을 낸다고 밝혔다.
• 아키텍처 출처 — 이 분산 로그 설계는 Apache Flink와 Meta의 이벤트 인프라를 만든 아키텍트들의 작업에서 영감을 받았다고 밝혔다.

그가 한 말

만약 서버리스에서 실행 중이라면 이 대기 시간은 우리 함수의 실행 시간을 전혀 소모하지 않습니다.So if it's running on serverless this is not using uh execution uh time on our functions.8분 42초

그래서 애플리케이션 곳곳의 함수에서 이런 워크플로우 보장을 사용할 수 있고, 예를 들어 10단계 워크플로우에서 p99 지연시간이 45밀리초 정도가 됩니다.So you can use these kind of workflow guarantees in functions around your application and uh have like a latencies of for example 45 milliseconds p99 for like a 10-step workflow.18분 19초

웹 검색 중 하나가 API가 다운되어 실패했는데, 오른쪽을 보면 그것이 재시도되어 결국 성공적으로 완료된 것을 볼 수 있습니다.one of the web searches didn't go through because the API was down and then you see here on the right how it got retrieded and eventually completed successfully.6분 30초

이해관계 · 발화자는 자신이 만드는 오픈소스 프레임워크 Restate(자체 호스팅·BYOC·매니지드 클라우드 상품 포함)를 발표 대상으로 시연했다.

덧붙임 — 여기에 하나 덧붙이면, 이 발표의 핵심은 에이전트 루프가 아니라 그 루프를 감싸는 저널·가상 오브젝트 같은 지루한 배관이 실제 프로덕션 신뢰성을 만든다는 것이다. 재시도와 세션 격리를 직접 짜고 있다면 그게 바로 이 발표가 겨냥한 재발명이다.</note_ko> </invoke>

오늘 밤 해볼 수 있는 한 가지
지금 운영 중인 에이전트 코드에서 사람 승인이나 외부 API 대기 지점을 하나 찾아, 그 함수가 재시작·재배포를 버티는지, 실패 시 처음부터 다시 도는지 확인해보라.