Mercury 3, 확산(diffusion) 방식 규모화 공개
Hacker News에 "Mercury 3: Diffusion at scale"이라는 제목의 글이 올라왔다. 제목은 Mercury 3가 diffusion 방식을 대규모로 적용한 모델임을 말한다.
텍스트 생성에 diffusion 계열 모델이 실제 규모로 나오는 만큼, 모델 선택 시 기존 자기회귀 모델과 지연 시간·비용을 직접 비교해볼 지점이 생긴다.
Hacker News에 "Mercury 3: Diffusion at scale"이라는 제목의 글이 올라왔다. 제목은 Mercury 3가 diffusion 방식을 대규모로 적용한 모델임을 말한다.
텍스트 생성에 diffusion 계열 모델이 실제 규모로 나오는 만큼, 모델 선택 시 기존 자기회귀 모델과 지연 시간·비용을 직접 비교해볼 지점이 생긴다.
Amazon이 새 개발 도구 TorchNeuron을 내놓고, AI 앱 대부분을 만드는 무료 툴킷 PyTorch에서 Nvidia의 영향력을 줄이려 하고 있다. Hugging Face는 이 도구로 HF 모델을 AWS Trainium에서 돌리기가 그 어느 때보다 쉬워졌다고 소개했다.
PyTorch 코드를 Nvidia GPU 대신 자체 칩인 AWS Trainium에서 돌릴 수 있는지 따져 인프라 선택과 추론·학습 비용 비교에 넣을 수 있게 된다.
오픈소스 AI 코딩 에이전트 OpenCode의 온라인 플랫폼 일부가 해커에게 뚫려 일부 사용자의 API 키가 도난당했고, 사용자 AI 계정에 요금이 불어났다. 대응 과정에서 도움을 구한 AI 도구들은 악성 코드 분석을 계속 거부했다.
OpenCode처럼 API 키를 연결해 쓰는 코딩 에이전트를 쓴다면, 키가 탈취되면 곧바로 계정 과금으로 이어지므로 키 권한·사용 한도 설정과 교체 절차를 점검해야 한다.
AI 보안업체 Norforge에 따르면 한 해커가 대부분 자율적으로 움직이는 AI 에이전트 군단을 이용해 100개 넘는 웹사이트에 침입했다. Norforge는 대상을 밝히지 않았으나 Reuters는 피해 기업에 John Deere, SharkNinja, Cummins가 포함됐다고 보도했다.
자율 에이전트가 대규모 침입에 쓰이는 만큼, 웹 서비스를 운영하는 개발자는 공격 자동화 속도를 전제로 노출된 자산과 접근 통제를 점검해야 한다.
상태를 저장하지 않는 LLM API에 매번 전달하는 대화 JSON 배열을 만들고, 유지하고, 보호하는 프로그램을 하네스(harness)로 정의하고, 이를 중심으로 AI 에이전트의 작동 원리를 풀어낸 글이다. 16개 장에 걸쳐 순수 Python으로 약 300줄짜리 구현을 다룬다.
에이전트 프레임워크를 고를 때 대화 배열의 구성·유지·보호를 어디서 맡는지 직접 확인할 기준이 생기고, 약 300줄 순수 Python 예제로 하네스 설계를 직접 만들어 볼 수 있다.
tmux는 AI 코딩 에이전트를 이름 있는 세션에 유지해 터미널을 닫거나 SSH 연결이 끊겨도 작업이 계속되게 하고, 여러 에이전트를 한 창에서 관리할 수 있게 한다. 최근 Claude Code에는 claude --worktree --tmux 옵션이 있으며, 글은 세션과 send-keys 활용법 및 그 한계를 다룬다.
원격 서버에서 에이전트를 장시간 돌리거나 여러 개를 병렬로 운영할 때, SSH 끊김으로 작업이 날아가는 운영 위험을 tmux 세션과 worktree 옵션으로 줄일 수 있는지 판단하는 근거가 된다.
CERN과 Mistral이 과학 분야 AI를 가속하기 위해 손을 잡았다. 이 소식은 Hacker News에서 공유됐다.
연구 기관이 Mistral과 협력하는 만큼, 과학 연구용 모델을 고를 때 Mistral을 후보에 넣고 도입 사례를 추적해 볼 지점이 생긴다.