Hugging Face가 인도어 사전학습을 2.8 Trillion 토큰 규모로 확장한 내용을 다룬 글을 냈다. 글에는 오픈 데이터 생성 파이프라인도 함께 소개된다.
인도어 모델을 학습하거나 파인튜닝하는 개발자는 공개된 데이터 생성 파이프라인을 가져다 자체 데이터 구축 비용과 설계 시간을 줄일 수 있는지 따져볼 수 있다.
Hugging Face가 501B 규모의 오픈 모델 Beam을 소개했다. 제목에 따르면 사용자가 직접 소유하고, 커스터마이즈하고, 확장할 수 있는 모델이다.
직접 소유하고 커스터마이즈할 수 있는 501B 모델이라 셀프호스팅과 파인튜닝을 검토하는 팀은 API 의존 대신 자체 운영 구성과 GPU 비용을 따져볼 수 있다.
FT에 따르면 Anthropic은 투자자들에게 1분기 매출 약 48억 달러, 2분기 115억 달러, 3분기 168억 달러를 전했다. 3분기에는 컴퓨팅 비용 1달러당 매출 1.70달러였고, 주식보상을 제외한 조정 영업이익률은 11%였다.
Anthropic이 경쟁사의 distillation 사용을 단속하고 있다는 점은, 모델 출력을 다른 모델 학습에 쓰는 설계가 API 이용 약관 위반이나 접근 제한 위험으로 이어질 수 있다는 뜻이다.
StarSkirmish Bench v0.2는 LLM에 1시간 동안 C++로 StarCraft: Brood War의 Protoss 봇을 만들게 하고, 연습 경기에서 얻은 정보를 반영하는 장기 추론과 에이전트 코딩 능력을 평가한다. GPT-6 Astra가 평균 승률 57%로 1위, GPT-6.1 Sol이 46%로 2위를 기록했다.
모델을 고를 때 단발성 코드 생성 점수 대신, 시간제한 안에서 피드백을 반영해 코드를 반복 수정하는 에이전트 코딩 성능을 따로 비교할 근거가 생긴다.
Hacker News에 "Claude reveals ECDSA curve origins"라는 제목의 글이 올라왔다. Claude가 ECDSA 곡선의 기원과 관련된 내용을 드러냈다는 것이 제목이 전하는 내용이다.
ECDSA 곡선 선택의 출처를 LLM에게 물어 확인하려는 개발자는 답을 그대로 믿기 전에 표준 문서와 대조하는 검증 단계를 보안 설계에 넣어야 한다.
Hacker News에 올라온 글은 미국 근무시간의 90%가 AI 벤치마크로 잘 평가되지 않는 업무에 쓰인다고 전한다. 기존 벤치마크가 실제 노동 현장의 업무 대부분을 포괄하지 못한다는 취지의 주장이다.
벤치마크 점수만 보고 모델을 고르면 실제 업무에서의 성능과 어긋날 수 있으므로, 도입 전에 자기 업무에 맞춘 자체 평가셋을 따로 만들어 검증해야 한다.
Hacker News에 올라온 기사 제목에 따르면 Anthropic이 6월에 정크 등급 중 가장 높은 신용등급을 받았다. 세부 내용은 제목만으로는 확인되지 않는다.
Anthropic API에 핵심 기능을 의존하는 개발자라면 공급사의 재무 상태를 벤더 리스크 항목에 넣고, 모델 대체 경로와 멀티 벤더 설계를 점검할 근거가 된다.