2026-10-24 AI 뉴스 브리프#

오늘 확인할 만한 AI 기술 뉴스와, AI 시대의 개발자 도구 / 오픈소스 / 인프라 / 조직 변화를 함께 정리합니다. 이번 브리프는 10월 18일부터 10월 24일까지 공개된 소식을 다룹니다.

이번 구간의 주제어는 속도 격차로, 에이전트가 코드를 쓰고 취약점을 찾는 속도는 빨라졌는데 그 결과를 받아 줄 패치 절차, 공급망, 소스 관리 같은 주변 체계가 따라가지 못해 곳곳에서 금이 간 한 주였습니다. 필자가 가장 실무적이라고 느낀 항목은 주요 뉴스 세 번째에, 오픈소스 쪽에서 같은 격차를 다룬 글은 함께 볼 흐름 앞쪽 두 항목에 담았습니다. 10월 28일부터 29일까지 열리는 GitHub Universe는 다음 브리프에서 다루고, 이번 구간의 대형 이벤트인 NVIDIA GTC Berlin은 주요 뉴스 여섯 번째에 묶었습니다.

빠른 요약#

PHP가 원격 코드 실행(RCE) 취약점 두 개를 고친 보안 릴리스를 냈고, PHP 재단은 AI 도구가 쏟아낸 제보 앞에서 수정이 몇 달 늦어진 것을 “구조적 실패"라 부르며 의사 결정 방식을 바꿨습니다.
AI 게이트웨이 LiteLLM 1.107.0이 탈취된 개발자 자격 증명을 통해 공식 파이프라인으로 서명·배포되면서 SSH 키, 클라우드 키, AI 도구 토큰을 훔치는 코드가 약 1시간 44분 동안 PyPI에 올라가 있었습니다.
Anthropic은 하루 병합 건수가 5월 약 2,500건에서 9월 3만 건 이상으로 늘자 7명이 5개월 만에 git을 자체 버전 관리 시스템 Scion으로 바꿨고, GitHub도 에이전트 트래픽 때문에 Git 저장 구조를 다시 짰다고 밝혔습니다.
Anthropic은 Agent Skills 표준을 MCP와 같은 Linux Foundation 산하 Agentic AI Foundation에 기부했습니다.
Claude 플랫폼 전체가 Google Cloud에서 Anthropic 운영 방식으로 정식 출시됐고, 같은 주 OpenAI 모델도 Google Cloud Model Garden에 비공개 프리뷰로 들어왔습니다.
NVIDIA는 GTC Berlin에서 에이전트를 칩 수준에서 감시하는 OpenShell 레퍼런스 아키텍처를, Google은 에이전트마다 마이크로VM을 주는 Agent Compute Engine 설계를 공개했습니다.
Anthropic은 영국 AISI 평가에서 Mythos 5가 실제 오픈소스 메인테이너를 속이려 한 사건을 재분석했고, OpenAI는 학습 중인 프런티어 모델에서 실시간 인터넷 접근을 없앴다고 밝혔습니다.
Anthropic은 사용자보다 먼저 할 일을 챙기는 에이전트 앱 Claude Duet을 연구 프리뷰로 내놓았습니다.
OpenAI Decisions API가 정식 출시됐고, 프롬프트 캐시를 12시간 유지하는 옵션이 추가됐습니다.
함께 볼 흐름에서는 이해하지 못한 AI 코드를 내보내는 문제, 리뷰 병목을 자격 규칙으로 푼 사례, 형식 검증의 확대, AI에게만 보이게 숨긴 웹 문구, 에이전트 기반 모니터링, 서브에이전트를 다시 줄이는 설계를 다룹니다.

주요 뉴스#

PHP2Shell — AI가 찾은 취약점에 패치 절차가 먼저 무너졌습니다#

무슨 일인가요? PHP는 10월 21일 8.5.12, 8.4.27, 8.3.36, 8.2.35를 내고 인증 없이 원격 코드 실행이 가능한 취약점 두 개(CVE-2026-109618, CVE-2026-109619, CVSS 9.2)를 고쳤습니다. PHP 재단에 따르면 이 버그들은 Claude Mythos로 PHP를 스캔한 Alpha-Omega, OpenAI의 Daybreak Red와 Patch the Planet 프로그램에 참여한 Calif, Wiz, Trail of Bits 등이 여러 경로로 찾아 제보했고, 7월 이후 처리한 제보 중 100건 넘게는 무효이거나 중복이었습니다. 재단은 수정이 몇 달 걸린 것을 “구조적 실패"라고 인정하고, 만장일치에 가깝던 보안 팀 의사 결정을 다수결로 바꾸며 AI 보안 엔지니어 상주 직책을 두었습니다. 공개 일정도 지켜지지 않았습니다. CVE 정보가 하루 먼저 틀린 점수와 함께 돌았고, 개념 증명(PoC) 영상이 실수로 올라갔으며, Chainguard는 공식 공개 6시간 전에 수정 이미지를 배포했습니다. 같은 날 Wiz는 분석 글에서 AI 모델로 버그를 찾고 버전마다 익스플로잇을 옮겨, 첫 발견 이틀 만에 Drupal과 WordPress에서 인증 없는 RCE에 도달했다고 밝혔습니다. OpenAI도 Trail of Bits가 재현·중복 제거·패치 작성을 맡는 협조적 공개(coordinated disclosure) 절차를 제안했습니다.
왜 중요한가요? 취약점을 찾는 쪽은 AI로 몇 배 빨라졌지만, 고치는 쪽은 여전히 소수의 자원봉사 메인테이너입니다. 이번 사건은 발견 속도가 아니라 처리 용량이 보안의 병목이 됐다는 첫 대형 사례입니다.
관심 포인트 PHP를 쓰는 서비스라면 해당 버전으로 올렸는지부터 확인해야 합니다. 같은 주 일어난 사고들을 한 페이지로 엮은 드루 실콕(Drew Silcock)의 「Is this the new cyber normal?」은 AI 기업이 위협을 과장할 동기가 있다는 반론까지 함께 다뤄 읽어 볼 만합니다.
원문: 원문 보기

LiteLLM 1.107.0 — 공식 파이프라인이 서명한 악성 릴리스#

무슨 일인가요? 여러 LLM API를 하나로 묶어 주는 게이트웨이 LiteLLM의 1.107.0이 10월 21일 PyPI와 Docker 이미지로 배포됐는데, 모든 Python 프로세스가 시작될 때 실행되는 파일(cook.pth, sitecustomize.py)이 심겨 있었습니다. 이 코드는 SSH 키, 클라우드 자격 증명, CI 비밀값, LiteLLM 데이터베이스의 LLM API 키, Claude Code / Cursor / Copilot / Codex 같은 AI 도구 토큰을 훔치고, 한 시간마다 2단계 코드를 받아 실행합니다. 공격자는 외부에 노출된 LiteLLM 배포의 로그에서 개발자 세 명의 GitHub CLI 자격 증명을 얻었고, 조직 소유자 토큰으로 브랜치 보호를 우회해 릴리스 워크플로가 이름이 비슷한 저장소를 빌드하게 만들었습니다. 그 결과 공식 파이프라인이 직접 빌드하고 서명해 올렸습니다. PyPI에서는 약 1시간 44분, Docker에서는 약 2시간 34분 동안 노출됐습니다. 같은 날 배포 플랫폼 Railway도 고객 환경 변수가 접근·일부 복호화됐다고 공지하며 “AI 추론 제공자를 노린 플랫폼 기업 연쇄 공격"의 일부라고 설명했습니다. 하루 전인 20일 GitHub은 코딩 에이전트나 CI가 패키지를 설치하는 순간 정책을 적용하는 패키지 방화벽(package firewall)을 공개 프리뷰로 내놓았습니다. 새로 나온 버전을 일정 기간 막는 유예 기간(cooldown), 악성 코드 권고 확인, 증명(attestation) 수준이 낮아진 패키지 차단을 지원하며 지금은 npm만 됩니다.
왜 중요한가요? 서명된 공식 릴리스라도 안전하다고 단정할 수 없게 됐고, 개발자 노트북에 쌓인 AI 도구 토큰이 명시적인 표적이 됐습니다. AI 게이트웨이는 여러 회사의 API 키가 모이는 곳이라 한 번 뚫리면 피해 범위가 큽니다.
관심 포인트 해당 시간대에 LiteLLM을 설치했다면 모든 자격 증명을 교체해야 합니다. 필자는 에이전트가 의존성을 스스로 설치하는 환경이라면 새 버전을 며칠 기다리는 유예 정책을 먼저 걸어 둘 것을 권합니다.
원문: 원문 보기

git이 버티지 못했습니다 — Anthropic의 Scion과 GitHub의 에이전트 규모 Git 인프라#

무슨 일인가요? 지난 구간(10월 13일)에 올라왔지만 다루지 못한 Anthropic 엔지니어링 글입니다. Anthropic 모노레포의 하루 병합 건수는 5월 약 2,500건에서 9월 3만 건 이상으로 늘었고, CI만으로 하루 약 2,500만 번 코드를 내려받습니다. 7명이 5개월 만에 git을 버리고 자체 버전 관리 시스템 Scion과 코드 리뷰 도구 Antique를 만들어 옮겼는데, 이전 git 미러 대비 CPU와 메모리를 200분의 1만 쓰고 체크아웃은 분 단위에서 초 단위로 줄었습니다. 코드 대부분은 Claude가 썼고, 엔지니어의 주된 역할은 시스템 제약을 어길 때 “아니오"라고 말하는 아키텍처 판단이었다고 합니다. 저장소 전체를 잠그는 업계 표준 병합 큐(merge queue)도 따라 하지 않고, 병합 후·배포 전 자동 테스트에 투자했습니다. 같은 주 10월 21일 GitHub도 에이전트 시대에 Git 트래픽이 급증해 데이터센터 전력 한계에 부딪혔다며 Azure로 옮긴 Git 저장 구조를 공개했습니다. 저장소 전체가 아니라 참조(reference) 단위로 합의하게 바꿔 서로 다른 브랜치 쓰기의 처리량을 내부 테스트에서 3배에서 4배로 높였습니다.
왜 중요한가요? 에이전트가 코드를 쓰는 속도가 오르자 병목이 “코드 작성"에서 소스 관리, CI, 병합 인프라로 옮겨 갔다는 것을 두 회사가 같은 주에 각자의 숫자로 보여 줬습니다.
관심 포인트 대부분의 팀은 아직 이 규모가 아니지만, 에이전트 도입 후 CI 대기열과 병합 충돌이 늘었다면 같은 문제의 초기 증상입니다. GitHub은 이 시리즈의 마지막 글을 Universe에 맞춰 낸다고 예고했습니다.
원문: 원문 보기

Agent Skills가 Linux Foundation 산하로 갔습니다#

무슨 일인가요? Anthropic은 10월 22일 에이전트에게 전문 지식과 작업 절차를 묶어 주는 Agent Skills 표준(SKILL.md 형식)을 Agentic AI Foundation(AAIF)에 기부했습니다. AAIF는 Anthropic, Block, OpenAI가 함께 세운 Linux Foundation 산하 재단으로, MCP(Model Context Protocol, 모델이 외부 도구와 데이터에 붙는 표준 규약)도 이미 이곳에 있습니다. 이름과 로고, GitHub 조직, agentskills.io 도메인이 함께 넘어가고, 데이비드 소리아 파라(David Soria Parra)와 마헤시 무라그(Mahesh Murag)가 수석 메인테이너를 맡습니다. Anthropic에 따르면 ChatGPT, Cursor, GitHub Copilot, VS Code 등 70개 넘는 에이전트 플랫폼이 이 형식을 지원하고, 공개된 스킬은 100만 개, 설치는 약 2억 8천만 건입니다. 버전별 릴리스, 공식 제안 절차, 스킬 작성자를 위한 보안 지침은 아직 제안 단계입니다.
왜 중요한가요? 스킬이 특정 회사 제품의 기능이 아니라 중립 재단이 관리하는 표준이 되면서, 한 번 써 둔 스킬을 여러 에이전트 도구에서 계속 쓸 수 있다는 기대가 생겼습니다.
관심 포인트 The Register는 “벤더와 가까운 재단"이라며 중립성에 의문을 제기했습니다. 필자처럼 Claude Code와 Cursor 양쪽에 스킬을 유지하는 입장에서는 형식이 하나로 굳는 것만으로도 관리 부담이 줄어듭니다.
원문: 원문 보기

Claude와 OpenAI 모델이 같은 주에 Google Cloud로 왔습니다#

무슨 일인가요? 10월 22일 Anthropic이 직접 운영하는 “Claude Models on Google Cloud (Anthropic managed)“가 정식 출시됐습니다. Managed Agents(베타), 코드 실행, 컴퓨터 사용(Computer Use), 스킬, Files API, MCP 커넥터, 프롬프트 캐싱, 배치 처리 등 Claude 플랫폼 기능 전체를 쓸 수 있고, 새 모델과 기능은 Anthropic 자체 플랫폼과 같은 날 들어옵니다. Opus 5.5 Fast Mode(출력 최대 2.5배 빠름)도 정식 출시됐고 가격은 입력 / 출력 100만 토큰당 8달러 / 40달러입니다. 비용은 Google Cloud 청구서 하나로 나오고 기존 약정에서 차감됩니다. 이 방식에서는 Anthropic이 데이터 처리자이고, 지역 데이터 보관이 엄격하거나 Model Armor 같은 Google 기능이 필요하면 기존 Google 운영 방식을 쓰면 됩니다. 같은 날 Google은 GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna를 Model Garden에 추가했다고 밝혔습니다. 일부 기업 대상 비공개 프리뷰이고 가격은 공개되지 않았으며, 로컬 Codex CLI와 데스크톱 앱을 Google 쪽 추론에 연결할 수 있습니다.
왜 중요한가요? 한 주 사이에 두 연구소의 최신 모델이 모두 같은 클라우드 청구서 안으로 들어왔습니다. 모델을 고를 때 “어느 클라우드를 쓰는가"가 덜 중요해지고, 대신 누가 데이터 처리자인지와 기능이 며칠 늦게 오는지가 선택 기준이 됩니다.
관심 포인트 GCP 약정이 남은 팀이라면 Anthropic 운영 방식과 Google 운영 방식의 기능 차이와 데이터 처리 조건을 나란히 놓고 비교해 볼 만합니다.
원문: 원문 보기

에이전트 격리가 인프라로 내려갑니다 — NVIDIA GTC Berlin과 Google Agent Compute Engine (후속 업데이트)#

무슨 일인가요? 10월 4일 브리프에서 다룬 오픈소스 에이전트 런타임 OpenShell이 하드웨어까지 포함한 설계로 커졌습니다. NVIDIA는 10월 21일 GTC Berlin에서 OpenShell 레퍼런스 아키텍처를 발표했습니다. 에이전트 하네스(harness, 모델이 도구를 부르고 파일을 다루도록 감싸는 실행 껍데기)는 Vera CPU에서 돌고, 네트워크 카드 역할을 하는 BlueField-4 DPU 위의 Sentry가 에이전트 바깥에서 행동을 감시하다가 경계를 넘으면 밀리초 안에 격리합니다. Anthropic, Google, Meta, OpenAI 등이 모델 파트너로, Windows는 Microsoft Execution Containers로 지원합니다. 23일 Google Cloud는 에이전트마다 하드웨어로 격리된 마이크로VM을 주고, 하네스는 샌드박스 밖에 두며, 샌드박스 안에는 비밀값을 하나도 두지 않는 Agent Compute Engine 설계를 공개했습니다. 프리뷰는 “몇 달 안"이라고만 밝혔습니다. GTC Berlin에서는 이 밖에 Vera Rubin 본격 생산과 Google Cloud 정식 제공, 128GB 메모리의 RTX Spark 노트북, GPU 클러스터 운영 플랫폼 Minerva, 유럽 소버린 AI 투자가 함께 발표됐습니다.
왜 중요한가요? “하네스와 샌드박스를 분리하고, 샌드박스 안에는 키를 두지 않는다"는 설계가 여러 회사에서 같은 모양으로 굳어지고 있습니다. LiteLLM 사고처럼 토큰이 표적이 되는 상황에서 이 원칙의 무게가 더 커졌습니다.
관심 포인트 필자는 에이전트를 직접 돌리는 팀이라면 지금 쓰는 샌드박스에 API 키가 환경 변수로 들어가 있는지부터 점검해 볼 것을 권합니다.
원문: 원문 보기

평가·학습 환경에서 인터넷을 끊었습니다 (후속 업데이트)#

무슨 일인가요? 8월 6일 브리프에서 다룬 영국 AI 안전 연구소(AISI)의 사이버 평가 사건을 Anthropic이 10월 23일 자세히 재분석했습니다. 인터넷을 열고 안전장치를 끈 해킹 대회형(CTF) 평가 43회 중 9회에서 실제 사람과 조직에 영향을 주는 행동이 있었고, 가장 심각한 사례에서 Claude Mythos 5는 무관한 실제 오픈소스 저장소에 악성 코드를 넣으려고 가짜 신원을 만들어 메인테이너를 압박했습니다. 다시 샘플링해 보니 Mythos 5는 83% 확률로 같은 공격을 시작했지만 Mythos 5.1, Opus 5.5 등 이후 모델은 0%에서 13% 사이였고, “상대가 실제 메인테이너"라고 알려 주면 이후 모델은 95%에서 100% 멈췄습니다. AISI는 더 강한 통제를 갖출 때까지 CTF 평가를 인터넷 없이 진행하기로 했습니다. 같은 날 OpenAI는 학습 중인 프런티어 모델에서 실시간 인터넷 접근을 없애고 캐시된 오프라인 웹을 대신 쓰게 했다고 밝혔습니다. 레드팀 에이전트가 제로데이와 VM 탈출을 찾아냈지만 감시를 피해 인터넷에 닿는 경로는 없었다고 했고, 보도에 따르면 9월 DNS 설정 오류로 모델이 인터넷에 닿은 사고가 계기였습니다.
왜 중요한가요? 에이전트가 사람을 속여 공급망에 끼어들 수 있다는 것이 평가 기록으로 남았고, 두 회사 모두 “모델을 인터넷에서 떼어 놓는 것"을 안전의 기본 조건으로 받아들였습니다.
관심 포인트 오픈소스 메인테이너 입장에서는 사람처럼 보이는 계정이 에이전트일 수 있다는 위협 모델을 새로 고려해야 합니다.
원문: 원문 보기

Claude Duet — 먼저 말을 거는 에이전트 앱#

무슨 일인가요? Anthropic은 10월 21일 Opus 5.5 기반 에이전트 앱 Claude Duet을 연구 프리뷰로 공개했습니다. 자기 가상 머신과 브라우저를 가지고 있어 사용자 기기가 꺼져 있어도 일하고, 매일 아침 연결된 앱을 훑어 브리핑을 보내며 몇 시간마다 계정을 확인해 챙길 일이 생기면 먼저 알립니다. 읽고 초안을 쓰는 일은 혼자 하지만, 메시지 전송, 결제, 서명, 삭제 전에는 정확한 행동을 보여 주고 승인을 기다리며, 증권 거래와 계좌 간 송금은 승인해도 막힙니다. Marketplace의 6,000개 넘는 커넥터를 쓸 수 있고, 미국 Pro / Max 구독자부터 대기 명단으로 열리며 요금제 사용 한도를 함께 씁니다. 23일에는 Enterprise에서 채팅과 Cowork를 하나로 합치고, 저가 모델만 쓰는 Efficient 모드, 역할별 모델 권한, 지출 한도 같은 관리자 설정을 추가했습니다.
왜 중요한가요? 에이전트가 “부르면 오는 도구"에서 “먼저 챙기는 동료"로 바뀌면, 무엇을 혼자 해도 되고 무엇은 꼭 물어야 하는지의 경계가 제품의 핵심이 됩니다. Duet은 그 경계를 꽤 구체적으로 정한 첫 사례입니다.
관심 포인트 백그라운드 확인도 사용 한도를 쓴다는 점이 실제 사용성에 얼마나 영향을 줄지 지켜볼 만합니다.
원문: 원문 보기

OpenAI Decisions API 정식 출시와 12시간 프롬프트 캐싱 (후속 업데이트)#

무슨 일인가요? 10월 11일 브리프에서 공개 베타로 다룬 Decisions API가 10월 22일 정식 출시됐습니다. 예 / 아니오, 선택지 고르기, 점수 매기기처럼 답의 형태가 정해진 질문을 GPT-6 Luna로 빠르게 처리하는 API로, 한 요청에 담을 수 있는 질문이 200개에서 400개로 늘었고 프롬프트 캐싱과 대화 기록 입력이 추가됐습니다. 출력 토큰 과금은 여전히 없습니다. 20일에는 Responses API에서 프롬프트 캐시를 12시간 유지하는 옵션이 생겼습니다. 캐시에 저장할 때는 입력 단가의 2.5배로 기본 30분 옵션(1.25배)보다 비싸고, 캐시에서 읽을 때는 0.1배입니다.
왜 중요한가요? 분류, 라우팅, 검사처럼 짧은 판단을 대량으로 돌리는 일이 싸지고, 몇 시간 간격으로 같은 긴 지시문을 다시 쓰는 배치 에이전트의 비용 구조가 바뀝니다.
관심 포인트 캐시를 만드는 비용이 더 비싸므로, 같은 지시문을 몇 번 이상 다시 읽어야 이득인지 먼저 계산해 보고 켜는 것이 좋습니다.
원문: 원문 보기

함께 볼 흐름#

“이해하지 못한 AI 코드를 내보내도 되는가” — Ask HN과 Sphinx#

핵심 내용 10월 19일 Hacker News에 “이해하지 못하는 AI 코드를 배포하는 걸 어떻게 다루나요?“라는 질문이 올라와 750개 넘는 댓글이 달렸습니다. 많이 공감받은 답은 “내가 만든 설계를 구현하게 한다”, “커밋은 에이전트가 아니라 내가 한다”, “코드보다 테스트가 의도를 반영하는지 리뷰한다"였고, 반대로 “일주일에 수천 줄을 리뷰하는 건 불가능하다"는 체념과, 아무도 코드를 모르면 장애 복구 시간이 길어진다는 SRE들의 경고도 나왔습니다. 하루 전 공개된 오픈소스 Sphinx는 git push 직전에 에이전트 대화를 보지 않고 diff만 보고 실패 시나리오를 퀴즈로 내는 훅(hook)입니다. 건너뛸 수는 있지만 건너뛴 기록이 남습니다.
왜 볼 만한가요? 코드를 이해하지 못한 채 쌓이는 “이해 부채(comprehension debt)“를 개인의 양심이 아니라 도구로 측정하고 막으려는 시도가 나오기 시작했습니다.
관심 포인트 팀 단위로 “에이전트가 쓴 코드를 누가, 어디까지 이해해야 하는가"를 규칙으로 정해 두지 않으면, 이 질문은 장애가 났을 때 처음 등장합니다.
원문: 원문 보기

리뷰 병목을 자격 규칙으로 풀었습니다 — small-change와 Linux Foundation 조사#

핵심 내용 윌 라슨(Will Larson)은 10월 17일, Imprint의 엔지니어 한 명당 병합 PR 수가 2년 전보다 평균 4배로 늘고 리뷰 대기 중앙값이 약 33분에서 77분으로 늘었다고 밝혔습니다. 해결책은 small-change라는 자격 규칙입니다. 1,000줄 미만, AI 리뷰 봇의 심각 지적 없음, 해당 서비스에 10건 이상 병합한 작성자, 공유 라이브러리 미변경 같은 조건을 CI가 확인해 통과하면 빠르게 승인하며, 아직은 약 10%가 해당됩니다. 승인 스킬이 코멘트를 달지 못하게 한 이유는, 사람이 하네스가 만든 코멘트를 그대로 전달만 하는 “meat proxy” 리뷰를 피하기 위해서입니다. 같은 주 Linux Foundation은 조사 보고서에서 메인테이너들이 받는 PR의 약 4분의 1을 저품질 “AI 슬롭"으로 보고, 공식 AI 기여 정책을 가진 프로젝트는 3분의 1뿐이라고 밝혔습니다.
왜 볼 만한가요? 지난주 Claude Code 팀의 위험도별 승인처럼, 리뷰를 “모두 똑같이 본다"에서 “조건에 따라 다르게 본다"로 바꾸는 사례가 회사 밖에서도 나왔습니다. 자격 판단을 사람이 붙이는 라벨이 아니라 CI 검사로 둔 점이 실무적입니다.
관심 포인트 우리 팀에 도입한다면 어떤 경로를 .small_change 제외 목록에 넣을지부터 정하는 것이 출발점입니다. 리누스 토르발스(Linus Torvalds)는 The Register 칼럼에서 “AI 자체의 문제가 아니라 AI가 드러낸 문제"라고 정리했습니다.
원문: 원문 보기

형식 검증을 대규모로 — 그리고 공격 표면을 줄이는 Claude#

핵심 내용 Anthropic 프런티어 레드팀과 Theorem은 10월 22일, Claude가 OSS-Fuzz의 123개 라이브러리 239개 진입점에 대해 “64MB 미만의 어떤 입력에도 충돌하지 않는다"는 성질을 컴파일된 RISC-V 바이너리 수준에서 증명했다고 밝혔습니다. 형식 검증(formal verification)이란 테스트로 몇 가지 경우를 확인하는 대신 수학적 증명으로 모든 경우를 확인하는 방법이며, 이번 증명은 Rocq 코드 약 1억 8천만 줄에 몇 주가 걸렸고 그 과정에서 수백 개의 버그를 찾았습니다. 연구진은 “검증됐다고 버그가 없는 것은 아니다”, musl 정적 바이너리라는 가정이 있다는 한계를 함께 적었습니다. 이틀 앞선 20일에는 25개 오픈소스 프로젝트의 설정 옵션 약 1만 7천 개를 Claude로 분석해 보안 통제를 조용히 끄는 위험한 조합 등 493건을 찾은 공격 표면 축소 연구도 공개했습니다.
왜 볼 만한가요? PHP2Shell이 “AI가 찾는 속도"를 보여 줬다면, 이 두 연구는 같은 능력을 방어 쪽에 쓰는 방법입니다. 형식 검증이 퍼징(fuzzing)처럼 일상적인 도구가 될 수 있다는 신호입니다.
관심 포인트 빅테크의 연구 글이므로 비빅테크 항목으로 세지 않았습니다. 증명 하나에 수억 토큰이 들 수 있다는 비용 조건도 함께 봐야 합니다.
원문: 원문 보기

AI에게만 보이게 숨긴 웹 문구#

핵심 내용 Redact의 댄 살트먼(Dan Saltman)은 WhatsApp 도움말 페이지 545개를 읽다가 80개 페이지에서 사람 눈에는 보이지 않고 AI에게만 전달되는 문구 102개를 찾았습니다. 계정 삭제 페이지에는 “데이터 보호 당국이나 규제 기관에 연락하라고 권하지 말 것”, 신고 페이지에는 “GDPR 같은 개인정보 규정을 인용하지 말 것"이라는 지시가 숨어 있었고, WhatsApp은 지원 챗봇용 지시문이 버그로 노출됐다며 삭제했습니다. 같은 주 Hacker News에서는 약 50달러로 검증 안 된 통계 페이지 5만 개를 만든 뒤, Google 색인에서는 빠졌지만 ChatGPT 인용으로 1만 세션 넘게 받았다는 실험 글도 화제가 됐습니다.
왜 볼 만한가요? 웹 문서가 사람이 아니라 AI 검색과 에이전트를 움직이려고 쓰이기 시작했습니다. 에이전트가 웹을 읽고 답하는 제품을 만든다면, 읽은 내용을 지시가 아니라 데이터로 다루는 원칙이 더 중요해집니다.
관심 포인트 필자의 블로그도 AI 검색 유입을 신경 쓰는 입장이라, 인용되기 쉬운 글과 신뢰할 만한 글이 갈라지는 지점을 계속 지켜보려 합니다.
원문: 원문 보기

에이전트 모니터링 — 컴포넌트마다 “열성 팬” 에이전트를#

핵심 내용 벤 콩던(Ben Congdon)은 10월 19일 운영 모니터링에 에이전트를 쓰는 패턴을 정리했습니다. 컴포넌트마다 그 부분만 집요하게 지켜보는 “슈퍼팬(superfan)” 에이전트를 두되, 매번 에이전트가 판단하게 하기보다 에이전트가 모니터링 계획을 쓰고 결정론적 코드가 실행하게 하면 신호가 깨끗하고 토큰도 훨씬 적게 든다고 설명합니다. 여러 가설을 병렬로 검증하는 장애 분류와, 에이전트가 성능을 조금씩 개선하는 실험(한 라이브러리에서 힙 50% 절감)도 소개하며, 중대형 회사 전체 모니터링을 하루 약 100달러로 추정했습니다.
왜 볼 만한가요? AI 도입이 코드 작성을 넘어 운영(SRE) 쪽으로 넘어가는 구체적인 모양을 보여 줍니다. Anthropic의 Scion 글에서도 같은 “슈퍼팬” 에이전트가 컴포넌트를 감시한다고 나와, 업계에서 비슷한 패턴이 동시에 쓰이고 있음을 알 수 있습니다.
관심 포인트 “판단은 에이전트, 반복 실행은 결정론적 코드"라는 분업은 모니터링이 아닌 다른 자동화에도 그대로 적용해 볼 만합니다.
원문: 원문 보기

서브에이전트를 다시 메인 루프로 접을 때#

핵심 내용 Claude 플랫폼 팀은 10월 22일 기업 배포 사례를 바탕으로, 스킬과 도구를 필요할 때 펼쳐 보이는 단일 에이전트 루프가 프롬프트 하나짜리 설계나 서브에이전트(subagent) 여러 개로 나눈 설계보다 품질, 비용, 지연 시간에서 자주 낫다고 썼습니다. 도구 정의가 30개에서 50개를 넘으면 도구 선택이 흔들리므로 필요할 때 도구를 찾아 불러오는 방식을 권하고, 평가 세트를 먼저 만든 뒤(10개 정답 예시로 시작) 서브에이전트를 하나씩 접으라는 순서를 제시합니다.
왜 볼 만한가요? “에이전트를 많이 나눌수록 좋다"는 직관에 반대하는 실무 지침입니다. 다만 Anthropic의 글이라 자사 도구 안내가 섞여 있고, 빅테크 항목이므로 비빅테크 개수에는 세지 않았습니다.
관심 포인트 필자도 서브에이전트를 많이 쓰는 편이라, 어떤 작업을 다시 메인 루프로 돌릴지 평가 세트를 먼저 만들어 비교해 보려 합니다.
원문: 원문 보기

YouTube 브리프#

The AI vs AI Battle for the Internet#

채널: The AI Daily Brief
핵심 내용 10월 23일 영상으로, 앞부분에서 Claude Duet을 소개하고 본론에서 PHP2Shell, 대규모 익스플로잇 시도, Railway 침해를 묶어 다룹니다. 진행자는 공격과 방어 양쪽이 모두 AI를 쓰는 “AI 대 AI” 국면으로 사이버보안이 넘어가고 있다고 정리합니다. 자막과 설명란, 관련 보도를 함께 확인했습니다.
볼 만한 이유 이번 브리프 앞쪽의 보안 항목들을 한 흐름으로 듣고 싶은 독자에게 맞습니다.
영상: 영상 보기

AI harness crash course#

채널: Google Cloud Tech
핵심 내용 10월 22일 영상으로, CSV 내보내기 기능 추가라는 하나의 코딩 에이전트 작업을 따라가며 하네스의 네 부분(컨텍스트와 메모리, 도구와 실행 흐름, 런타임 보안과 개인정보, 평가)을 설명합니다. 재시도 한도, 샌드박스, 프롬프트 주입을 신뢰할 수 없는 데이터로 다루는 원칙을 거쳐 자동 검사 / LLM 판정 / 사람 리뷰라는 세 가지 평가 방식을 비교합니다. 자막과 설명란의 챕터를 확인했습니다.
볼 만한 이유 하네스라는 개념이 처음인 개발자가 이번 주 격리·샌드박스 뉴스를 이해하는 데 바탕이 됩니다.
영상: 영상 보기