문장 생성을 넘어 ‘판단’과 ‘지속 실행’으로 확장되는 AI 도구

Clef는 긴 문장을 생성하기보다 정해진 후보의 확률을 구조화 출력(일정한 형식의 결과)으로 반환하는 의사결정 모델이다. Cloudflare는 Clef와 경량형 Clef-flash를 Workers AI에서 제공하고, 가중치를 Apache 2.0으로 공개했다. 고객 문의를 분류하거나 에이전트의 다음 행동을 선택하는 등 빠르고 일관된 판단이 필요한 작업이 주요 용도다. 강화학습 기반 파인튜닝(특정 업무에 맞춘 추가 학습)은 현재 전담 엔지니어가 지원하며, 셀프서비스 방식은 향후 제공될 예정이다. 로컬 실행에는 높은 사양의 GPU 환경이 필요하므로 일반 사용자는 API로 시험하는 편이 현실적이다.

Olmo-core 3는 여러 전문가 모델을 분산하여 학습하는 MoE(입력에 따라 일부 전문가만 사용하는 구조)용 공개 프레임워크다. Ai2는 전문가·파이프라인 병렬화 등을 포함한 학습 체계를 재설계했으며, 저장소를 Apache 2.0으로 공개했다. 패키지는 pip install ai2-olmo-core로 설치할 수 있지만, 실제 학습에는 PyTorch와 GPU·CUDA 환경, 기능별 추가 의존성이 필요하다. 공개된 성능 자료도 대규모 NVIDIA B300 클러스터를 중심으로 구성되어 있어, 일반 교사나 입문자가 바로 사용할 수 있는 도구라기보다 연구 인프라에 가깝다.

Workers KV Instant는 설정값처럼 자주 읽고 드물게 수정하는 소규모 데이터를 전 세계에 빠르게 반영하는 저장 방식이다. Quicksilver v2를 기반으로 하며, 기존 Workers KV API를 대부분 유지한 채 비공개 베타로 공개됐다. 다만 메타데이터를 지원하지 않으며, 네임스페이스당 쓰기는 초당 1회, 값의 최대 크기는 1MB로 제한된다. 저장과 쓰기 비용도 높으므로 일반 데이터베이스가 아니라 기능 플래그나 구성 정보처럼 용도가 분명한 데이터에 선별적으로 사용해야 한다.

K2는 수신한 이벤트를 순서가 있는 로그(발생한 차례대로 쌓는 기록)로 장기간 보관하는 서버리스 스트리밍 서비스다. 명령줄 도구에서 스트림을 만든 뒤 HTTP API나 Worker 바인딩을 통해 이벤트를 전송할 수 있다. 생산자와 소비자의 처리 속도를 분리하고, 여러 소비자가 같은 기록을 독립적으로 읽을 수 있어 분석, 사기 탐지, 에이전트 작업 흐름에 활용할 수 있다. 공개 베타는 Workers 유료 계정에 제공되며 아직 사용료는 청구하지 않지만, 초기 버전에는 약 1초의 p99 전송 지연과 배치 처리 중심이라는 제약이 있다.

비공개 npm 패키지와 사용자 지정 레지스트리를 사용하는 프로젝트에서도 개발 에이전트가 의존성을 설치할 수 있도록 지원하는 기능이다. 9/30 발표된 내용으로, 사내 디자인 시스템과 내부 패키지를 포함한 개발 작업에 유용하다. 초보자 난이도는 보통이다. 10분 안에 시작하려면 Development 또는 Preview 범위의 팀 공유 환경 변수에 단일 레지스트리는 NPM_TOKEN, 복수·사용자 지정 레지스트리는 NPM_RC를 설정한 뒤 설치를 시험한다. 프로젝트 범위의 변수는 읽지 않으며, 인증 값은 민감 정보로 관리해야 한다.

AI Gateway에서 모델이 최신 웹 결과를 검색하고 지정한 페이지의 내용을 가져올 수 있도록 Search·Fetch 도구가 추가됐다. 9/30 발표된 기능으로, 모델 공급자를 변경해도 동일한 검색 도구 구성을 유지하는 데 유용하다. 초보자 난이도는 보통이다. 10분 안에 시작하려면 AI SDK를 7.0.116 이상으로 올리고 AI_GATEWAY_API_KEY를 설정한 뒤 두 헬퍼를 tools에 전달한다. 도구 호출을 지원하는 모델이 필요하며, Search는 1,000회당 7달러, Fetch는 1,000회당 1달러이므로 반복 호출과 키 노출 여부를 점검해야 한다.

Android Studio에서 외부 코딩 에이전트가 프로젝트 구조와 빌드 진단, 에뮬레이터 제어 기능을 활용할 수 있도록 지원하는 미리보기 기능이다. ACP(에이전트 연결을 위한 공개 규약)를 이용하여 여러 외부 에이전트를 연결한다. 초보자 난이도는 보통이다. 10분 안에 시험하려면 Rabbit 2 Canary 2로 업데이트하고 Agent 창에서 원하는 에이전트를 선택한 뒤 로그인하거나 API 키를 입력한다. Canary는 가볍게 검증된 시험판이므로 운영 프로젝트와 분리해야 하며, 키 권한과 에이전트가 실행할 수 있는 작업 범위도 확인해야 한다.

Pi Durable은 에이전트 작업을 저장해 두었다가 장애가 발생한 뒤에도 이어서 실행할 수 있도록 지원하는 실험적 TypeScript 런타임이다. 대화와 모델 응답, 도구 호출, 애플리케이션 상태를 먼저 저장하고 SQLite나 JSONL 저장소를 다시 열어 중단된 지점부터 재개한다. 장시간 작업을 복구하고 중복 요청을 방지하는 데 유용하다. 초보자 난이도는 어렵다. 10분 안에 시작하려면 npm install @earendil-works/pi-durable @earendil-works/pi-ai @earendil-works/chord로 설치하고 공식 저장소의 예제를 확인한다. MIT 라이선스지만 API가 변경될 수 있고 자체 권한 격리 기능이 없으므로 별도의 샌드박스가 필요하다.