원문: How we contain Claude across products — Anthropic Engineering 이 글은 원문의 핵심 내용을 요약한 것입니다. 저작권은 원문 저자에게 있으며, 자세한 내용은 원문에서 확인하세요.
Anthropic은 Claude AI 모델을 다양한 제품에 통합하면서 발생하는 잠재적 위험을 관리하기 위한 격리 전략을 개발했습니다.
- 격리 패턴: claude.ai의 코드 실행은 gVisor 컨테이너를 사용하여 최소한의 영향 범위를 보장하며, Claude Code는 사용자 머신에서 실행되지만 OS 레벨 샌드박스와 승인 프로세스를 통해 제어됩니다. Claude Cowork는 로컬 VM을 사용하여 사용자 감독이 어려운 경우에도 안전한 환경을 제공합니다.
- 세 가지 보안 위험 요소: 사용자 오용, 모델 오작동, 외부 공격에 대비하여 환경, 모델, 외부 콘텐츠 접근의 세 가지 주요 구성 요소에 대한 방어 체계를 구축합니다.
- 맞춤형 구성 요소의 취약점: 자체 개발한 프록시나 API 통신 로직에서 예상치 못한 보안 취약점이 발견되었으며, 검증된 기존 기술을 활용하는 것이 중요함을 강조합니다.
- 사용자 감독 능력에 따른 격리: 사용자의 기술적 능력에 맞춰 감독 수준을 조정하고, 개발자에게는 유연성을, 일반 지식 노동자에게는 더 엄격한 격리를 제공합니다.
자세한 내용은 원문에서 확인하세요.
