원문: A postmortem of three recent issues — Anthropic Engineering 이 글은 원문의 핵심 내용을 요약한 것입니다. 저작권은 원문 저자에게 있으며, 자세한 내용은 원문에서 확인하세요.
최근 앤트로픽은 세 가지 인프라 버그로 인해 Claude의 응답 품질이 간헐적으로 저하되는 문제를 겪었습니다. 이 문제는 8월 초부터 보고되기 시작했으며, 8월 말 조사 끝에 세 가지 별개의 버그가 원인으로 밝혀졌습니다. 앤트로픽은 이러한 문제로 인해 사용자 경험에 불편을 드린 점에 대해 사과하며, 상세한 원인 분석과 재발 방지 대책을 공유합니다.
- 컨텍스트 창 라우팅 오류: 8월 5일, 일부 Sonnet 4 요청이 1M 토큰 컨텍스트 창 서버로 잘못 라우팅되었습니다. 8월 29일 로드 밸런싱 변경으로 인해 이 문제가 확대되어 최대 16%의 Sonnet 4 요청이 영향을 받았습니다. 9월 4일에 수정이 배포되었습니다.
- 출력 손상: 8월 25일, Claude API TPU 서버 설정 오류로 인해 토큰 생성 시 예상치 못한 문자가 출력되는 문제가 발생했습니다. 이 문제는 Opus 4.1, Opus 4, Sonnet 4 모델에 영향을 미쳤으며 9월 2일에 롤백되었습니다.
- 근사 Top-K XLA:TPU 오컴파일: 8월 25일 배포된 샘플링 코드 개선 작업이 XLA:TPU 컴파일러의 잠재적 버그를 트리거했습니다. 이 문제는 Claude Haiku 3.5, Sonnet 4, Opus 3 모델에 영향을 미쳤을 가능성이 있으며, 9월 4일과 12일에 롤백 및 수정이 진행되었습니다.
이러한 문제들은 각기 다른 증상과 플랫폼별로 다른 빈도로 발생하여 진단이 복잡했으며, 기존의 평가 방식으로는 즉각적인 감지가 어려웠습니다. 앤트로픽은 향후 더 민감한 평가 시스템 도입, 실제 운영 환경에서의 지속적인 품질 평가, 개인 정보 보호를 유지하면서 디버깅을 강화하는 도구 개발 등을 통해 유사한 문제가 재발하지 않도록 노력할 것입니다.
자세한 내용은 원문에서 확인하세요.
