사이버보안 연구자들이 Anthropic의 Fable 가드레일에 불만을 표하고 있음

Context

Anthropic이 사이버보안 및 생물학적 위협 방지를 위해 고성능 모델 Fable에 강력한 가드레일을 적용함. 하지만 단순 키워드 매칭 중심의 필터링 설계로 인해 무해한 엔지니어링 요청까지 차단되는 False Positive 문제가 발생함.

Technical Solution

• Keyword-based Filtering: '사이버보안', '생물학' 관련 어휘 범주 포함 시 즉시 가드레일 작동
• Automatic Model Fallback: 가드레일 트리거 시 세션을 중단하고 하위 모델인 Claude Opus 4.8로 자동 라우팅
• Model Downgrade Logic: 사용자 인지 없이 백엔드에서 모델 등급을 낮춰 응답을 생성하는 Silent Degradation 구조
• Exception Program: Cyber Verification Program을 통해 검증된 사용자에게만 제약 사항을 완화하는 화이트리스트 기반 접근 제어 적용