llama-3.1-8b 대상 Prompt Injection 공격으로 53% 성공률 기록
I Fired 49 Attack Prompts at an AI. 25 of Them Worked.
CoT forgery 탐지를 통한 MCP 게이트웨이 보안 탐지율 33%에서 100%로 향상
Prompt injection is role confusion, and your MCP gateway can't see it
SOTA LLM의 Jailbreak 대응과 국가 보안 규제 간의 트레이드오프 분석
Anthropic's Safety Superpower
안정성 확보를 위해 정밀도보다 재현율을 우선한 Two-stage Classifier 설계
Fable 5 or Feeble 5? Claude's New Safety Filters are Funny
1M Context Window 기반 Agentic Work 특화 모델 Fable 5 출시 및 제약 분석
Anthropic Releases and Temporarily Suspends Claude Fable 5
Amazon CEO와 미국 당국자의 대화가 Anthropic 모델 단속을 촉발함
Fable 5 취약점 발견에 따른 Anthropic 모델 전면 차단 및 정부 통제 강화
System Prompt의 자연어 제약 한계 극복을 위한 구조적 Output 검증 체계 도입
The gay jailbreak: probé la técnica viral sobre mis propios prompts de producción y esto encontré
보안 팀 대상 취약점 탐지 특화 모델 GPT-5.4-Cyber 출시
OpenAI Launches GPT-5.4-Cyber with Expanded Access for Security Teams
Prompt Injection 방어, 구조적 격리와 검증으로 LLM 보안 강화
Shielding Your LLMs: A Deep Dive into Prompt Injection & Jailbreak Defense
Haize Labs가 인간 작성 Jailbreak 데이터셋 8개를 통합한 Red-Teaming Resistance Leaderboard를 구축해 LLM의 안전성을 카테고리별로 측정
Introducing the Red-Teaming Resistance Leaderboard
HuggingFace 팀이 LLM의 유해 출력을 유도하는 Red-Teaming 평가 방법론을 체계화해 모델 안전성 검증 체계 수립
Red-Teaming Large Language Models