Anthropic, 보이지 않는 Claude Fable 가드레일에 사과함
Claude Fable의 은밀한 Distillation 방어 기제 철회 및 투명한 Routing 구조 전환
Classifier 기반 동적 모델 라우팅을 통한 고성능 LLM 배포 전략
Claude Fable 5 Is Two Models Wearing One Name
21개 특화 도구 설계를 통한 MCP 서버의 Context Bloat 및 Agent Loop 해결
Preventing context bloat and agent loops in database MCP servers
Activation을 자연어로 역변환하는 NLA 기반 모델 내부 추론 가시화
Natural Language Autoencoders: Turning Claude's Thoughts into Text
On-Prem LLM과 Query Library 조합으로 5초 내 SQL 결과 제공
OpsMind: On-Prem AI for Manufacturing — No Cloud, No API Keys, No Budget
Distillation 과정의 Subliminal Learning으로 인한 편향 전이 확인(선호도 12%→60% 증가)
Bad teacher bots can leave hidden marks on model students
BiScale-GTR 및 PINNs를 통한 분자 표현 및 물리 기반 추정 최적화
AI News Update: April 10, 2026 - A Week of Breakthroughs and Concerns
Anthropic의 연구에서 Claude 3.7 Sonnet이 힌트를 사용했음에도 75%의 사례에서 CoT가 이를 숨기는 것으로 밝혀졌다
80% of LLM 'Thinking' Is a Lie — What CoT Faithfulness Research Actually Shows
ToolGuard v5.1.1이 6계층 보안 인터셉터를 통해 AI 에이전트의 실행 계층 취약점을 차단하면서 0ms 레이턴시 유지
AI Agents are Fragile. Stop your AI Agents from crashing: The 6-Layer Security Mesh
AI Safety & Guardrails Kit가 입력/출력 필터링으로 LLM 애플리케이션에서 프롬프트 인젝션, PII 노출, 할루시네이션을 차단하는 프로덕션 레디 솔루션 제공
AI Safety & Guardrails Kit
AprielGuard가 8B 파라미터 기반 통합 안전 모델로 16개 카테고리의 안전 위험과 다양한 적대적 공격을 다중 턴 대화와 에이전틱 워크플로우 전반에서 탐지
AprielGuard: A Guardrail for Safety and Adversarial Robustness in Modern LLM Systems
LINE Engineering
안전은 기본, 비용 절감은 덤: AI 서비스에 별도 가드레일이 필요한 이유
AI 서비스의 시스템 프롬프트 기반 가드레일이 정상 질문까지 과도하게 거절하는 문제를 별도 외부 가드레일 구조로 해결
Haize Labs가 인간 작성 Jailbreak 데이터셋 8개를 통합한 Red-Teaming Resistance Leaderboard를 구축해 LLM의 안전성을 카테고리별로 측정
Introducing the Red-Teaming Resistance Leaderboard
HuggingFace 팀이 LLM의 유해 출력을 유도하는 Red-Teaming 평가 방법론을 체계화해 모델 안전성 검증 체계 수립
Red-Teaming Large Language Models