AI 에이전트 모니터링의 F1 0.88 허구를 걷어낸 Structural Detection 도입
The standard way to score AI agent monitors is gameable a coin flip scores F1 0.88
AI 자가 진화 루프를 통한 LOOM 언어의 Zero-Trust 경계 설계
I don't write my language by hand — an organism grows it (Day 5)
요즘 작품 이미지의 LLM 학습 방해 방법은?
AI 학습 방어 솔루션의 기술적 한계와 데이터 접근 제어 전략 분석
악성코드 개발자들이 스파이웨어에 핵·생물무기 문구를 추가함
LLM Safety Guardrail을 악용한 AI 보안 스캐너 회피 기법 등장
12종 LLM 대상 Fuzzing을 통한 Guardrail 취약점 및 Multi-turn Degradation 검증
I Fuzzed 12 LLMs With 19 Payloads — Here What Broke
단 2%의 Adversarial Agent로 전체 Multi-Agent 시스템의 Convention 전이 유도
Part 4 of 6: One Rogue Agent. The Whole Swarm Followed.
De-identification 한계를 넘는 Foundation Model의 Memorization 취약점 분석
De-Identified and Still Exposed
VLM 기반 설계 시스템의 Steganographic Prompt Injection 및 데이터 오염 위협 분석
When AI Reads Blueprints: The Hidden Attack Surface of Multimodal Engineering Intelligence
PyRIT를 통한 LLM Red Teaming 자동화 및 체계적 공격 파이프라인 구축
Automate LLM Red Team Campaigns with PyRIT
4계층 SPEF 아키텍처를 통한 Prompt Injection 공격 성공률 86% 감소
How I Reduced Prompt Injection Attacks by 86% With My Own Framework (And What Went Wrong the First Time)
Adversarial Attack 및 Data Poisoning 방어를 위한 AI 전용 Penetration Testing 체계 구축
How AI Penetration Testing Helps Prevent Adversarial Attacks and Data Poisoning
Vision Transformer 기반 96% 정답률로 증명된 Challenge-Response 인증 체계의 붕괴
Why CAPTCHA and Traditional Verification Methods Are Failing
LLM의 입력 데이터 실행 특성으로 인한 Prompt Injection 취약점 분석
Just like phishing for gullible humans, prompt injecting AIs is here to stay
Gemini의 SynthID 워터마크를 역공학으로 탐지 및 제거하는 오픈소스
SynthID 워터마크의 1비트 신호 분석 및 역공학 기반 제거 시도
PDF 내 숨겨진 프롬프트 인젝션, 구조 분석으로 100% 탐지
I Built a Tool to Detect Hidden Prompt Injections in PDFs. Here's What I Learned.