보안 학습·방어 자료 · 공격이 성립하는 조건과 대응 원리를 이해하기 위한 설명입니다. 실습은 본인 소유 또는 명시적으로 허가받은 환경에서만 진행하세요. 무단 접근·인증 우회·정보 탈취를 위한 사용은 허용하지 않습니다.
학습 데이터, 모델 파일, 응답은 서로 다른 보호 대상입니다.
모델 자체는 어디에서 공격받을까?

학습 자료의 출처와 모델 파일을 보호하고, 응답에서 새는 정보도 점검합니다.
그림을 글로 읽기
데이터 깔때기에 들어간 붉은 조각이 모델의 판단을 기울인다. 별도 장면에서는 반복 질문이 출력 조각을 모은다. 출처 검사와 질의 제한이 각 경로를 좁힌다.
깔때기는 학습 입력, 기울어진 계기는 오염된 판단, 조각 모음은 반복 질의로 얻은 일부 정보입니다.
어디까지 설명하는 그림인가요?
모델 추출은 기능 모사, 역전은 데이터 특성 추정, 멤버십 추론은 학습 포함 여부 추정입니다. 모델 접근 수준·출력·학습 조건에 따라 가능성이 달라집니다. 원문 전체나 모델 파일이 항상 복원되는 것은 아닙니다.
관련 기법 8개 살펴보기
궁금한 기법을 펼치면 동작 원리와 핵심 방어를 확인할 수 있습니다.
적대적 예제
- 동작 원리
- 입력의 작은 변형 등으로 분류·인식 결과를 의도적으로 왜곡
- 핵심 방어
- 강건성 시험·입력 검증·보조 판단
학습 데이터 오염
- 동작 원리
- 학습 자료·라벨을 변조해 모델의 판단을 공격자 방향으로 편향
- 핵심 방어
- 데이터 출처·변경 이력·결과 검증
모델 백도어
- 동작 원리
- 특정 입력 조건에서만 악성 동작이 나오도록 학습·모델을 조작
- 핵심 방어
- 출처 검증·조건별 행동 시험
모델 추출
- 동작 원리
- 반복 질의와 응답을 이용해 모델의 기능·결정 경계를 모사
- 핵심 방어
- 질의량·응답 노출 제한·이상 조회 탐지
모델 역전
- 동작 원리
- 모델 출력·접근 정보를 이용해 학습 데이터의 특성이나 일부 내용 추정
- 핵심 방어
- 출력 최소화·프라이버시 평가
멤버십 추론
- 동작 원리
- 모델의 반응 차이로 특정 데이터의 학습 포함 여부 추정
- 핵심 방어
- 과적합 완화·프라이버시 시험
가중치 탈취
- 동작 원리
- 저장소·관리 계정·다운로드 경로를 침해해 모델 파일 복사
- 핵심 방어
- 파일 권한·반출 통제·키 관리
악성 모델 파일
- 동작 원리
- 신뢰하지 않은 모델·로더를 불러오는 과정에서 코드 실행
- 핵심 방어
- 안전한 형식·검증된 로더·격리 로딩
근거와 작성 범위
제공 자료 대응: 2000-2026 해킹기법 기술미팅요약 1~5쪽의 해당 분류 및 사이버보안과 AI보안 1차 보고서. 원본 PDF의 80개 항목과 대조했습니다.
- NIST AI 100-2e2025 — 적대적 머신러닝 분류·용어, 2025년 3월판
- OWASP LLM Supply Chain — 모델과 의존성 공급 경로
소유자가 공개를 승인한 자료를 바탕으로 AI가 설명을 정리했습니다. 제공된 원본 그림과 새 개념 그림은 각각 표시합니다. 직접 침투 시험이나 사람 검수를 수행했다는 의미는 아닙니다. 자료 정리: 2026-10-08.