AI·LLM을 서비스에 붙였다면, 무엇부터 점검해야 할까?
국제 보안 표준 단체 OWASP가 발표한 LLM 애플리케이션 Top 10(2025)은 AI 시스템에서 가장 흔하고 위험한 10가지 위협을 정리한 사실상의 표준 체크리스트다. 항목별로 무엇이 위험한지 짚고, 더 깊은 자료를 연결한다.
OWASP LLM Top 10 (2025)
- 프롬프트 인젝션 — 악의적 입력으로 AI에게 숨은 지시를 덮어씀. (프롬프트 인젝션이란? · 간접 인젝션 심화)
- 민감정보 유출 — 대화·학습 과정에서 고객정보·API 키·내부 데이터가 노출됨.
- 공급망 취약점 — 사용 중인 모델·플러그인·API 중 하나만 뚫려도 연쇄 감염. (MCP 서버 보안)
- 데이터·모델 오염 — 학습 데이터에 악성 패턴을 심어 판단을 조작.
- 안전하지 않은 출력 처리 — AI 응답을 검증 없이 코드·DB·명령으로 실행.
- 과도한 에이전시 — 에이전트에 권한이 과해, 조작되면 권한 밖 작업 수행. (AI 에이전트 보안 정책 7가지)
- 시스템 프롬프트 유출 — 숨겨둔 지시·정책·키가 노출. (시스템 프롬프트 누설)
- 벡터·임베딩 취약점 — 지식검색(RAG)의 원본 데이터가 새어나감.
- 잘못된 정보(할루시네이션 악용) — AI가 지어낸 정보를 신뢰해 잘못된 결정.
- 무제한 소비 — 과도한 요청으로 토큰 비용 폭증·서비스 마비(DoS).
어디부터 손대야 하나
10가지를 한 번에 다 막을 수는 없다. 시스템 유형에 따라 우선순위가 다르다. 고객 데이터를 다루는 챗봇은 1·2·7번(프롬프트 인젝션·정보 유출·시스템 프롬프트 유출)이, 결제·업무를 자동화하는 에이전트는 5·6번(출력 처리·과도한 에이전시)이 먼저다. RAG로 내부 문서를 검색한다면 8번(벡터 취약점)을 반드시 봐야 한다.
자동 점검의 한계
OWASP 항목 중 상당수는 자동 도구로 1차 탐지가 가능하지만, 비즈니스 로직 오남용(예: 에이전트가 무단으로 자금을 이체, 챗봇이 다른 고객 정보를 노출)은 실제 공격 시나리오를 짜서 사람이 검증해야 드러난다. 국내 기준으로는 KISA의 AI 보안 가이드라인도 함께 참고하면 컴플라이언스 관점까지 챙길 수 있다.
AI 시스템, 웹과 함께 진단하세요
자동 스캐너는 "위험 신호"까지만 찾습니다. 프롬프트 조작이나 비즈니스 로직 오남용은 실제 공격 관점으로 사람이 검증해야 드러납니다. SENTRIX는 웹 모의해킹과 AI 침투를 함께 봐 데이터 유출부터 프롬프트 조작까지 연쇄 위험을 진단합니다. AI 보안진단 알아보기 →