AI 보안

LLM·AI 에이전트·프롬프트 인젝션 등 AI 시스템 자체의 보안 위협과 대응. · 9건

섀도우 AI는 회사 승인 없이 직원이 개인적으로 쓰는 AI 도구를 말합니다. 고객 정보·소스코드가 외부 AI로 새는 경로와, 조직이 지금 점검해야 할 항목을 설명합니다.

OWASP LLM Top 10 2025 기준으로 AI·LLM 서비스가 반드시 점검해야 할 10가지 위협을 정리하고, 각 항목의 심화 자료를 연결한 허브 가이드입니다.

프롬프트 인젝션은 악의적 입력으로 AI에게 숨은 지시를 덮어씌우는 공격입니다. 개념, 직접·간접 인젝션의 차이, 챗봇이 겪는 피해를 초보자도 이해할 수 있게 설명합니다.

AI 에이전트는 도구의 이름·설명(메타데이터)까지 읽어 판단한다. 여기에 숨은 명령을 심으면 에이전트가 조종당한다. 도구 정의 검증·핀 고정·승인 게이트 표준을 정리했다.

MCP 서버는 에이전트 대신 URL을 요청하다 SSRF로 클라우드 메타데이터·내부망을 노출한다. NSA 2026-06 지침이 지목한 위험과 대역 차단·리다이렉트 금지 표준을 정리했다.

AI 챗봇 SaaS의 시스템 프롬프트는 영업 비밀이지만 Jailbreak·번역 우회·간접 추출·로그 누설로 새는 사례가 절반 이상이다. 5가지 패턴과 분리 저장·필터·감사 표준을 정리했다.

MCP(Model Context Protocol)는 AI 에이전트가 외부 도구·파일·DB에 접근하는 표준이지만, 권한 분리·도구 화이트리스트·프롬프트 인젝션 방어 누락이 호스트 시스템 탈취로 직결된다. 5가지 결함…

AI 도구 자체 LLM 보안 검사가 키릴 문자 단 한 글자를 통과시켰다. FinPred 사건으로 드러난 IDN 홈그래프 공격 원리, 한국 IDN 적용 가능성, Python 3줄 정규화로 막는 실전 방법까지.

임직원이 Claude·Cursor·Codex를 회사 PC에 깔기 시작했습니다. 정책 없이 두면 사고는 시점 문제. 보안 담당자가 즉시 적용할 수 있는 AI 에이전트 도입 보안 정책 7가지를 정리했습니다.

읽는 것보다 확실한 건 직접 점검입니다.