AI 아키텍처 기술 블로그

  • 홈
  • 태그
  • 방명록
  • 소개
  • 개인정보처리방침

Human-in-the-Loop 1

AI Agent 승인 정책 설계: 읽기·쓰기·중요·파괴 작업을 구분하는 방법

AI Agent에게 “지난 회의를 찾아 요약해 줘”라고 요청했습니다.Agent는 회의 목록을 조회하고, 대상 회의를 찾은 뒤 요약 작업을 요청할 수 있습니다. 여기까지는 비교적 자연스럽습니다.그런데 요청이 “다른 조직으로 옮겨 줘”, “외부 담당자에게 전송해 줘”, “이 회의를 영구 삭제해 줘”라면 이야기가 달라집니다.모두 같은 Tool Call이지만 결과의 영향은 같지 않습니다.조회 실패 → 다시 확인할 수 있음생성 중복 → 데이터 정리와 비용 발생잘못된 전송 → 외부 노출과 업무 사고영구 삭제 → 복구 불가능할 수 있음모델이 사용자의 의도를 잘 이해했다는 사실은 실행 권한을 얻었다는 뜻이 아닙니다.운영 가능한 AI Agent에는 다음 네 질문에 각각 답하는 통제가 필요합니다.인증 (Authen..

AI Agent · MCP 2026.07.29
이전
1
다음
더보기
프로필사진

AI 아키텍처 기술 블로그

수년간 개발 경험으로 전하는 AI 에이전트, RAG, MCP와 시스템 아키텍처 실전 기록

  • 분류 전체보기 (69) N
    • AI Agent · MCP (8) N
    • RAG · LLM 시스템 (5)
    • 엔터프라이즈 아키텍처 (14) N
    • 프로젝트 문제 해결 (6)
    • 개발 도구 · 자동화 (11)
    • 기술 인사이트 (6)
    • 보안 (19)

Tag

spring boot, ai agent, Secure coding, mcp, faster-whisper, STT, Spring Security, Rag, Private API, embedding, java, Production Readiness, SDK 설계, MCP 보안, 기업 AI Agent, AI Agent 보안, tool calling, owasp top 10, ai 도입, 엔터프라이즈 아키텍처,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2026/08   »
일 월 화 수 목 금 토
1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Daum Corp. All rights reserved.

티스토리툴바