LLM 3

STT는 성공했는데 AI 요약은 왜 실패할까: 비동기 파이프라인 장애 진단

회의 음성 파일을 업로드했습니다.잠시 후 녹취록은 정상적으로 생성됐지만 AI 요약은 계속 나타나지 않습니다.이 상황에서 가장 먼저 떠올리기 쉬운 결론은 다음과 같습니다.“STT는 성공했으니 파일에는 문제가 없다.”“요약 모델이 실패한 것 같다.”하지만 두 문장 모두 아직 입증되지 않은 가설입니다.실제 회의 처리 시스템에서 STT (Speech-to-Text, 음성 인식)와 AI 요약은 하나의 함수가 아니라 서로 다른 입력·실행 환경·상태·저장소를 가진 단계입니다.Media Upload → STT → Transcript Finalization → Summary Request → Queue → Summary Worker → LLM Provider → Result Store → Read APIS..

MCP란 무엇인가? AI Agent와 기업 시스템을 연결하는 표준 구조

생성형 AI가 문장을 잘 만드는 것과 실제 업무를 처리하는 것은 다른 문제입니다.AI 모델만으로는 사내 문서의 최신 내용을 확인하거나, 업무 시스템에서 회의록을 조회하거나, 승인된 사용자의 일정과 이슈를 변경할 수 없습니다. 이런 작업에는 외부 데이터와 기능을 안전하게 연결하는 통합 계층이 필요합니다.MCP(Model Context Protocol)는 바로 이 연결 방식을 표준화한 공개 프로토콜입니다. AI 애플리케이션이 파일, 데이터베이스, SaaS, 사내 API 같은 외부 시스템을 일관된 방식으로 발견하고 사용할 수 있게 합니다.흔히 MCP를 ‘AI 애플리케이션을 위한 USB-C’에 비유합니다. 연결 대상마다 전용 어댑터를 새로 설계하는 대신, 공통 규격으로 데이터와 도구를 연결한다는 의미입니다.MC..

AI Agent · MCP 2026.07.29

AI 아키텍처 기술 블로그를 시작합니다

안녕하세요. AI 아키텍처 기술 블로그를 시작합니다.소프트웨어 개발 현장에서 시스템을 설계하고 구축해 왔으며, 최근에는 생성형 AI를 실제 업무 시스템에 적용하는 일에 집중하고 있습니다.이 블로그는 새로운 기술을 단순히 소개하는 공간이 아닙니다. AI 기능을 기업 환경에 연결할 때 마주치는 설계 선택, 데이터 품질, 보안, 운영, 비용과 장애 대응 문제를 실무 관점에서 정리합니다.주요 주제• AI Agent와 MCP를 이용한 업무 자동화• RAG와 LLM 기반 지식 시스템 설계• 엔터프라이즈 시스템 연동과 아키텍처• 프로젝트에서 발생한 문제와 해결 과정• 개발 도구와 반복 업무 자동화• 기술 선택의 기준과 트레이드오프글을 작성할 때는 다음 원칙을 지키겠습니다.첫째, 동작하는 데모보다 운영 가능한 구조를 ..

기술 인사이트 2026.07.29