AI 아키텍처 기술 블로그

음성에서 인사이트까지: 실시간 STT·RAG로 만드는 실제 데이터 파이프라인

동반편인 기업 데이터 파이프라인 참조 아키텍처은 데이터웨어하우스에서 마케팅·고객 충성도까지 이어지는 기업 데이터 파이프라인을 범용 참조 아키텍처로 개관했습니다. 이 글은 같은 목표(데이터에서 얻은 인사이트를 업무와 고객 활용으로 잇기)를, 필자가 실제로 운영하는 AI 스택에 다시 정박해 “어떻게”를 다룹니다.원천 데이터는 정형 테이블이 아니라 음성·회의 미디어입니다. 이것을 실시간·배치 음성 인식 (Speech-to-Text, STT)으로 전사하고, 화자 분리 (Speaker Diarization)로 정제하고, 임베딩·벡터 데이터베이스에 색인해 검색 증강 생성 (Retrieval-Augmented Generation, RAG)으로 인사이트를 만듭니다. 그 인사이트를 업무로 연결하는 것이 이 파이프라인의 ..

기업 AI Agent 도입 로드맵: 업무 발굴부터 PoC·운영 전환까지 6단계

기업에서 AI Agent 도입을 검토하면 “어떤 LLM·RAG·MCP·멀티 Agent를 써야 하는가?”부터 묻기 쉽습니다. 모두 필요한 질문이지만 첫 번째 질문은 아닙니다.기업 AI Agent 도입의 출발점은 어떤 모델을 선택할지가 아니라 누구의 어떤 업무를 어떤 조건에서 개선할지입니다. 업무와 책임 경계가 정해지지 않은 상태에서 기술부터 선택하면, 시연은 빠르게 만들 수 있어도 운영 전환 단계에서 범위·권한·품질·비용을 다시 설계하게 됩니다.AI Agent는 요청을 이해하고 정보를 검색하며, 상황에 따라 계획하고 기업 시스템의 Tool을 호출합니다. 잘못된 판단이 실제 시스템 변경으로 이어질 수 있으므로 데이터·API·권한·승인·복구·감사와 운영 책임을 함께 다뤄야 합니다.요청 이해 → 정보 검색 → ..

AI 에이전트에게 지식을 주는 방법은 하나가 아닙니다. 사내 회의 녹취를 검색 가능한 지식으로 만드는 파이프라인은 이전 글에서 다뤘습니다(회의 오디오 → RAG). 이 글은 성격이 전혀 다른 지식원, 즉 공개 웹 문서를 대상으로 한 검색 증강 생성 (Retrieval-Augmented Generation, RAG)을 다룹니다.이 글은 구현 회고가 아니라 설계 가이드입니다. 아래에 나오는 코드는 대부분 개념을 보여주기 위한 개념 코드이며, 특정 버전·실행 환경에서 측정한 검색 품질·성능 수치를 제시하지는 않습니다. 대신 "공개 웹을 지식원으로 붙일 때 무엇을 어떻게 결정해야 하는가"에 대한 설계 지침에 집중합니다.제안하는 파이프라인의 골격은 이렇습니다. 공개 웹 페이지를 수집(Crawl)하고, 본문을 추출..

검색 증강 생성 (Retrieval-Augmented Generation, RAG)에서 청킹 (Chunking, 문서를 검색 단위 조각으로 나누는 작업)은 가장 눈에 띄지 않으면서도 검색 품질에 큰 영향을 주는 단계입니다. 물론 파싱 품질, 원문 데이터, 임베딩, 질의 변환, 하이브리드 검색, 재순위화도 검색 품질을 좌우합니다. 다만 경계에서 손실된 문맥은 후단 검색기만으로 보완하기 어렵다는 점에서, 애초에 어떤 경계로 문서를 잘랐는지는 임베딩 (Embedding) 모델 선택과 함께 설계하되 검색기 (Retriever) 튜닝보다는 먼저 검증해야 하는 결정입니다.영어 중심 자료의 청킹 예제는 대부분 마침표와 공백으로 문장을 나누고 고정 토큰 수로 자르는 방식을 전제합니다. 한국어는 교착어 (Agglutin..

하나의 거대한 AI Agent (AI 에이전트)에게 회의록 검색, 웹 조사, 초안 작성, 사실 검증, 최종 편집을 모두 시키면 초기 개발은 빠릅니다.문제는 이 에이전트에게 붙는 권한이 시간이 지날수록 계속 늘어난다는 점입니다.단일 거대 에이전트가 갖게 되는 권한 → 회의 지식베이스 읽기 → 웹 지식베이스 읽기 → 외부 검색 도구 호출 → 파일 업로드·삭제 도구 호출 → 요약 재생성·저장 도구 호출 → 그리고 위 모든 것을 하나의 System Prompt로 통제권한이 한곳에 모이면 두 가지가 동시에 나빠집니다. 첫째, 프롬프트 한 줄이 오작동하면 그 파급 범위 (Blast Radius)가 모든 도구와 모든 지식베이스로 번집니다. 둘째, "이 작업에는 이 도구가 정말 필요한가"를 판단할 수 있는 ..

AI 프로젝트 견적을 요청하면 가장 먼저 모델 가격표를 확인하기 쉽습니다.평균 입력 Token × 입력 단가+ 평균 출력 Token × 출력 단가= AI 프로젝트 비용?이 계산은 모델 사용료의 일부를 추정할 때는 필요합니다.하지만 프로젝트 전체 견적은 아닙니다.실제 AI 서비스에는 모델 앞뒤로 많은 시스템이 필요합니다.업무 정의 → 데이터 수집·정제·권한 → 검색·Prompt·Model → 업무 시스템 통합 → 품질·보안·부하 시험 → 배포·관측·복구 → 운영·변경 관리OpenAI의 공식 API 가격표만 보더라도 입력, Cached Input (캐시된 입력), 출력, Context 길이, 처리 등급, 음성·이미지와 Tool 사용의 과금 단위..

검색 증강 생성 (Retrieval-Augmented Generation, RAG) 데모에서는 문서를 읽고 검색 단위 조각 (Chunk)으로 나눈 뒤 벡터 표현 (Embedding)을 저장하면 작업이 끝난 것처럼 보입니다.운영 환경에서는 같은 수집 작업이 반복됩니다.Worker가 Vector 저장 뒤 응답을 받기 전에 종료됩니다.Scheduler와 사용자의 수동 재처리가 동시에 실행됩니다.원본 문서가 수정됩니다.문서 해석기 (Parser) 또는 문서 분할기 (Chunker) 설정이 바뀝니다.Embedding 모델이 교체됩니다.삭제된 문서의 예전 Chunk가 검색됩니다.같은 파일이 다른 이름이나 경로로 다시 들어옵니다.이 상황에서 매 실행마다 새 UUID를 만들고 Vector Database에 insert..

회의를 녹음하고 AI 요약을 생성하는 것만으로 회의 데이터가 조직의 지식이 되지는 않습니다.요약 문서는 회의 직후 내용을 빠르게 파악하는 데 유용하지만, 시간이 지나면 다시 찾기 어렵습니다. “지난 분기에 인증 방식 변경을 결정한 회의가 언제였지?”, “담당자가 이번 달까지 처리하기로 한 업무는 무엇이었지?” 같은 질문에 답하려면 여러 회의의 녹취록과 결정사항을 검색할 수 있어야 합니다.검색 결과가 실제 업무 시스템과 분리돼 있으면 사용자에게 또 다른 수작업이 생깁니다. 관련 회의를 찾은 뒤 이슈 관리 시스템을 열고, 담당자와 기한을 다시 입력해야 하기 때문입니다.회의 음성을 업무 자산으로 바꾸는 전체 흐름은 다음처럼 볼 수 있습니다.회의 음성 ↓STT·화자·시간 정보 ↓녹취록 정규화 ↓요약·..

안녕하세요. AI 아키텍처 기술 블로그를 시작합니다.소프트웨어 개발 현장에서 시스템을 설계하고 구축해 왔으며, 최근에는 생성형 AI를 실제 업무 시스템에 적용하는 일에 집중하고 있습니다.이 블로그는 새로운 기술을 단순히 소개하는 공간이 아닙니다. AI 기능을 기업 환경에 연결할 때 마주치는 설계 선택, 데이터 품질, 보안, 운영, 비용과 장애 대응 문제를 실무 관점에서 정리합니다.주요 주제• AI Agent와 MCP를 이용한 업무 자동화• RAG와 LLM 기반 지식 시스템 설계• 엔터프라이즈 시스템 연동과 아키텍처• 프로젝트에서 발생한 문제와 해결 과정• 개발 도구와 반복 업무 자동화• 기술 선택의 기준과 트레이드오프글을 작성할 때는 다음 원칙을 지키겠습니다.첫째, 동작하는 데모보다 운영 가능한 구조를 ..