작성자: Dunith Danushka 2025년 6월 17일 How to Build a GenAI Application with EDB Postgres AI Factory: A Step-by-Step Guide
데이터와 AI 자산을 완벽하게 제어하면서, 몇 분 만에 가상 비서를 구축하세요
중요한 정보를 즉시 제공하며, 고객, 파트너, 직원 모두의 생산성을 안전하게 향상시켜주는 가상 비서를 상상해보세요. 그리고 그 비서를 단 몇 분 만에, 클릭 몇 번으로 직접 구축하고 배포할 수 있으며, 데이터 및 AI 자산에 대한 완전한 제어권도 유지할 수 있다고 상상해보세요.
이 튜토리얼에서는 EDB Postgres AI Factory를 통해 이 비전을 어떻게 실현할 수 있는지를 단계별로 안내해드립니다. 주권 데이터 환경을 보장하면서도 강력한 기능을 갖춘 가상 비서를 구축하고, 이를 실제 운영에 적용하는 전 과정을 살펴보겠습니다.
AI Factory 개요
EDB Postgres AI Factory는 주권형 AI 애플리케이션을 안전하게, 빠르게 구축하고 테스트하며 배포할 수 있는 가장 빠른 방법입니다. 이 플랫폼은 GenAI 애플리케이션 개발 방식 자체를 근본부터 혁신합니다. 통합된 생성형 AI 추론 및 에이전트 플랫폼을 통해 기존의 복잡한 개발 과정을 제거하고, 데이터 거버넌스와 주권성을 유지하면서 몇 달이 아닌 수 주 내에 프로덕션 환경 배포를 가능하게 합니다.
(AI Factory 구성 다이어그램)
AI Factory는 Postgres 환경 내에서 원활하게 작동하는 다섯 가지 핵심 구성요소를 통합하여 GenAI 애플리케이션 전반에 필요한 기능을 제공합니다:
GenAI Builder: 비즈니스 사용자는 클릭 기반 인터페이스를, 개발자는 Python SDK를 사용하여 거의 모든 업무를 위한 AI 워크플로우를 설계하고 통합할 수 있습니다.
Agent Studio: 사용자 맞춤형 AI 에이전트를 구축할 수 있으며, 이 에이전트는 독립적으로 업무를 수행할 수 있습니다.
AI Pipeline: AI 지식베이스 구축 및 관리를 자동화하며, 데이터와 임베딩을 최신 상태로 유지합니다.
Vector Engine: AI 및 비즈니스 데이터를 Postgres 내에 안전하게 저장하며, 외부 서비스로의 전송 없이 빠른 의미 기반 검색을 제공합니다.
Model Serving: 온프레미스 환경에서 AI 모델을 유연하게 배포하며, 하드웨어 최적화를 통해 고효율 운영이 가능합니다.
이 튜토리얼에서는 위 구성요소 중 일부를 사용하여 ACME 은행을 위한 대화형 AI 가상 비서를 직접 구축하는 전 과정을 안내합니다.
활용 사례 (Use Case)
ACME Bank는 최전선 실무자들이 고객 인사이트를 즉시 파악할 수 있도록 AI Factory 기반 가상 비서를 배포할 계획입니다.
예를 들어, ACME의 계정 담당자 Mike는 이 AI 비서를 통해 매일 다음과 같은 업무를 수행합니다:
고객 데이터를 분석해 업셀 기회 포착
제품 피드백 검토
고객별 맞춤형 이메일 작성 등
ACME Bank는 데이터 및 AI 주권을 중시하기 때문에, AI Factory를 온프레미스 데이터 센터 내 소스 데이터 시스템 근처에 배포할 예정입니다. AI 비서는 다음 두 가지 데이터를 기반으로 작동합니다:
고객들이 ACME 제품에 대해 남긴 리뷰 (Postgres 테이블에 저장)
내부 제품 카탈로그, 규정, 메모 등이 포함된 객체 저장소(Object Store)
이제 다음 단계에서는 이 데이터를 활용해 가상 비서를 구축하는 전체 과정을 살펴보겠습니다.
1단계: AI Pipeline으로 지식베이스 생성하기
AI 시스템의 성능은 입력되는 데이터의 품질에 따라 좌우됩니다. 데이터 품질이 높고 AI 최적화가 잘 되어 있을수록, 챗봇 모델의 응답 정확도도 높아집니다.
이를 위해 우리는 AI Pipeline과 GenAI Builder를 사용해 데이터를 준비하고, 이를 기반으로 지식베이스(Knowledge Base)를 구축합니다.
지식베이스(KB) 는 챗봇의 ‘사실 기반 정보 저장소’ 역할을 하며 텍스트 데이터를 벡터로 변환해 유사성 검색이 가능하게 합니다. 이 과정을 통해 챗봇은 사용자 질문에 가장 관련성 높은 정보를 빠르게 찾아 응답할 수 있습니다.
CREATE TABLE reviews ( review_id SERIAL PRIMARY KEY, customer_name VARCHAR(100) NOT NULL, customer_email VARCHAR(100), date date, review TEXT NOT NULL );
예시 데이터는 다음과 같습니다:
INSERT INTO reviews (customer_name, customer_email, date, review) VALUES ('Julia Scott', 'julia.scott@example.com', '2025-01-24 06:52:44', 'I love my ACME Rewards Card! The cashback on groceries and dining really adds up. Redeeming points is super easy.'), ('Bob Smith', 'bob.smith@example.com', '2025-01-09 06:52:44', 'The ACME Elite Card is totally worth the annual fee. Free lounge access saved me during a long layover.'),
set_auto_knowledge_base()는 테이블에 새 데이터가 추가되었을 때 자동으로 벡터화를 수행합니다.
여기서 사용된 T5 모델은 AI Pipeline 런타임에 내장된 임베딩 모델 중 하나이며, 외부 서비스로 데이터를 전송하지 않기 때문에 데이터 보안 및 주권을 유지할 수 있습니다.
2단계: GenAI Builder를 사용한 지식베이스 생성
SQL과 같은 선언형 언어를 선호하는 데이터 전문가라면 AI Pipeline을 활용한 방식이 익숙하겠지만, 시각적 인터페이스를 선호하는 사용자에게는 GenAI Builder가 매우 직관적인 도구입니다. 이 도구를 통해 정형, 반정형, 비정형 데이터를 기반으로 지식베이스를 생성하고 벡터 임베딩을 자동화할 수 있습니다.
이번에는 ACME 은행의 내부 신용카드 상품 카탈로그(PDF) 를 활용하여 GenAI Builder를 통해 두 번째 지식베이스를 생성해보겠습니다.
GenAI Builder 접속 및 데이터 업로드
EDB Postgres AI Console에 로그인한 뒤, 좌측 상단 프로필 아래의 Launchpad 링크를 클릭합니다.
좌측 메뉴에서 GenAI Builder 아이콘을 선택합니다.
GenAI Builder에 진입하면, 우선 데이터 소스(Data Source) 를 생성합니다.
좌측 메뉴에서 Data Lake > default로 이동
폴더 이름을 “product-catalog”로 지정하여 새 폴더 생성
해당 폴더에PDF 파일 업로드 (이 파일은 ACME 은행용으로 제작된 가상의 제품 카탈로그입니다)
데이터 소스를 활용한 지식베이스 생성
좌측 메뉴에서 Libraries > Data Sources로 이동한 후 우측 상단의 “Create Data Source” 버튼 클릭
유형은 PG.AI Data Lake 선택
이름: 자유롭게 설정
버킷 이름은 “default” 선택
나머지 설정은 기본값 유지
“Create” 를 클릭하면, 해당 PDF 파일이 자동으로 처리되어 의미 기반 검색용 벡터 임베딩이 생성됩니다.
이제 이 데이터 소스를 기반으로 지식베이스를 생성합니다:
좌측 메뉴에서 Libraries > Knowledge Bases로 이동
“Create Knowledge Base” 클릭
Vector Knowledge Bases > GenAI Builder 선택하여 GenAI Builder 벡터 저장소 생성
지식베이스 이름을 입력하고, 방금 생성한 제품 카탈로그 데이터 소스를 선택하여 연결합니다.
통합된 지식베이스 목록 확인
AI Pipeline을 통해 생성했던 acme_reviews_kb, 그리고 지금 GenAI Builder로 만든 product_catalog_kb 두 가지 지식베이스가 모두 리스트에 표시됩니다.
이처럼 AI Factory의 다양한 구성 요소들이 원활하게 통합되어 있으므로, 사용자의 목적과 선호도에 맞춰 최적의 도구를 선택할 수 있습니다.
3단계: Assistant 생성하기
이제 데이터 소스와 지식베이스 준비가 완료되었으니 이제 이들을 연결할 Assistant(가상 비서)를 만들어보겠습니다.
Assistant는 사용자와 대화하면서 LLM(대형 언어 모델), 지식베이스, 다양한 도구(Tools)를 활용해 특정 목표를 달성하는 대화형 에이전트입니다. GenAI Builder의 클릭 기반 UI를 통해 단 몇 분 만에 완전한 기능의 Assistant를 구축하고 배포할 수 있습니다.
Assistant 생성 절차
좌측 사이드바에서 Assistants 메뉴 클릭
“Create Assistant” 버튼 클릭 → Assistant 생성 팝업 창이 열립니다.
Assistant 생성 시 설정해야 할 주요 항목은 다음과 같습니다:
지식베이스(Knowledge Base) 하나 이상 선택. Assistant는 사용자 질문에 응답할 때 이 지식베이스에서 가장 먼저 정보를 검색합니다.
규칙 세트(Ruleset) Assistant의 행동을 제어하는 자연어 기반 규칙입니다. 예: “대화 시작 시 본인을 소개하세요” 같은 규칙을 포함시킬 수 있습니다.
아래 예시처럼, 앞서 생성한 두 개의 지식베이스(acme_reviews_kb와 product_catalog_kb)를 선택하여 Assistant를 구성합니다.
(create assistant)
4단계: Assistant 테스트하기
Assistant를 생성한 직후, 바로 테스트를 진행할 수 있습니다. 이제 실제 시나리오를 통해 Assistant가 어떻게 동작하는지 확인해보겠습니다.
예시: ACME Rewards 카드 조건 질의
ACME의 제품 카탈로그는 다양한 상품 설명, 규정, 정책이 포함된 방대한 문서입니다. 예를 들어, ACME 은행의 계정 담당자 Mike가 ACME Rewards 신용카드의 자격 요건을 빠르게 알아야 할 때, Assistant에게 이렇게 질문할 수 있습니다:
“What are the eligibility criteria for the ACME Rewards credit card?” (ACME Rewards 신용카드의 자격 조건이 무엇인가요?)
Assistant는 업로드했던 제품 카탈로그 PDF에서 정보를 추출해 아래와 같은 답변을 제공합니다:
(testing the assistant)
예시: 긍정적인 고객 리뷰 목록 요청
Mike는 또 다음과 같은 질문을 할 수 있습니다:
“List the customers who liked the ACME Rewards card.” (ACME Rewards 카드를 좋아한 고객들의 목록을 보여줘.)
Assistant는 고객 리뷰 지식베이스에서 데이터를 추출하여 긍정적인 반응을 보인 고객들을 나열합니다.
이처럼 Assistant는 여러 지식베이스를 통합적으로 활용하여 사용자의 질문에 빠르고 정확하게 응답할 수 있습니다. 업무에 필요한 다양한 정보를 맥락 기반으로 통합 제공하며 실제 비즈니스 활용에 즉시 투입할 수 있습니다.
5단계: LLM(대형 언어 모델) 구성하기
AI Factory는 OpenAI, Google, NVIDIA를 포함한 다양한 LLM 제공업체의 모델을 선택할 수 있게 하여 챗봇 Assistant에 가장 적합한 모델을 유연하게 설정할 수 있도록 해줍니다. 챗, 임베딩, 재정렬(reranking) 용도로 다양한 매개변수를 갖춘 모델을 고를 수 있으며 더 나은 모델을 선택할수록 Assistant의 응답 품질도 자연스럽게 향상됩니다.
사용자는 각 Assistant마다 서로 다른 LLM을 설정할 수 있고 조직의 보안 및 성능 요구사항에 맞는 LLM을 선택할 수 있기 때문에 자체 보유 모델을 사용할 수도 있고 외부 API 기반 모델을 활용할 수도 있습니다.
(model options)
이제 Assistant가 작동할 수 있는 기반을 모두 갖췄습니다. 다음은 이 Assistant를 실제 기업용 애플리케이션과 통합하는 단계입니다.
6단계: Assistant를 엔터프라이즈 애플리케이션과 통합하기
마지막 단계는 생성한 Assistant를 실제 업무에 사용할 수 있도록 조직 내 다양한 부서의 비즈니스 사용자들이 자주 사용하는 애플리케이션과 연결하는 작업입니다.
AI Factory는 Slack과 같은 협업 도구에 Assistant를 임베드할 수 있도록 지원하며 사용자들은 익숙한 도구 안에서 자연어로 질문하고 인사이트를 얻거나 예측을 수행할 수 있기 때문에 새로운 툴을 배우지 않고도 AI의 혜택을 누릴 수 있습니다.
현재 AI Factory는 Slack 앱으로 Assistant를 내보낼 수 있는 기능을 지원하며 이를 통해 기업 내 슬랙 워크스페이스에서 바로 Assistant를 호출하고 사용할 수 있습니다.
Slack 연동을 설정하려면 사이드바의 Integrations 메뉴로 이동한 뒤 Create Integration을 클릭하면 설정 프로세스가 시작되며 Slack 앱을 자동으로 생성하고 기업용 슬랙 워크스페이스에 설치할 수 있도록 안내합니다.
(slack integration)
마무리하며
Assistant는 Tool과 연결함으로써 그 기능을 더욱 확장할 수 있습니다. 예를 들어 ACME의 계정 담당자 Mike는 Assistant에 연결된 Tool을 활용해 CRM 시스템을 실시간으로 조회하고 고객들의 소비 패턴과 신용 이력을 기반으로 업그레이드 대상 고객을 식별할 수 있습니다. Mike가 “Which of my customers are good candidates for upgrading to the ACME Platinum card?”라고 질문하면 Assistant는 관련 데이터를 분석해 즉시 실행 가능한 인사이트를 제공할 수 있습니다.
이처럼 AI Factory는 프로덕션 수준의 GenAI 애플리케이션을 구축하는 데 필요한 시간과 노력을 획기적으로 줄여줍니다.
이 튜토리얼에서 살펴본 것처럼 여러분은 단 몇 분 만에 기업 지식베이스에 연결된 완전한 기능의 AI Assistant를 만들 수 있으며 이를 통해 시장 출시 속도를 높이고 비즈니스 가치를 빠르게 실현할 수 있습니다. 무엇보다 중요한 점은 AI Factory는 이 모든 과정을 데이터와 AI 자산에 대한 완전한 제어 아래에서 수행한다는 것입니다. 민감한 비즈니스 정보는 여러분의 보안 환경을 벗어나지 않으며 AI 모델과 지식베이스에 대한 주권도 온전히 여러분에게 있습니다.
