1-1 · 데이터 파이프라인 아키텍처 개념도 (만화풍 스케치)
1-1 · 데이터 파이프라인 아키텍처 개념도 (만화풍 스케치)
1단계 데이터 생성(OLTP) · 2단계 수집(Ingest) · 3단계 데이터 분석(Lake · Warehouse · Lakehouse) · 4단계 AI · BI 활용
고객 · 임직원 — 주문·결제·클릭 등 실시간 이벤트를 발생시킨다 웹 · 모바일 · 사내 업무
고객 · 임직원
웹 · 모바일 · 사내 업무
주문·결제·클릭 등 실시간 이벤트를
발생시킨다
서비스 앱 (LOB) — 사용자 요청을 처리하고 운영 DB에 즉시 기록한다 쇼핑몰 · ERP · 트랜잭션 서버
서비스 앱 (LOB)
쇼핑몰 · ERP · 트랜잭션 서버
사용자 요청을 처리하고 운영 DB에
즉시 기록한다
정형 DB (SQL) — 행(Row) 기반 실시간 트랜잭션 (ACID · 단건 처리) Cloud SQL · AlloyDB · Spanner https://docs.cloud.google.com/sql/docs/introduction
정형 DB (SQL)
Cloud SQL · AlloyDB · Spanner
행(Row) 기반 실시간 트랜잭션
(ACID · 단건 처리)
반정형 · 비정형 — JSON 문서 · 초고속 센서 로그 · 이미지·영상·자연어 Firestore · Bigtable · IoT · 미디어 https://docs.cloud.google.com/firestore/docs/overview
반정형 · 비정형
Firestore · Bigtable · IoT · 미디어
JSON 문서 · 초고속 센서 로그 ·
이미지·영상·자연어
수집 (Ingest) — 운영 DB 부담 없이 분석소로 수집 (TETL · ETL · ELT) Batch · Streaming · Event https://docs.cloud.google.com/dataflow/docs/overview
수집 (Ingest)
Batch · Streaming · Event
운영 DB 부담 없이 분석소로 수집
(TETL · ETL · ELT)
Data Lake (호수) — 비·반·정형 원본(Bronze)을 가공 없이 저렴하게 보관 Google Cloud Storage https://docs.cloud.google.com/storage/docs/introduction
Data Lake (호수)
Google Cloud Storage
비·반·정형 원본(Bronze)을 가공
없이 저렴하게 보관
Data Lakehouse — 호수 위 메타데이터 폴더를 얹어 무복사 SQL 테이블 조회 Lakehouse · Apache Iceberg https://docs.cloud.google.com/lakehouse/docs/introduction
Data Lakehouse
Lakehouse · Apache Iceberg
호수 위 메타데이터 폴더를 얹어
무복사 SQL 테이블 조회
Data Warehouse — 열(Column) 기반 대규모 고속 집계 · Silver/Gold 마트 Google BigQuery (창고) https://docs.cloud.google.com/bigquery/docs/introduction
Data Warehouse
Google BigQuery (창고)
열(Column) 기반 대규모 고속 집계
· Silver/Gold 마트
BI 대시보드 — 핵심 경영 지표를 차트와 리포트로 시각화 Data Studio · Looker https://docs.cloud.google.com/data-studio
BI 대시보드
Data Studio · Looker
핵심 경영 지표를 차트와 리포트로
시각화
AI 에이전트 · LLM — Text-to-SQL · 정형 RAG로 창고에 쿼리해 답변 생성 Vertex AI · Gemini · ChatGPT · Claude https://docs.cloud.google.com/gemini-enterprise-agent-platform
AI 에이전트 · LLM
Vertex AI · Gemini · ChatGPT · Claude
Text-to-SQL · 정형 RAG로
창고에 쿼리해 답변 생성
현업 사용자 — 대시보드를 보거나 AI에게 질문해 의사결정 자연어 질문(Q) · 데이터 답변(A)
현업 사용자
자연어 질문(Q) · 데이터 답변(A)
대시보드를 보거나 AI에게 질문해
의사결정
1. 데이터 생성 (OLTP · Database Engineer)
2. 데이터 분석 (OLAP · Data Engineer)
3. 데이터 활용 (BI · Agentic AI)
1
요청 · 응답
2
정형 트랜잭션
로그 · 이벤트
3
CDC · 배치 추출
스트림 수집
4
원본 적재 (ELT)
메타 등록
5
Iceberg 결합
정제 적재 (ETL)
6
무복사 분석
7
Gold 지표
8
Query · Data
리포트 확인
9
질문 · 답변
원본 1번(/g/data/1) 아키텍처 개념도를 한눈에 들어오는 만화풍 스케치(vis-sketch) 스타일로 변환한 장표예요. 아이콘을 누르면 공식 문서가 열려요.
아이콘을 누르면 공식 문서가 열려요.