Concept
- [spark]MPP와 데이터레이크 하우스 관점에서의 Spark
- [Spark] Spark 배포모드
- [Kafka] 발행 기록 테이블은 Outbox가 아니다 — 트랜잭션 없는 DB에서 Outbox 만들기
- [Iceberg]04. 회고: dbt delete+insert 재실행이 파일 직접 읽기를 막은 이유와 optimize
- [Spark] Spark on K8s의 로컬 디렉토리와 Pod 수명주기
- [Spark]Spark의 실행모델 과 DAG
- [Trino]동적 필터와 파일 프루닝
- [Spark] 클러스터 구성요소
- [ClickHouse] 경로가 병목일 때: Iceberg Parquet 직접 읽기로 발행 84분 → 3분
- [CDC]03. CDC + 배치 서빙: 복제본과 마감분을 경계 하나로 잇기
DB INSERT와 Kafka produce는 하나의 트랜잭션으로 묶을 수 없음. 그래서 둘 중 하나가 먼저 일어나고, 그 사이에 프로세스가 죽을 수 있음.
spark.local.dir(K8s/YARN에서는 SPARK_LOCAL_DIRS)에 Executor가 쓰는 것:
Concept
Concept
Concept
Concept
Concept
Concept
Concept
Concept
여러 작업(writer)이 하나의 Iceberg 테이블에 동시에 쓸 때 발생하는 커밋 충돌 CommitFailedException을 다룬다. 목적은 두 가지다.
메타데이터 조작 방식은 필연적으로 덤프파일 생성 및 파티션 단편화라는 관리 비용을 발생시킴.
이 코드에서 첫 번째 함수는 파일 크기, 라인 수, JSON 유효성 같은 메타데이터 수준 검증을 수행하고, 두 번째 함수는 pandas로 실제 데이터를 읽어 필수 컬럼의 NULL 여부를 검증
Type Constraint — 특정 컬럼의 모든 값이 항상 같은 타입임을 보장.
1) External Service/Library 모드 — Schema Registry 같은 외부 서비스가 스키마를 버전 관리하고, producer가 데이터를 쓰기 전에 스키마를 검증한다. 호환성 규칙을 명시적으로 설정
Bucket 패턴은 고카디널리티(high-cardinality) 컬럼에 대해 데이터 접근을 최적화하는 패턴.
데이터를 특정 컬럼 기준으로 정렬하여 저장함으로써, 쿼리 시 불필요한 데이터 블록을 건너뛸 수 있게 하는 패턴
Metadata Enhancer는 데이터 파일에 통계 정보(min, max, null count 등)를 메타데이터로 저장하여, 쿼리 시 데이터를 읽기 전에 불필요한 파일/블록을 스킵하는 패턴
비싼 쿼리의 결과를 물리적으로 저장해두고, 이후 소비자는 저장된 결과만 읽게 하는 패턴