Concept
- [Trino]Trino 쿼리 실행 원리: MPP 엔진을 "왜"부터 이해하기
- [DW]Fact Table
- [Spark]Spark의 실행모델 과 DAG
- [spark]MPP와 데이터레이크 하우스 관점에서의 Spark
- [Spark]Spark Shuffling 최적화
- [Spark]Yarn에서의 파일 지역성 문제
- [Spark] YARN에서 Spark on K8s로 — 이관 절차와 검토사항
- [Spark] Spark 배포모드
- [Kafka] 발행 기록 테이블은 Outbox가 아니다 — 트랜잭션 없는 DB에서 Outbox 만들기
- [Iceberg]04. 회고: dbt delete+insert 재실행이 파일 직접 읽기를 막은 이유와 optimize
Concept
DB INSERT와 Kafka produce는 하나의 트랜잭션으로 묶을 수 없음. 그래서 둘 중 하나가 먼저 일어나고, 그 사이에 프로세스가 죽을 수 있음.
spark.local.dir(K8s/YARN에서는 SPARK_LOCAL_DIRS)에 Executor가 쓰는 것:
Concept
Concept
Concept
Concept
Concept
Concept
Concept
여러 작업(writer)이 하나의 Iceberg 테이블에 동시에 쓸 때 발생하는 커밋 충돌 CommitFailedException을 다룬다. 목적은 두 가지다.
메타데이터 조작 방식은 필연적으로 덤프파일 생성 및 파티션 단편화라는 관리 비용을 발생시킴.
이 코드에서 첫 번째 함수는 파일 크기, 라인 수, JSON 유효성 같은 메타데이터 수준 검증을 수행하고, 두 번째 함수는 pandas로 실제 데이터를 읽어 필수 컬럼의 NULL 여부를 검증
Type Constraint — 특정 컬럼의 모든 값이 항상 같은 타입임을 보장.
1) External Service/Library 모드 — Schema Registry 같은 외부 서비스가 스키마를 버전 관리하고, producer가 데이터를 쓰기 전에 스키마를 검증한다. 호환성 규칙을 명시적으로 설정
Bucket 패턴은 고카디널리티(high-cardinality) 컬럼에 대해 데이터 접근을 최적화하는 패턴.
데이터를 특정 컬럼 기준으로 정렬하여 저장함으로써, 쿼리 시 불필요한 데이터 블록을 건너뛸 수 있게 하는 패턴
Metadata Enhancer는 데이터 파일에 통계 정보(min, max, null count 등)를 메타데이터로 저장하여, 쿼리 시 데이터를 읽기 전에 불필요한 파일/블록을 스킵하는 패턴
비싼 쿼리의 결과를 물리적으로 저장해두고, 이후 소비자는 저장된 결과만 읽게 하는 패턴