DB 관련 배치가 늘어나면 데이터 복제, SQL 변환, 작업 순서 관리, 실패 재처리를 각각 어떻게 운영할지 고민하게 된다. Airflow, Airbyte, Dagster는 모두 데이터 파이프라인에 쓰이지만 담당하는 역할과 설계 관점이 다르다.간단히 나누면 Airflow는 작업 흐름의 스케줄링과 실행 관리, Airbyte는 커넥터를 통한 데이터 이동, Dagster는 데이터 자산과 그 생성 의존성 관리에 강점이 있다. 하나를 고르는 문제라기보다 파이프라인에서 필요한 책임을 기준으로 살펴보는 것이 좋다. 세 서비스의 역할부터 구분하기서비스중심 역할대표 기능Airflow작업 오케스트레이션DAG, 스케줄, 재시도, 작업 상태 추적Airbyte데이터 복제·수집Source·Destination 커넥터, 동기화 설..