[Airflow] 8. Sensor?
·
데이터/Airflow
Sensor?특정 조건이 충족될 때까지 작업의 실행을 대기시키는 Operator주로 외부 이벤트를 모니터링하거나 상태 확인에 사용주요 특징상태 확인외부 시스템 또는 상태를 주기적으로 확인조건 충족 시 다음 Task 실행Poke & Reschedule 모드Poke : Sensor가 계속 실행되며 주기적으로 상태 확인Reschedule : Sensor가 계속 실행되지 않고, 일정 시간 후 다시 상태 확인TimeoutSensor가 조건 충족 여부를 확인하다가 지정된 시간 내에 조건이 충족되지 않으면 실패 철리종류ExternalTaskSensor다른 DAG의 특정 Task 완료 여부 확인FileSensor특정 경로에 파일이 생성될 때까지 대기HttpSensor특정 HTTP 요청이 성공적으로 완료될 때까지 대기S..
[Airflow] 7. DAG Trigger?
·
데이터/Airflow
DAG Trigger?하나의 DAG가 완료되거나, 특정 조건을 만족하면 다른 DAG를 트리거하는 기능다중 DAG 간의 의존성을 설정할 때 유용하나의 DAG 실행이 끝난 후 다른 DAG를 자동으로 실행 가능DAG Trigger를 통해 여러개의 DAG를 연속적으로 실행하거나, 조건에 맞는 시점에 실행 가능DAG Trigger 방법Explict TriggerTriggerDagRunOperator 사용DAG A가 명시적으로 DAG B를 트리거사용방법더보기1. airflow.cfg 파일의 [dag_run_conf_overrides_params] 값을 True로 설정 2. Trigger하는 DAG에서 TriggerDagRunOperator 정의from airflow import DAGfrom airflow.oper..
[Airflow] 6. Slack Alert
·
데이터/Airflow
Airflow - Slack AlertAirflow의 DAG 실행 중 에러가 발생하면 지정된 Slack 채널로 에러 메시지 전송장점실시간 알림 기능 : Airflow DAG의 상태를 실시간으로 Slack 채널에서 확인 가능협업 효율성 향상 : Slack 채널에서의 알람을 통해 다수의 사용자가 에러를 빠르게 확인 가능커스터마이징 : 알림 메시지 내용 및 형식을 필요에 따라 수정 가능하며 특정 이벤트에만 동작하도록 설정 가능사용법Alert를 보낼 Slack 워크스페이스와 채널 결정https://api.slack.com/messaging/webhooks에 접속하여 App 생성더보기2-1. Create your Slack app 클릭 2-2. From scratch 선택 2-3. App Name & 워크스페이스..