일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
31 |
- 개발
- 데이터베이스
- 데이터웨어하우스
- 웹스크래핑
- CS
- 프로그래머스
- 에어플로우
- 자료구조
- SQL
- 웹자동화
- DataWarehouse
- 데이터엔지니어
- 데브코스
- Django
- 운영체제
- 알고리즘
- WEB
- Service
- 클라우드
- 기술면접
- Amazon
- 웹크롤링
- 부트캠프
- 데이터엔지니어링
- AWS
- 파이썬
- 관계형데이터베이스
- 취준
- airflow
- 개념정리
- Today
- Total
사진과 음악을 좋아하는 개발자 지망생의 블로그
[Airflow] ERROR - Triggerer's async thread was blocked for X.XX seconds, likely by a badly-written trigger. 본문
[Airflow] ERROR - Triggerer's async thread was blocked for X.XX seconds, likely by a badly-written trigger.
devculture309 2023. 6. 20. 16:36상황
docker-compose up -d를 실행한 후 airflow 로컬 UI에 들어갔으나 에러가 발생하여, 확인해보니 다음과 같은 에러가 발생하였다
[2023-06-20 06:52:51,575] {triggerer_job.py:348} ERROR - Triggerer's async thread was blocked for 0.52 seconds, likely by a badly-written trigger. Set PYTHONASYNCIODEBUG=1 to get more information on overrunning coroutines.
Airflow에서 트리거 문제의 원인으로 여러가지(트리거의 작업 차단, 너무 많은 트리거, 콜백 실행 중 Airflow 작업자 비정상 종료, 트리거의 무한 루프, 트리거 클래스 없음 등)이 있다.
그 중 구글 검색을 하면 가장 많이 발견되는 원인이 용량 부족이다.
따라서, 때마침 슬랙과 게더, vscode, 윈도우 엣지 등 많은 프로그램들을 실행시키고 있었기 때문에
많은 용량을 차지하는 순부터 프로그램 종료를 하였고 바로 해결되었다.
참고자료
Airflow 트리거 문제 해결 | Cloud Composer | Google Cloud
Airflow 트리거 문제 해결 | Cloud Composer | Google Cloud
Airflow Summit 2023 9월 19일부터 21일까지 Airflow Summit 2023 컨퍼런스가 열리는 동안 Airflow 커뮤니티에 참여하여 Airflow에 대해 자세히 알아보고 전문 지식을 공유해 보세요. 접수 시작 의견 보내기 Airflow
cloud.google.com
Docker/Airflow trigger and memory issue : r/docker (reddit.com)
r/docker on Reddit: Docker/Airflow trigger and memory issue
Posted by u/Particular-Bet-1828 - 1 vote and 1 comment
www.reddit.com
Starting airflow with Docker - trigger ERROR - Stack Overflow
Starting airflow with Docker - trigger ERROR
I am new to Docker so I have followed the official guide here for running Airflow with it-https://airflow.apache.org/docs/apache-airflow/stable/start/docker.html When I start Airflow all services w...
stackoverflow.com
'개발 > 삽질일기' 카테고리의 다른 글
[airflow] airflow에서 webdriver, selenium 돌리기 (1) | 2023.06.26 |
---|---|
공공데이터 api 데이터 100개 한번에 호출해서 가져오기 vs 10개씩 10번 호출해서 가져오기 (2) | 2023.06.22 |
[Airflow] ValueError: Unable to configure handler 'processor': [Errno 13] Permission denied: '/opt/airflow/logs/scheduler' (1) | 2023.06.20 |
[Django] 다 쓴 코드도 다시 보자 (0) | 2023.04.27 |
[Django] 디테일에 신경쓰자 (0) | 2023.04.26 |