[데이터 엔지니어링 데브코스 4기] 9주차 11/12 TIL
·
데이터 엔지니어링 데브코스
안녕하세요! 김줘입니다! 오늘은 Airflow의 Backfill에 대해 추가적인 설명이 이어졌고,Operator를 통한 MySQL -> S3 -> Redshift로의 DAG를 어떻게 만들 수 있는 지에 대한 강의가 이어졌습니다! Operator가 종류가 굉장히 많아서, 내부 파라미터까지 정리하기 위해 저도 공부하고 알아볼 필요가 있을 것 같아서 추후 포스팅할 것 같습니다!해당 이유로 오늘은 Backfill에 대한 포스팅만 존재합니다..2024.11.12 - [데이터/Airflow] - [Airflow] 5. Backfill? 내일부터는 Docker와 K8S에 대한 강의가 순차적으로 이루어질 예정이라, 조금 바빠질 것 같아요!강의가 무시무시하게 많더라구요... 그리고 오늘 새로운 3차 팀원분들과 첫 스크럼..
[데이터 엔지니어링 데브코스 4기] 8주차 11/8 TIL
·
데이터 엔지니어링 데브코스
안녕하세요 김줘입니다! 오늘은 2차 팀이 종료되고 새로운 3차 팀이 발표되었습니다! 2차팀 분들과 헤어지는 게 아쉬워서 스크럼 시간에 2시간동안 노가리 깐 것 같아요 ㅋㅋㅋㅋㅋ수료를 하더라도 좋은 관계를 계속 이어가야겠다는 생각이 들었습니다! 그리고 새로운 3차팀 분들도 좋은 분이라는 카더라를 들었기에, 이번 팀에서도 열심히 해보려고 합니다!! 그리고 저 링크드인 만들었어요!!https://www.linkedin.com/in/%EC%A3%BC%ED%98%B8-%EA%B9%80-7a794a296/ 1촌 신청 많이많이 주세요 ㅋㅋㅋㅋㅋㅋㅋ 아무튼, 오늘 Airflow 이론, 실습 강의가 이어졌는데, 양이 어마무시하게 많습니다....... 아마 오늘 내로 정리는 못하고,주말동안 정리해야할 것 같아요. (+ 토..
[데이터 엔지니어링 데브코스 4기] 8주차 11/7 TIL
·
데이터 엔지니어링 데브코스
안녕하세요! 김줘입니다. 오늘은 데이터 파이프라인이 어떤 것인지에 대한 설명과 Airflow 이론에 대한 설명이 진행되었습니다! 주로 데이터 파이프라인, 에어플로우에 관련되어 설명이 이루어져 간단하게 이론을 정리하고 공부했습니다! 2024.11.07 - [데이터/Airflow] - [Airflow] 1. Airflow? 다음 주면, 이제 3차팀을 구성하게 되는데, 지금 팀원분들과 많이 이야기도 나누고 친해진 것 같아 뭔가 아쉬운 것 같아요. 새로운 팀이 구성되면,분위기가 어떨지도 궁금도 하지만, 너무 빠르게 팀이 바뀌다 보니, 서로 편하게 이야기할 수 있어질 때 쯤 끝나는 게 온라인 부트캠프 기준으로는 안좋은 것 같아요 ㅋㅋㅋㅋ 그래도 좋은 분들을 만나 2주동안 재밌게 할 수 있었던 것 같습니다. 많이 ..