[데이터, AWS] 15. Redshift?
·
AWS
Redshift?AWS에서 제공하는 완전 관리형 클라우드 기반 데이터 웨어하우스 서비스!대규모 데이터 세트를 빠르게 분석하고 복잡한 쿼리를 처리할 수 있도록 설계관계형 데이터베이스와 유사한 SQL 쿼리를 지원Redshift의 특징2PB의 데이터까지 처리 가능(최소 160GB)Still OLAP : 응답속도가 빠르지 않아, 프로덕션 데이터베이스로 사용 불가컬럼 기반 스토리지레코드 별로 저장하는 것이 아닌, 컬럼 별 저장컬럼별 압축이 가능하며, 컬럼의 추가, 삭제 작업이 매우 빠름!벌크 업데이트 지원 : 레코드가 들어있는 파일을 S3로 복사 후 COPY 커맨드로 Redshift로의 일괄 복사 가능!데이터 공유(Datashare) : 다른 AWS 계정과 특정 데이터 공유 가능!Primary Key Unique..
[AWS] 14. Lambda
·
AWS
Lambda?AWS Lambda는 서버를 직접 관리하지 않고도 코드를 실행할 수 있는 서버리스 컴퓨팅 서비스입니다!AWS에서 기본적인 인프라 설정, 관리, 확장 등을 자동으로 처리하기에, Lambda가 지원하는 언어로 실행시키고자 하는 코드만 제공!이벤트 기반으로 작동하기에, 이벤트 발생 시에만 코드가 실행되므로 비용 효율적!Lambda 특징서버리스 아키텍쳐서버를 직접 관리할 필요 없이 함수 단위로 코드를 작성하고 배포!코드 실행을 위해 서버를 준비하거나 운영하는 과정 필요 X이벤트 기반 실행API Gateway, S3, DynamoDB, Kinesis와 같은 다양한 AWS 서비스와 통합되어 특정 이벤트가 발생하면 자동으로 트리거!-> ex) S3 버킷에 파일을 업로드할 때마다 파일을 처리하는 Lambd..
[데이터 엔지니어링 데브코스 4기] 6주차 10/25 TIL
·
데이터 엔지니어링 데브코스
안녕하세요. 김줘입니다. 오늘은 AWS에 관련된 포스팅을 좀 많이 했어요!2024.10.25 - [AWS] - [AWS] 6. Route53?2024.10.25 - [AWS] - [AWS] 7. Certification Manager?2024.10.25 - [AWS] - [AWS] 8. CloudFront?2024.10.25 - [AWS] - [AWS] 9. ELB?2024.10.25 - [AWS] - [AWS] 10. VPC?2024.10.25 - [AWS] - [AWS] 11. IAM?2024.10.25 - [AWS] - [AWS] 12. S3?2024.10.25 - [AWS] - [AWS] 13. AWS에서의 CI/CD? 근데 기분이 좋지 않은 이유는 강의때문입니다. 아무리 그래도 데이터 엔지니어링..