데이터 엔지니어의 솔로 레벨업 🌱
  • 홈
  • 글쓰기
  • 관리자
  • Github
    • 전체보기
      • 데이터 엔지니어링
        • AWS
        • Databricks
        • Spark
        • Python
      • LLM
      • DB
        • SQL
      • 알쓸신잡
        • TIL
        • Common
      • 컴퓨터 사이언스 (CS)
        • Certificate
        • Toy Project
        • Infra
      • 코딩테스트
        • Python
      • ETC
  • 글작성
  • 방명록
  • 환경설정
  • 메뉴 닫기
컴퓨터 사이언스 (CS)/Toy Project 검색 결과
1 개의 검색 결과가 있습니다.
컴퓨터 사이언스 (CS)/Toy Project

[Project] Pyupbit ETL 파이프라인 구축

Upbit 실시간 비트 코인 데이터를 Kafka Producer로 부터 Consumer로 보내고 Mysql DB에 적재한 뒤 한 시간 한번 실행하는 Schedule는 Airflow 스케줄로 배치하는 Pipeline구축 🛠️ 사용 기술 및 라이브러리 Pandas AWS S3 Mysql Kafka Airflow 💻 담당한 기능 (AWS, Kafka, Airflow , Mysql) 작업 내용 1. AWS EC2에 kafka, airflow, mysql install 2. pyupbit를 kafka로 연동 3. mysql db에 적재 4.airflow로 1시간마다 배치 스케줄링 설정 🧨 Error mysql.connector.errors.InterfaceError: 2003: Can't connect to My..

2023. 11. 13. 00:29
  • «
  • 1
  • »

전체 카테고리

  • 전체보기
    • 데이터 엔지니어링
      • AWS
      • Databricks
      • Spark
      • Python
    • LLM
    • DB
      • SQL
    • 알쓸신잡
      • TIL
      • Common
    • 컴퓨터 사이언스 (CS)
      • Certificate
      • Toy Project
      • Infra
    • 코딩테스트
      • Python
    • ETC

블로그 인기글

전체 방문자

오늘
어제
전체
반응형
Powered by Privatenote Copyright © 데이터 엔지니어의 솔로 레벨업 🌱 All rights reserved. TistoryWhaleSkin3.4

티스토리툴바