Rona

뉴스 ETL 파이프라인 자동화하기

중급402026-06-09

News API 응답을 Python으로 수집하고 pandas로 정제한 뒤 PostgreSQL의 news_articles 테이블에 자동 적재하는 흐름을 완성합니다. 수동 복사와 INSERT 작업을 반복하던 방식을 재실행 가능한 ETL 스크립트와 검증 쿼리 결과로 바꿉니다.

이 코칭은 터미널에서 진행됩니다

이런 걸 배워요

  • News API 응답에서 필요한 뉴스 필드를 추출할 수 있습니다.
  • pandas로 날짜와 누락값을 정제할 수 있습니다.
  • SQLAlchemy를 사용해 PostgreSQL 테이블에 데이터를 적재할 수 있습니다.
  • 설정값 파일을 이용해 API 키와 데이터베이스 접속 정보를 코드 밖에서 관리할 수 있습니다.

어떻게 진행해요

1. 실행 환경 확인
2. 필요 패키지 설치
3. 뉴스 키와 수집 주제 준비
4. 설정값 파일 준비
5. 실제 설정값 입력
6. ETL 코드 작성
7. 파이프라인 실행
8. 적재 결과 확인

AI 튜터가 각 단계를 하나씩 안내해줄 거예요

뉴스 ETL 파이프라인 자동화하기 (중급)