
개발·자동화
크롤링 스크래핑 차이: 파이썬 수집 순서와 허용 범위 확인법
웹 스크래핑은 웹페이지에서 필요한 값만 뽑는 작업이고 크롤링은 링크를 따라 페이지를 모으는 작업이다. 두 말의 차이, 파이썬 requests·Beautiful Soup 수집 순서, robots.txt 확인법과 허용 범위를 정리했다.
경험과 코드가 교차하는 지점에서 기록한, 밀도 높은 비즈니스 에세이와 테크 인사이트.

웹 스크래핑은 웹페이지에서 필요한 값만 뽑는 작업이고 크롤링은 링크를 따라 페이지를 모으는 작업이다. 두 말의 차이, 파이썬 requests·Beautiful Soup 수집 순서, robots.txt 확인법과 허용 범위를 정리했다.

파이썬 3.15는 2026년 10월 9일 정식 출시됐고 기본 인코딩이 UTF-8로 바뀌었다. lazy import, frozendict, Tachyon 프로파일러와 업그레이드 전 호환성 점검 항목을 정리했다.