시스템 설계 강좌: 부하 분산과 분산 시스템을 배우는 40개 강의

40개의 인터랙티브 강의로 시스템 설계를 배워 보세요. 부하 분산, 캐시, 데이터베이스를 알아보고 URL 단축 서비스, 피드, 채팅을 설계합니다.

브라우저가 페이지를 불러올 때 무슨 일이 일어나나요?

TCP와 TLS로 처음 접속할 때 브라우저는 도메인 이름을 해석하고 보안 연결을 연 뒤 HTTP 요청을 보냅니다. 그런 다음 서버 응답을 화면에 표시합니다.

주소 찾기 (DNS)

네트워크는 이름이 아니라 숫자로 된 IP 주소로 경로를 정해요. 그래서 브라우저는 먼저 DNS 리졸버에게 묻습니다: shop.example은 어디 있나요?

답(203.0.113.7)은 약 20 ms 뒤에 돌아와요.

RFC 1034 — Domain Names: Concepts and Facilities

연결 열기

이제 브라우저가 203.0.113.7로 연결을 엽니다. TCP 핸드셰이크로 대화를 약속하고, TLS 핸드셰이크로 암호화를 준비해요. 각각 한 번의 왕복(round trip)이 필요합니다.

여기서는 왕복 한 번이 30 ms라서, 페이지의 첫 바이트를 요청하기도 전에 연결에만 60 ms가 들어요.

요청 보내기

열린 연결로 브라우저가 GET /products를 보냅니다. 서버는 이를 해석하고, 세션을 확인하고, 여러분의 코드를 실행해요.

여기에 왕복 한 번과 약 10 ms의 서버 작업이 더 들어요.

서버가 데이터베이스에 물어봐요

상품은 웹 서버가 아니라 데이터베이스에 있어요. 서버는 쿼리를 보내고 행들이 돌아오기를 기다립니다.

요청이 끝까지 들어가고 응답이 끝까지 나오는 모습을 지켜보세요.

응답이 돌아와요

서버가 행들을 HTML로 바꿔 돌려보내고, 다운로드에 20 ms가 더 들어요. Enter를 누른 지 155 ms 뒤에 브라우저가 페이지를 그립니다.

그다음 페이지 속 이미지와 스타일시트를 발견하고 요청을 더 보내요. 열린 연결을 재사용하니 그 요청들은 핸드셰이크가 필요 없어요.

코스

기초

  • 요청의 여정

    페이지 하나가 로드되는 과정을 한 홉씩 따라가며 시간이 실제로 어디에 쓰이는지 알아봐요.

  • 지연 시간과 처리량

    속도에 관한 두 가지 질문, 그리고 바쁜 서버가 꽉 차기도 전에 느려지는 이유.

  • 어림셈

    냅킨 한 장에 들어가는 계산으로 제품 아이디어를 서버 대수와 테라바이트로 바꿔 보세요.

확장

  • 수직 대 수평

    하나뿐인 서버가 녹아내리고 있습니다. 더 큰 걸 살까요, 더 많이 살까요?

  • 로드 밸런싱

    여러 서버를 위한 하나의 현관, 그리고 어떤 요청을 누가 받을지 정하는 규칙.

  • 무상태 서비스

    다음 요청이 어느 서버에서든 동작해야 하는 이유, 그리고 상태는 대신 어디로 가는가.

  • 캐싱

    사람들이 가장 많이 묻는 답을 데이터베이스보다 훨씬 빠른 곳에 둡니다.

  • 콘텐츠 전송

    모두가 내려받는 것을 사용자 가까운 서버에 복사해 두고, 빛의 속도와 싸우는 일을 그만두세요.

데이터와 저장소

  • SQL 대 NoSQL

    테이블, 문서, 아니면 단순한 키. 각 데이터베이스가 무엇을 잘하고 무엇을 포기하는지.

  • 인덱스

    같은 쿼리가 2초 걸릴 수도, 2밀리초 걸릴 수도 있는 이유.

  • 스토리지 엔진

    데이터베이스가 여러분의 쓰기를 실제로 어떻게 처리하는지, 그리고 왜 어떤 엔진은 읽기용으로, 어떤 엔진은 쓰기용으로 만들어지는지.

  • 복제

    데이터베이스 사본을 여러 머신에 둡니다. 더 많은 읽기를 위해, 그리고 살아남기 위해.

  • 샤딩

    데이터나 쓰기가 머신 한 대를 넘어서면, 여러 대로 나눕니다.

  • 일관된 해싱

    서버를 추가하거나 제거해도 데이터는 아주 조금만 옮깁니다.

  • 대규모 고유 ID

    아무도 다시는 쓰지 않을 이름을 모든 행에 붙이기. 모두가 줄 서야 하는 단일 카운터 없이.

  • CAP와 일관성

    네트워크가 갈라지면, 데이터의 사본들은 옳은 것과 응답할 수 있는 것 사이에서 골라야 합니다.

  • 합의와 리더

    일부에 닿을 수 없어도 서버 무리가 어떻게 리더 하나와 역사 하나에 합의하는가.

  • 트랜잭션과 격리

    두 사람, 좌석 하나, 같은 밀리초. 데이터베이스는 동시에 일어나는 변경을 어떻게 올바르게 지킬까.

  • 파일과 미디어

    사진과 동영상은 데이터베이스에 넣을 것이 아닙니다. 대신 어디에 두는지, 그리고 어떻게 올리고 내려받는지 알아봅니다.

통신

  • REST, RPC, GraphQL

    프로그램끼리 무언가를 요청하는 세 가지 방법, 그리고 각각이 4G 휴대폰에 드는 비용.

  • 메시지 큐

    바로 응답하고, 느린 일은 나중에 하며, 도중에 작업을 하나도 잃지 않기.

  • Pub/Sub와 이벤트

    무언가 일어났다고 알리고, 관심 있는 쪽이 반응하게 하세요. 누구도 기다리지 않고요.

  • 실시간 업데이트

    서버가 무슨 일이 일어났는지 알려 주는 방법: 채팅, 실시간 점수, 알림.

안정성

  • 이중화와 페일오버

    모든 것은 결국 고장 납니다. 어떤 단일 장애로도 멈추지 않도록 설계하세요.

  • 속도 제한

    모든 클라이언트에 공정한 예산을 주어, 폭주하는 스크립트 하나가 모두를 쓰러뜨리지 못하게 하세요.

  • 타임아웃과 재시도

    힘들어하는 서비스를 안전하게 호출하기: 제때 포기하고, 조심스럽게 재시도하고, 멈출 때를 아는 법.

  • 관측 가능성

    메트릭, 로그, 트레이스: 무엇이, 어디서, 왜 잘못됐는지 빠르게 알아내는 방법.

아키텍처

  • 모놀리스 대 마이크로서비스

    코드베이스 하나인가, 서비스 여러 개인가? 각각이 무엇을 주고 무엇을 치르게 하는지, 그리고 둘 사이를 어떻게 옮겨 가는지.

  • 서비스 디스커버리

    인스턴스가 생기고 사라지는 동안 서비스들이 서로를 찾는 방법, 그리고 외부의 모두를 위한 하나의 정문.

  • 사가와 분산 트랜잭션

    작업 하나, 서비스 여럿, 데이터베이스 여럿: 하나의 큰 트랜잭션 없이 전부 아니면 전무를 지키는 방법.

  • 배치와 스트림 처리

    수십억 개의 이벤트 처리하기: 밤사이 큰 배치로, 또는 도착하는 대로 계속.

보안

  • 인증

    누군가가 누구인지 증명하기. 그 사람의 비밀번호가 유출되는 원인이 되지 않으면서요.

  • 인가

    누군가가 누구인지 안다고 해서 그가 무엇을 보고 무엇을 해도 되는지 알 수는 없습니다. 그걸 모든 곳에서 확인하기.

  • 암호화와 시크릿

    네트워크와 디스크의 데이터, 그리고 서비스가 쓰는 키와 비밀번호를 보호하기.

출시

  • 테스트

    사용자가 알아채기 전에 변경이 안전한지 아는 것. 로직에는 빠른 테스트를, 나머지에는 몇 개의 느린 테스트를.

  • CI/CD와 배포

    모든 변경을 빠르고 안전하게 운영 환경에 내보내고, 똑같이 빠르게 되돌리기.

전체 시스템

  • HLD와 LLD

    같은 시스템을 두 가지 배율로 보기: 서비스들의 지도, 그리고 그중 하나의 내부.

  • URL 단축기 설계

    첫 번째 엔드투엔드 설계: 한 줄짜리 요청에서 수십억 번의 리디렉션을 처리하는 시스템까지.

  • 뉴스 피드 설계

    팔로우하는 모든 사람의 게시물을 200 ms 안에, 그리고 작업을 언제 할 것인가라는 질문.

  • 채팅 시스템 설계

    열린 연결 2,000만 개와 하나의 약속: 모든 메시지가 순서대로, 정확히 한 번 도착한다.

기술 참고 자료