[Clean Code] 클린 코드(동시성) - 18

동시성

객체는 처리의 추상화다. 스레드는 일정의 추상화다.
- 제임스 O. 코플리엔

동시성과 깔끔한 코드는 양립하기 어렵다.

동시성이 필요한 이유

동시성은 결합을 없애는 전략이다.
무엇과 언제를 분리하는 전략이다.
스레드가 하나인 프로그램은 무엇과 언제가 밀접하다.

하나의 예로 한번에 한 사용자를 처리하는 시스템이 있다고 가정하자.
사용자를 처리하는 시간은 1초다.
사용자가 늘어날수록 시스템의 응답속도도 늦춰진다.
1000명 뒤에 줄 서고 싶은 사용자는 없다.

미신과 오해

이렇듯 동시성이 필요한 상황이 존재한다. 하지만 동시성은 어렵다. 정말 어렵다.

일반적인 미신과 오해

• 동시성은 항상 성능을 높인다.
  -> 대기 시간이 아주 길어 여러 스레드가 프로세서를 공유할 수 있거나, 여러 프로세서가 동시에 처리한 독립적인 계산이 충분히 많은 경우에만 성능이 향상된다.

• 동시성을 구현해도 설계는 변하지 않는다.
  -> 단일 스레드 vs 다중 스레드 시스템은 설계가 다르다.

• 웹 또는 EJB 컨테이너를 사용하면 동시성을 이해할 필요가 없다.
  -> 실제로는 컨테이너가 어떻게 동작하고, 어떻게 동시 수정, 데드락 등과 같은 문제를 피할 수 있는지를 알아야 한다.

타당한 생각

• 동시성은 다소 부하를 유발한다.
  -> 실제로 성능에서도 약간의 부하가 걸리며, 코드도 더 길어진다.

• 동시성은 복잡하다

• 동시성 버그는 재현하기 어렵다.

난관

동시성이 구현하기 어려운 이유는 무엇일까?

public class X{
    private int lastIdUsed;

    public int getNextId(){
        return ++lastIdUsed;
    }
}

X를 생성하고 lastIdUsed를 42로 설정한 후, 두 스레드가 해당 인스턴스를 공유한다.
두 쓰레드가 getNextId();를 호출한다고 가정하자

결과

1) 한 스레드는 43, 다른 스레드는 44
2) 한 스레드는 44, 다른 스레드는 43
3) 한 스레드는 43, 다른 스레드는 43

정확하게 이해하기 위해서는 JIT 컴파일러가 바이트 코드를 처리하는 방식, 자바 메모리 무델이 Atomic으로 간주하는 최소 단위를 알아야 한다.

동시성 방어 원칙

동시성 코드가 일으키는 문제로부터 시스템을 방어하는 원칙과 기술을 소개한다.

SRP

SRP는 주어진 메서드/클래스/컴포넌트를 변경할 이유가 하나여야 한다는 원칙이다.
동시성은 복잡성 하나만으로도 따로 분리할 이유가 충분하다.
즉, 동시성 관련 코드는 다른 코드와 분리해야 한다는 뜻이다.

고려사항

• 동시성 코드는 독자적인 개발, 변경, 조율 주기가 있다.
• 동시성 코드에는 독자적인 난관이 있다.
• 잘못 구현한 동시성 코드는 별의별 방식으로 실패한다.

권장사항

• 동시성 코드는 다른 코드와 분리하라

자료 범위를 제한하라

앞서 봤듯이, 객체 하나를 공유한 후 동일 필드를 수정하던 두 스레드가 서로 간섭하므로 예상치 못한 결과를 내놓을 수 있다.
이런 문제를 해결하기 위해 임계 영역(C.S)을 synchronized 키워드로 보호하라 권장한다.
이러한 CS 수를 줄이는 기술이 중요하다
공유 자료를 수정하는 위치가 많을 수록 다음 가능성도 커진다.

• 보호할 임계영역을 빼먹는다.
• 모든 임계영역을 올바로 보호했는지 확인하느라 시간이 더 든다.
• 그렇지 않아도 찾아내기 어려운 버그가 더 찾기 어려워진다.

권장사항

• 자료를 캡슐화하라. 공유 자료를 최대한 줄여라.

자료 사본을 사용하라

공유 자료를 줄이려면 처음부터 공유하지 않는 방법이 좋다.
어떤 경우에는 객체를 복사해 읽기 전용으로 사용하는 방법이 가능하다.
어떤 경우에는 각 스레드가 객체를 복사해 사용한 후, 한 스레드가 해당 사본에서 결과를 가져오는 방법도 가능하다.

물론 객체를 복사하는 데 걸리는 시간, 부하가 부담스러울 수 있다.
하지만 사본을 사용해서 얻는 이점이 더 클 것이다.

스레드는 가능한 독립적으로 구현하라

자신만의 세상에 존재하는 스레드를 구현한다.
즉, 다른 스레드와 자료를 공유하지 않는다. 각 스레드는 클라이언트 요청 하나를 처리한다.
모든 정보는 로컬 변수에 저장한다.
그렇게 되면 스레드는 자신만 있는 것처럼 돌아갈 수 있다 -> 다른 스레드와 동기화가 필요없으므로

예) HTTPServlet 클래스에서 파생된 클래스는 모든 정보를 doGet과 doPost 매개변수를 받는다.
각 서블릿은 마치 자신이 독자적인 시스템에서 동작하는 것처럼 요청을 처리한다.
각자의 로컬 변수만 사용한다면 동기화 문제를 일으킬 가능성을 전무하다.

권장사항

• 독자적인 스레드로, 가능하면 다른 프로세서에서, 돌려도 괜찮도록 자료를 독립적으로 분리하라

---

라이브러리를 이해하라

자바 5는 동시성 측면에서 이전보다 나아졌다. (그 이후의 나온 자바 버전들도 계속해서 나아졌겠지...)

예) Thread-Safe Collection 사용
ConcurrentHashMap은 거의 모든 상황에서 HashMap보다 빠르다. 또한 다중 스레드 환경에서의 문제도 발생하지 않는다.

권장사항

• 언어가 제공하는 프레임워크와 클래스를 검토하라

---

실행모델을 이해하라

다중 스레드 App을 분류하는 방식은 여러가지다

용어

1. 한정된 자원(Bound Resource)
   다중 스레드 환경에서 사용하는 자원으로 크기나 숫자가 제한적
   DB Connection, 길이가 일정한 버퍼 등

2. 상호 배제(Mutual Exclusion)
   한번에 한 스레드만 공유 자료나 자원을 사용할 수 있는 경우

3. 기아(Starvation)
   한 스레드나 여러 스레드가 오랫동안 자원을 기다리는 상황

4. 데드락(Deadlock)
   여러 스레드가 서로 필요한 자원을 갖고 상대가 끝나기를 기다린다.

5. 라이브락(Livelock)
   락을 거는 단계에서 각 스레드가 서로를 방해한다.

예시

1. 생산자-소비자
   하나 이상의 생산자가 버퍼/큐에 정보를 생성하여 넣는다.
   하나 이상의 소비자가 대기열에서 정보를 가져와 사용한다.
   대기열은 한정된 자원이다.

생산자는 대기열에 빈공간이 있어야 새 정보를 넣는다.
소비자는 대기열에 정보가 있어야 가져와 사용한다.

생산자는 정보를 넣고 소비자에게 알린다.
소비자는 정보를 빼고 생산자에게 알린다.

If) 동시성 문제를 해결하지 않으면, 생산자와 소비자 서로 기다리는 상황 발생 가능

2. 읽기-쓰기
   읽기 쓰레드를 위한 주된 정보원으로 공유 자원을 사용하지만, 쓰기 쓰레드가 공유 자원을 가끔 갱신한다고 하자
   이런 경우에는 처리율(throughput)이 핵심이다.
   처리율이 너무 높거나 낮으면 기아 현상이 생기거나 오래된 정보가 쌓인다.

따라서 읽기/쓰기 스레드를 만족시킬 적당한 처리율이 필요하다.

전략

• 읽기 스레드가 없을 때까지 갱신을 원하는 쓰기 스레드가 버퍼(차례)를 기다린다.
  BUT, 읽기 스레드가 계속 이어진다면 쓰기 스레드는 기아 상태에 빠진다.
• 쓰기 스레드가 없을 때까지 읽기를 원하는 읽기 스레드가 버퍼(차례)를 기다린다.
  반대 상황

3. 식사하는 철학자들
   양손에 포크를 쥐었을 때만, 식사가 가능하다.

권장사항

• 위의 기본 알고리즘과 각 해법을 이해하라.

---

동기화

동기화하는 메서드 사이에 의존성이 존재하면 동시성 코드에 찾아내기 어려운 버그가 생긴다.
자바 언어는 synchronized 개념을 지원한다.
BUT, 공유 클래스 하나에 동기화된 메서드가 여럿이라면 다시 한번 확인해봐야 한다.

동기화하는 부분을 작게 만들어라

올바른 종료 코드는 구현하기 어렵다

스레드 코드 테스트하기

• 그때그때의 설정, 시스템 설정, 부하에 따라 결과가 다르면 안된다. 어떤 상황에서라도 테스트를 통과할 때까지 추적하라.

결론

다중 스레드 코드는 올바로 구현하기 어렵다.
간단한 코드도 여러 스레드와 공유 자료를 추가하면서 어려워진다.
잠글 코드만 잠그고 이외의 코드는 잠그지 말아라.

어떻게든 문제는 생긴다. 해당 문제들을 잡아내기 위해 TDD를 따르고
가능한 많은 상황에서 테스트를 진행해 통과시켜라.