[OS] 쓰레드(Thread)와 멀티쓰레딩(Multithreading)

 

📌 쓰레드(Thread)

 

 

쓰레드는 프로세스보다 가볍고 효율적이며, 커널은 여러 쓰레드를 동시에 실행하고 관리한다. Basic unit of CPU utilization 이며

code, data, file 등 의 자원을 공유한다. 쓰레드는 TCB로 관리되며  TCB에는 쓰레드 id , 쓰레드의 상태 (running, waiting, ready) 등의 상태, stack pointer, program counter, pointer to PCB, 레지스터 셋이 있다.

 

 

 

 

그렇다면 프로세스 대신 쓰레드를 사용하는 이유와 장점은 무엇일까? 

 

• Responsiveness (응답성): 프로세스의 일부가 차단되었을 때에도 계속 실행할 수 있도록 해준다. 특히 사용자 인터페이스에 있어서 매우 중요한데, 사용자가 프로그램의 반응성을 높게 느낄 수 있도록 한다.
• Resource Sharing (자원 공유): 스레드는 프로세스의 자원을 공유한다. 이는 공유 메모리나 메시지 전달보다 간단하게 자원을 공유할 수 있다는 것을 의미한다.
• Economy (경제성): 프로세스 생성보다 저렴하며, 스레드 전환의 오버헤드가 컨텍스트 전환보다 낮다. 즉, 스레드를 생성하고 전환하는 것이 비교적 더 효율적이고 경제적이다.
• Scalability (확장성): 프로세스는 다중 프로세서 아키텍처의 이점을 활용할 수 있다. 다중 프로세서 아키텍처에서는 여러 프로세서가 동시에 작업을 처리할 수 있으므로, 스레드를 사용하면 프로그램의 성능을 향상시킬 수 있다.

 

📌 Multicore Programming

 

 

멀티코어 혹은 멀티프로세서 프로그래밍 시스템은 개발자에게 data 분산, task 분산 밸런싱 , 테스트와 디버깅 등의 압박감을 준다.

여기서 우리는 병렬성과 동시성에 대해 구분 지을 필요가 있다. 병렬성은 동시성보다 더욱 엄격하다 싱글 코어에서 다수의 쓰레드는 동시적으로 실행될 수 있지만 병렬적으로 실행 되지는 않는다. 멀티 프로그래밍이란 병렬적으로 프로그램이 실행되는 것이 아닌 동시의 여러 프로그램이 실행되는 것을 뜻한다. 아래의 첫 번째 그림은 싱글 코어일 때도 멀티 프로그래밍이 가능하다는 것을 보여준다. 하지만 병렬적이지는 않다. 두 번째 그림은 멀티코어의 멀티프로그래밍이면서 병렬적이고 동시적인 실행을 보여준다. 

 

 

싱글코어 시스템

 

멀티코어 시스템

 

 

 

이제는 병렬의 종류에 대해서 알아보자. 두 가지 병렬을 알아볼 건데 하나는 데이터 병렬이다. 데이터 병렬은 각자 다른 데이터를 갖고 다른 업무를 하는 병렬을 의미한다.

 

데이타 병렬

 

 

다른 한 종류의 병렬은 과업 병렬이다. 과업 병렬은 같은 데이터를 갖고 각자의 업무를 하는 병렬을 의미한다.

과업 병렬

 

쉽게 말해 데이터를 공유하냐 하지 않느냐의 의미를 두고 병렬의 용도를 달리 한다고 볼 수 있겠다.

 

Amdahl's Law

 

이렇게 보다보면 코어 수가 많을 수록 프로그램을 많이 실행할 수 있으니 프로그램의 개수만큼 비례하여 속도가 빨라지는 것처럼 생각 될 수 있다. 하지만 실제로 코어수가 많은 만큼 그 수에 비례하여 프로그램의 실행속도가 빨라지지 않는다. 그것을 증명한 것이 암달의 법칙이다.

 

그래프의 S는 직렬화의 비율을 의미하며, 암달의 법칙 공식은 다음과 같다.

 

 

암달은 병렬화된 부분이 전체 작업에서 차지하는 비율에 따라 성능 향상이 달라진다는 것을 발견하였고, 실제로 그래프를 통해서 병렬화된 부분 외에도 프로그램에서는 직렬적으로 , 순차적으로 처리되어야하는 부분이 있기 때문에 성능 향상의 한계가 있다는 것을 알 수 있다.

 

 

 

📌 Multithreading

 

쓰레드는 두 가지의 분류로 나뉠 수 있다. 우선 유저 스레드는 사용자 수준(user-level)에서 관리되는데 이러한 쓰레드는 주로 사용자 애플리케이션에서 생성되고 실행되며, 스레드 관리와 스케줄링은 애플리케이션에서 수행된다. 

다음으로 커널 스레드는 운영 체제 커널(kernel) 수준에서 관리되며 시스템 레벨의 작업을 처리하며, 스레드 관리와 스케줄링은 운영 체제 커널에 의해 수행되는데 프로세스보다는 값이 싸지만 어플리케이션단의 유저 쓰레드보다는 비싸다.

 

유저 쓰레드와 커널 쓰레드

 

대부분 운영체제 커널에서는 멀티스레딩으로 운영되며, 각 스레드는 메모리를 관리하거나 인터럽트를 핸들링하거나 하드웨어를 관리하는 등의 구체적인 과업을 한다.

커널 쓰레드

 

 

그렇다면 멀티 쓰레딩을 얘기하면서 왜 커널 쓰레드와 유저 쓰레드에 대해서 먼저 얘기하였을까? 유저 쓰레드와 커널 쓰레드는 서로 대응되어야하기 때문이다. 기본적으로 CPU에서 실행하는 단위는 커널 쓰레드이기 때문에 유저 쓰레드는 반드시 커널 쓰레드와 연결이 되어야 하며, 그 후에 커널 쓰레드가 CPU에서 실행된다. 즉 주체 자체가 커널 쓰레드이기 때문에 유저 쓰레드는 단독적으로 CPU에 올라갈 수 없다는 것을 의미한다. 이제 멀티스레딩의 모델을 통해서 유저쓰레드와 커널쓰레드가 대응되는 모습을 살펴보자.

 

Many-to-One

 

 

 

그림과 같이 User Thread 여러 개가 하나의 Kernel Thread 에 매핑된다. 스레드 관리가 유저 영역의 라이브러리에 의해 수행되므로 효율적이지만, 한 User Thread 가 Block 되면 Kernel Thread 자체가 Block 된다. 또한, 한번에 하나의 User Thread만 Kernel 에 액세스 할 수 있으므로 여러 스레드를 병렬로 실행할 수 없다.

 

 

One-to-One

 

 

 

User Thread 하나당 Kernel Thread 하나씩 매핑된다. 프로세스 내 스레드가 병렬 실행이 가능하다는 장점이 있고, 다대일 모델의 많은 문제가 해결되지만,  User thread 생성시마다 Kernel thread가 생성되어야 하기 때문에 비용이 높다. 그리고 프로세스당 스레드의 수가 제한적이기 때문에 Overhead 발생의 우려가 있다.

 

Many-to-One

 

 

 

User Thread 를 동일한 수, 혹은 그 이하의 Kernel Thread 에 매핑하여, 이전 두 모델의 단점을 극복. User Thread 가 Block 되어 연결된 Kernel Thread 가 Block 되어도, 다른 User Thread 를 다른 Kernel Thread 로 매핑하여 대기상태에 빠지는 것을 해결할 수 있다.

이 구조는 위에서 소개한 두 모델의 장점들만을 합쳤다는 점에서 가장 이상적인 멀티쓰레딩 모델이라고 불린다. 우선 One-to-One 모델과 마찬가지로 복수의 OS 쓰레드를 활용하므로 멀티코어의 이점을 누릴 수 있으며, 혹시라도 특정 OS 쓰레드가 블록되어도 나머지 OS 쓰레드들은 그대로 활용할 수 있다. 나아가 Many-to-One 모델과 마찬가지로 가벼운 무게의 유저 쓰레드를 무한정 만들어도 프로세스에 무리가 가지 않으며, 유저 쓰레드 간의 컨텍스트 스위칭은 유저 레벨에서 발생하므로 굉장히 빠르다.

Many-to-Many 모델의 구현체는 적절한 개수의 유저 쓰레드들만을 OS 쓰레드들에 연결시키는 등 최적화 작업을 내부적으로 수행하며, 커널에서는 OS 쓰레드 간의 컨텍스트 스위칭 없이 그때 그때 OS 쓰레드에 연결되는 유저 쓰레드들의 코드를 실행하면 된다. 

 

Many-to-Many 모델의 유일한 문제점은 바로 프로그래밍 언어를 구현하는 엔지니어들 입장에서 구현하기 힘들다는 점이다.

 

Two-level Model

 

 

 

많은 User Thread를 적거나 같은 수의 Kernel Thread에 멀티플렉스 시키고, 한 User Thread는 하나의 Kernel Thread에만 연관되는 것을 허용한다.

 

 

 

 

앞서 이런 멀티 쓰레딩 모델들은 쓰레드 라이브러리 <pthread.h>를 통해서 API를 호출하거나 Java의 쓰레드 풀을 통해 활용하거나 C나 C++ 의 Open MP 라이브러리를 사용하는 등의 방법을 통해서 구현이 가능하다.