Front Team과 협업을 하면서 가장 번거로웠던 작업은 OpenAPI를 만드는 작업이었다. 그러던 와중 API 개발만 해도 OpenAPI를 자동으로 만들어 준다는 FastAPI라는 Python 프레임 워크를 알게되었고, 현재 다니고 있는 회사의 백엔드 프레임 워크로 사용중이다.
부끄러운 이야기이지만(..😰) 개발을 하면서 소스 코드 수준에서의 리팩토링이나 알고리즘 개선은 많이 다루었지만, FastAPI 프레임 워크의 특징 및 장점들에 대해서는 잘 알지 못하고 사용하였다.
잘 알지 못하고 배포한 백엔드 서버는 결국 Production 환경 배포 전 부하 테스트에서 어마어마한 에러를 토해냈다. 개발자로서 잘 알지 못하고 사용했다는 것이 굉장히 부끄러웠고, 스스로에게 큰 실망을 했다. 그래서 다시는 이러한 실수를 다시 반복하지 않기 위해, 앞으로는 다 는 아니더라도 잘 알고 쓰고자 한다.
평소 CS 지식이 많이 부족했지만, 실질적으로 와닿는 부분이 없어 지나치곤 했다. 하지만, 많은 에러 경험 덕분(?)에 점점 더 근본적인 문제에 대해 고민하게 되었고, 현재 이 포스팅까지 쓰게 되었다. 이번 포스팅을 시작으로 CS 지식을 많이 습득하고자 한다. 첫 번째 주제는 Process와 Thread 로 선정했다.
목차
1. Process
프로세스를 설명하기 전, 프로그램이란 무엇인지 간략하게 짚고 넘어가고자 한다.
프로그램이란?
- 운영체제에 의해서 실행될 수 있는 실행 파일을 뜻한다.
- 즉, 코드가 구현되어 있는 파일을 프로그램으로 볼 수 있다
- e.g. python file, python.exe, uvicorn 등
프로세스란?
- 운영체제 위에서 CPU, Memory를 사용하며 프로그램을 실행시키는 주체
- 각각의 프로세스는
독립된 메모리 공간을 할당 받는다. 따라서, 프로세스 하나가 죽더라도 다른 프로세스에는 영향이 가지 않는다. - 여러 개의 프로세스가 돌아 갈 때는
시분할로 돌아가며, 프로세스 간Context switching은 느리다.프로세스는 스레드와 달리 공유하는 영역이 없어서 캐시 데이터를 다 버리고 다시 캐시를 만드는 과정이 발생하기 때문에
Context switching이 스레드에 비해 느리다.
출처: https://gmlwjd9405.github.io
- 프로세스는 각각 독립된 메모리 영역(Code, Data, Stack, Heap의 구조)을 할당받는다.
- 한 프로세스가 다른 프로세스 자원에 접근하려면 프로세스 간의 통신(IPC, inter-process communication)을 사용해야 한다.
2. Thread
스레드란?
프로세스내에서 실제로 작업을 수행하는 주체를 의미함- 모든 프로세스에는 한 개 이상의
스레드가 존재하여 작업을 수행 - 두 개 이상의 스레드를 가지는 프로세스를 멀티 스레드 프로세스(multi-threaded process)라고 하며, 프로세스 내에서 동시에 여러 작업을 실행하는데 목적을 두고 있다.
- 스레드는 ThreadStack 영역을 제외한 나머지 영역(Code, Data, Heap)은 공유하고 있다. 즉, 스레드는 공유하는 영역이 많기 때문에 프로세스에 비하여
Context switching이 빠르다. - 그러나, 공유하는 전역 변수를 여러 스레드가 함께 사용하게되면 충돌이 발생할 수 있기 때문에 스레드 간 통신에는 충돌 문제가 발생하지 않도록 동기화 문제를 잘 해결해야 한다.
출처 : https://gmlwjd9405.github.io
- 각각의 스레드는 별도의 레지스터와 스택을 갖고 있지만, Heap 메모리는 서로 읽고 쓸 수 있다.
- 한 스레드가 프로세스 자원을 변경하면, 다른 이웃 스레드(sibling thread)도 그 변경 결과를 즉시 볼 수 있다.
3. Context switching
Context switching이란?
- 문맥교환이라고도 하며, CPU가 실행하는 작업을 변경하는 것을 말한다.
- 즉, 동작 중인 프로세스가 대기를 하면서 해당 프로세스의 상태(Context)를 보관하고, 대기하고 있던 다음 순서의 프로세스가 동작하면서 이전에 보관했던 프로세스의 상태를 복구하는 작업을 말한다.
- 그렇다면,
Context switching은 언제 발생할까?인터럽트(Interrupt)
- CPU가 프로그램을 실행하고 있을 때, 실행 중인 프로그램 밖에서 예외 상황이 발생하여 처리가 필요한 경우 CPU에게 알려 작동이 중단되지 않고 예외 상황을 처리할 수 있도록 하는 기능
Context switching은 아래와 같은인터럽트(Interupt)요청이 왔을 때 발생한다.- 입/출력 요청
- CPU 사용시간 만료
- 자식 프로세스 Fork
스케줄러는Context switching을 하는 주체로써Context switching이 발생했을 때, 다음번 프로세스는스케줄러가 결정한다.Context switching은 인터럽트 상황에 대하여 프로세스가 유휴 상태로 대기하고 있는 것을 방지해 프로세스의 응답 시간을 단축할 수 있다.- 하지만, 잦은
Context swtiching발생은 오히려 오버헤드(Overhead) 비용을 발생시켜 성능을 떨어뜨린다.
출처: https://www.crocus.co.kr/1364
- 위 그림에서 프로세스
P0가 실행 중인 상태(executing)에서 유휴 상태(idle)가 될 때, 프로세스P1이 곧바로 실행 상태로 되지 않고, 유휴 상태(idle)가 유지 되다가 변경된다. - 실행 상태로 즉각 변경되지 않는 이유는 프로세스
P0의 상태를PCB에 저장하고 프로세스P1상태를PCB에서 가져와야 하기 때문이다. - 이 과정에서 CPU는 아무런 동작을 하지 못하게 되고, 이는 곧 성능 저하로 이어진다.
다음 포스팅에서는 멀티 프로그래밍, 멀티 태스킹, 멀티 스레딩, 멀티 프로세싱에 대해서 다루어 보도록 하겠다. 추가로, 현재 내가 사용중인 Python 의 Process , Thread 는 어떻게 구성되어 있는지도 알아볼 예정이다.