Thread Pool스레드 풀

작업 큐
┌─────────────────┐
│ Task1 Task2 ... │
└────────┬────────┘
         │  작업 분배
┌────────▼────────────────────┐
│  스레드 풀                    │
│  Thread-1 Thread-2 Thread-3 │ ← 미리 생성된 N개 스레드
└─────────────────────────────┘

from concurrent.futures import ThreadPoolExecutor, ProcessPoolExecutor
import time

def fetch_data(url):
    time.sleep(0.1)  # I/O 시뮬레이션
    return f"data from {url}"

urls = [f"https://api.example.com/{i}" for i in range(20)]

# ThreadPoolExecutor: I/O 바운드 작업
with ThreadPoolExecutor(max_workers=5) as executor:
    results = list(executor.map(fetch_data, urls))
    # 5개 스레드로 20개 작업 처리 → ~0.4초 (순차: 2초)

# ProcessPoolExecutor: CPU 바운드 작업 (GIL 우회)
with ProcessPoolExecutor(max_workers=4) as executor:
    futures = [executor.submit(cpu_heavy_task, x) for x in data]
    results = [f.result() for f in futures]

ExecutorService pool = Executors.newFixedThreadPool(10);

for (int i = 0; i < 100; i++) {
    pool.submit(() -> {
        // 작업 수행
        processRequest();
    });
}
pool.shutdown();  // 현재 작업 완료 후 종료

I/O 바운드: N = 코어 수 × (1 + 대기 시간/처리 시간)
CPU 바운드: N = 코어 수 (보통 코어수 + 1)

예: 8코어, I/O 대기 90% → N = 8 × 10 = 80