트래픽이 많은 서비스를 운영하다 보면, 이런 말을 자주 듣게 됩니다.“우리 서버는 멀쩡한데, 외부 API가 좀 느린 것 같아요.”실제로 내부 지표를 보면,CPU 사용률은 안정적이고DB 쿼리도 큰 변화가 없으며Thread나 Connection Pool도 여유가 있어 보인다그런데도 API 레이턴시는 전반적으로 늘어나고, p99가 눈에 띄게 튑니다.이 글에서는 이 현상을 외부 API 성능 문제가 아니라 HTTP Client Pool과 외부 의존성이 결합되며 발생하는 구조적 문제로 바라봅니다.외부 API 호출은 “부가 작업”이 아니다외부 API 호출은 흔히 이렇게 인식됩니다.“응답 하나 받아오면 되는 작업”하지만 서버 입장에서 외부 API 호출은,HTTP 연결을 하나 점유하고Thread를 점유한 채로응답이 올 ..