Spring
[#7] DeadLock 발생 해결하기
[#7] DeadLock 발생 해결하기
2022.10.04개요 Scale-Out을 위한 사전 작업을 진행하기 전에 구매 API를 정상화할 필요성이 있었습니다. 이전 #1[구매주문] 에서 다뤘듯이 같은 품목 옵션을 많은 사람들이 동시에 구매하는 경우 DeadLock이 발생하며 CannotAquireLockException이 발생했습니다. 그리고 쿼리 최적화에서 인덱스가 영향을 줄 수 있을지 몰랐다는 부분과 연관됩니다. 정확히는 제약 조건이 어떤 영향을 줄지 몰랐다는 점입니다. 그럼 어떻게 DeadLock의 원인과 해결했는지에 대한 설명을 진행해보겠습니다. 어디서 DeadLock이 발생할까? Pinpoint를 사용하여 StackTrace를 볼 수 있어 문제의 실마리는 쉽게 찾을 수 있었습니다. MySQL에서 DeadLock이 발견되어 Exception이 발생하게 ..
[#6] Connection 점유 시간 단축시키기 - HikariCP와 LazyConnectionDataSourceProxy 적용하기
[#6] Connection 점유 시간 단축시키기 - HikariCP와 LazyConnectionDataSourceProxy 적용하기
2022.10.01개요 이전 포스팅에서 auto commit 설정을 통해 Connection의 획득을 지연시키는 설정을 추가하여 성능을 개선하려고 했습니다. 하지만 이 부분에 있어서 간과한 것이 있었습니다. Auto Commit 전에 이미 Connection이 필요하다면 어떻게 될까요? 당연히 지연된 획득이 아니라 기존과 동일하게 작동할 것입니다. 이전 포스팅에서는 Auto Commit을 기준으로 Bean들을 살펴보았다면 이번 포스팅에서는 Transaction부터 HikariCP까지의 동작을 살펴보면서 Auto Commit을 적용했을 때 달라지는 부분과 LazyConnectionDataSourceProxy의 동작도 살펴보겠습니다. Transaction부터 HikariCP까지 이전 포스팅에서도 Connection을 언제 가..
[#6] Connection 점유 시간 단축시키기 - AutoCommit 설정
[#6] Connection 점유 시간 단축시키기 - AutoCommit 설정
2022.09.27개요 Scale-Out을 진행하기 전 추가적으로 진행하는 성능 개선 포인트로 Connection의 점유 시간을 단축하는 방향을 적용해 보았습니다. Connection을 갖고 오거나 반환하는 부분을 Code를 통해서 제어하는 방향보다는 Spring, Hibernate, HikariCP의 설정을 조정하여 비효율적으로 동작하는 부분을 개선하는 방향으로 진행했습니다. 비즈니스 로직에 집중하여 개발할 수 있도록 Spring 프레임워크의 많은 부분이 추상화되어 있습니다. 이런 Spring 프레임워크의 철학을 적용하여 사용되는 라이브러리도 추상화가 잘 되어 있습니다. 이번 개선 과정에서는 무엇보다 Spring의 추상화된 부분부터 구체화된 부분으로 동작을 따라가는 과정이 필요했습니다. 특히 Spring과 Databas..
[#5] Scale-Up으로 검증
[#5] Scale-Up으로 검증
2022.09.27개요 #4를 통해서 Application Server의 Resource 부족으로 병목이 발생한다는 것을 알게 되었습니다. 만약 해당 가정이 참이라면 Application Server의 Resource를 Scale-Up 한다면 성능이 오르는 것은 자명합니다. Scale-Up을 진행한 이후에도 Pool Size에 대한 변화를 관찰하여 예상했던 가정을 재검증하는 작업을 거쳤습니다. 그동안 진행된 실험에서 JVM Heap Size로 인해 문제가 발생되지는 않았으므로 vCPU만 Scale-Up 하여 실험을 진행했습니다. Scale-Up 예상 결과 먼저 사용 가능한 Resource들에 대해서 다시 한번 점검하고 실험 결과를 보여드리겠습니다. Heap Memory - 2GB CPU - 4vCPU 예상하는 실험 결과는..
[#3 ~ #4] Database Connection PoolSize 최적화
[#3 ~ #4] Database Connection PoolSize 최적화
2022.09.26개요 Index를 적용하여 쿼리 최적화를 진행한 뒤에 N + 1 문제도 해결했습니다. 하지만 N + 1 문제를 개선한 뒤에 분리하여 테스트를 기록하지는 않았습니다. 왜냐하면 가장 오래 걸렸던 테스트 TOP 3안에 뽑히는 Database Connection PoolSize를 조정해보며 실험을 하게 되면 자연스럽게 기본 Pool 사이즈에서 N + 1 문제의 개선 결과도 볼 수 있을 것이기 때문입니다. 이 부분에서 가장 고생했던 부분은 Pool Size를 최적화 실험에서 더 효율적으로 테스트 하는 방법이었습니다. 예를 들면 '어느 정도의 테스트 시간을 설정하면 Connection Pool Size에 대한 변화를 잘 볼 수 있을까?', 'Connection Pool Size의 간격을 어느 정도로 진행해야 최적의..
[#2] 쿼리 문제 최적화
[#2] 쿼리 문제 최적화
2022.09.22개요 [#1](인프라 개선하기 작업)을 통해 이제 정상적으로 테스트는 가능했지만 전반적으로 개선의 필요성이 있다는 것을 절실히 느꼈습니다. 'Postman으로 응답 오면 잘 만들어졌군!' 하던 스스로가 너무 부끄러웠지만 이제 시작이니 차근차근 해결해 나가 보자는 생각을 갖고 가장 쉽게 고칠 수 있는 부분부터 접근해 나가려는 계획을 세우고 시작했습니다. 가장 먼저 눈에 띄는 것은 바로 '쿼리의 수행 시간'이었습니다. Database라는 것을 학습하면서 인덱스를 통해 빠른 속도를 통해 데이터를 갖고 올 수 있고 왜 빠른지에 대해서 알고 있었지만 '정말 빨라?'라는 의문과 '나는 실행 계획(EXPLAIN)을 통해 쿼리를 개선할 수 있을까?'라는 의구심으로써 Primary Key와 Foreign Key를 제외하..
[#1] 서버 인프라 개선하기 - 구매주문 API 테스트
[#1] 서버 인프라 개선하기 - 구매주문 API 테스트
2022.09.08개요 E-Commerce의 핵심이라고 할 수 있는 구매 주문 API 테스트 결과입니다. 인프라 개선 전에는 구매 주문 테스트를 시작하는 순간 서버가 다운돼서 테스트 결과를 얻지 못해 어느 정도로 개선되었는지 비교할 수는 없지만 로그인 API와 물품 목록 조회 API를 보았을 때 개선점이 많을 것이라 예상했습니다. 초기 테스트 계획은 랜덤한 물품 옵션을 랜덤한 수량으로 구매하는 시나리오만 테스트하려고 했으나 고민해보니 진정한 문제는 하나의 물품을 많은 유저가 구매하는 경우라고 생각이 스쳐 지나갔습니다. 랜덤한 상품을 구매하는 것을 다품목 구매 주문 테스트, 하나의 상품만 구매하는 것을 단품목 구매 주문 테스트라고 명명하고 테스트를 진행했습니다. 다품목 구매 주문 테스트 기대도 없어서 일까요 아니면 물품 조..
[#1] 서버 인프라 개선하기 - 물품 목록 조회 API 테스트
[#1] 서버 인프라 개선하기 - 물품 목록 조회 API 테스트
2022.09.08개요 하나의 개선점과 여러 테스트들을 모두 하나의 포스트에 담고 싶었지만 가독성이 떨어질 것이라 예상해서 분리하려고 합니다. 이번에는 물품 목록을 조회하는 API에 대해 테스트를 진행했습니다. 이해를 돕기 위해 ERD도 첨부했습니다. 물품 목록 조회 API는 Product의 Category를 쿼리 파라미터로 받아 Product Option과 함께 반환해주는 기능입니다. Spring Rest Doc을 통해 생성된 문서를 보면 다음과 같이 요청을 보냅니다. 이렇게 요청을 보내면 다음과 같이 응답이 반환됩니다. 상품과 함께 사이즈에 따른 수량도 함께 나오는 것이 기획이었기 때문에 Index, N + 1 문제 등 테스트 하기도 전에 걱정되는 API 입니다. 그럼 테스트 결과를 한번 보겠습니다! 물품 조회 API..
[#1] 서버 인프라 개선하기 - 로그인 API 테스트
[#1] 서버 인프라 개선하기 - 로그인 API 테스트
2022.09.08개요 기획한 기능들을 모두 완성하고 nGrinder를 통해 처음 Load Test를 진행했습니다. 위의 그림과 같이 nGrinder의 Controller와 Agent는 다른 서버로 분리했지만 CI/CD 툴로 Jenkins, Application Server, MySQL까지 하나의 인스턴스 안에 들어있는 구조입니다. Docker Out Of Docker라는 방식을 사용해서 빌드와 배포까지 진행하는 구조입니다. 정말 간단하게 테스트를 진행해서 병목을 찾을 수 있다고 생각했기 때문에 가장 저렴한 방식으로 구성했습니다. Docker Out Of Docker란 Docker Host와의 통신하여 Jenkins Docker 외부에 Docker를 실행시키는 방법입니다. 이런 구조가 문제가 될 것이라는 것은 테스트 이전..
YOUSINSA 프로젝트
YOUSINSA 프로젝트
2022.09.08프로젝트 소개 MUSINSA, 29CM, ZIGZAG와 같은 패션 도메인의 E-commerce 서비스를 개발하는 프로젝트입니다. 웹 서비스 전반적인 개발을 진행하기보다 안정적으로 트래픽을 처리하기 위한 백엔드 개발을 중점적으로 프로젝트를 진행했습니다. 더 많은 트래픽을 처리하기 위한 방법을 바로 적용하는 것이 아닌 많은 트래픽이 발생했을 때 병목이 발생하는 지점들을 APM 툴을 사용하여 분석하고 이를 해결하기 위한 여러 방법 중 Trade-Off를 고려 후 프로젝트의 성격에 맞게 선택하여 Over-Engineering을 하지 않는 방법을 찾기 위해 고민하며 진행했습니다. OOP 원칙들이 반영되어 있는 Spring을 사용하면서 확장 포인트들을 이해하고 활용하면서 확장성과 재사용성이 높은 코드를 작성하기 위..