[Cache] 로컬 캐시 Caffeine이란? 적용하기

1. 문제 발견

k6로 부하테스트 하는 중인데 slow query 1,131ms

TPS가 8.97이라는 엄청난 숫자가 나옴..ㅋㅋ

 

 

2. 원인 분석

Total Page수를 계산하기 위해서

매번 select count(*) from article 쿼리가 추가 실행되는 문제를 발견함

더미 데이터로 DB에 article 10만개 넣어놓은 상황이라 시간을 오래 잡아먹는것으로 추정됨.

 

api controller에서 Page<Article>로 반환하면서

JPA가 자동으로 쿼리를 2개 날리게됨

 

-- 쿼리 1: 해당 페이지 데이터 10건
SELECT * FROM article ORDER BY created_at DESC LIMIT 10 OFFSET 0;

-- 쿼리 2: 전체 페이지 수 계산용 (JPA가 자동으로 추가)
SELECT COUNT(*) FROM article;  -- 10만건 전부 셈

 

전체 몇 페이지인지 계산하는 과정에서 10만건을 세고 있는것

 

3. 해결 방법 선택

total page를 계산하기 위해 전체 article 갯수를 계산하는건 최초 한 번만 하고 결과를 캐시에 저장해두면

재사용함으로써 성능개선 가능성이 있다고 판단하여

캐시를 적용하려고 하는데,

 

캐시에는 크게 2가지가 있음.

로컬 캐시 / 분산캐시

 

로컬캐시

저장 위치는 JVM 힙 내부.

 

따라서 네트워크 거치지 않고 application내부에서 바로 데이터 가져오기 때문에 조회속도가 매우 빠름

별도의 서버를 구축할 필요가 없으니까 비용절감 효고도 있고...

구현도 비교적 간단하다고 함.

 

단 서버가 여러대 일때는 데이터 불일치 때문에 MSA 환경에서는 사용이 어려움.

ex)Caffeine 

 

 

분산 캐시

여러 서버가 공유하는 외부 캐시 저장소에 위치.

네트워크를 통해 데이터가 이동하기 때문에 로컬 캐시보다는 느림

 

하지만 서버간 데이터 일관성 유지할 수 있고

확장성이랑 가용성이 좋다는 장점이 있음.

ex ) Redis

 

 

-> 나는 단일서버로 진행하고 있기때문에 Caffeine 선택!

추후 확장하게 된다면 Redis도 추가도입할지도,,

 

 

4. 적용 과정

먼저 의존성 넣어주고

implementation 'org.springframework.boot:spring-boot-starter-cache'
implementation 'com.github.ben-manes.caffeine:caffeine'

 

 

 

Config 파일 생성

@Configuration
@EnableCaching
public class CacheConfig {

    @Bean
    public CacheManager cacheManager() {
        CaffeineCacheManager cacheManager = new CaffeineCacheManager("articleCount");
        cacheManager.setCaffeine(Caffeine.newBuilder()
                .expireAfterWrite(10, TimeUnit.MINUTES));
        return cacheManager;
    }
}

 

 

Service코드 수정

 // 글 새로 작성 시 캐시 무효화
    @CacheEvict( value = "articleCount", allEntries = true)
    public Article save(AddArticleRequest request, String username) {

        User user = userRepository.findByEmail(username)
                .orElseThrow(() -> new IllegalArgumentException("Unexpected User"));

        return blogRepository.save(request.toEntity(username, user.getId()));
    }

    // 글 삭제 시 캐시 무효화
    @CacheEvict( value = "articleCount", allEntries = true)
    public void delete(Long id) {
        Article article = blogRepository.findById(id)
                .orElseThrow( () -> new IllegalArgumentException("not found : " + id));

        authorizeArticleAuthor(article);
        blogRepository.deleteById(id);
    }

    @Cacheable("articleCount")
    public long getArticleCount() {
        return blogRepository.count();
    }

 

 

 

controller수정

long totalCount = blogService.getArticleCount();
int totalPages = (int) Math.ceil((double) totalCount / 10);

 

 

 

 

 

 

5. 결과

로컬에서 실행하고 postman으로 테스트

 

첫번째 요청

 

두번째 요청

응답속도가

971ms -> 126ms 로 확연하게 줄어들었음.

 

로그에도

처음엔 no cache라고 뜨다가 두번째 get 요청에는 안뜸 ㅎㅎ

 

 

 

 

캐시 무효화 테스트

이런식으로 게시물 하나 써주고

 

 

다시 get요청 날리니까

 

 

이렇게 no cache라고 뜨네요~

 

시간은 여전히 짧게 나오는게 아마 로컬 DB라 그런듯..

 

 

암튼 끝