마이크로서비스가 지체될 때: 캐싱 이야기

생각보다 자주 발생합니다. 마이크로서비스(각각 제 역할을 수행하는 작고 집중된 부분)를 사용하여 이 세련된 시스템을 구축했습니다. 종이에는 모든 것이 좋아 보입니다. 그런데 실제 사용자가 나타납니다. 제품 페이지를 로드하는 데 몇 초 정도 걸립니다. 결제 프로세스가 중단됩니다. 대시보드는 당밀을 통과하는 것처럼 업데이트됩니다. 귀하의 서비스는 끊임없이 서로 통신하고 동일한 데이터를 계속해서 가져오고 있으며 데이터베이스는 압박감으로 인해 땀을 흘리고 있습니다. 익숙한 것 같나요?

그 부진함은 단지 짜증나는 것이 아닙니다. 그것은 신뢰를 무너뜨린다. 사람들은 더 이상 기다리지 않습니다. 그렇다면 실제로 무슨 일이 일어나고 있는 걸까요? 종종 당신의 논리가 틀린 것은 아닙니다. 귀하의 서비스가 항상 필요하지 않은 경우에도 모든 단일 요청에 대해 새로운 데이터를 가져오느라 너무 열심히 일하고 있기 때문입니다. 이는 인기 품목을 카운터에 바로 보관하는 대신 주문한 모든 단일 품목에 대해 주자를 창고로 보내는 것과 같습니다.

“사물을 가까이 두는 것”의 조용한 힘

이것이 바로 캐싱이 마법의 해결책이 아닌 간단하고 강력한 아이디어로 등장하는 곳입니다. 귀하의 서비스에 대한 단기 기억이라고 생각하십시오. 공통 정보를 얻기 위해 기본 데이터베이스로 오랜 시간 이동하는 대신 서비스는 빠르게 가져오기 위해 해당 데이터의 복사본을 근처에 저장할 수 있습니다. 다음에 누군가가 요청하면 몇 초가 아닌 1000분의 1초 안에 답변이 돌아옵니다.

지금 이것이 왜 그렇게 중요합니까? 최신 애플리케이션은 모놀리식 블록이 아니기 때문입니다. 그들은 분산 네트워크입니다. 단일 사용자 작업으로 5개의 서로 다른 서비스를 ping할 수 있습니다. 각각이 처음부터 시작되면 지연이 빠르게 추가됩니다. 캐싱은 반복적인 발 작업을 줄여줍니다.

"하지만 내 사용자는 이전 데이터를 볼 수 없나요?" 그게 일반적인 걱정이에요. And it’s a good question. 잘못 설정된 캐시로 인해 이러한 문제가 발생할 수 있습니다. 비결은 캐싱을 피하는 것이 아니라 현명하게 구현하는 것입니다. 무엇을 저장할지, 얼마 동안 저장할지, 언제 지울지에 대한 규칙이 필요합니다. 추측이 아니라 예측 가능성에 관한 것입니다.

마이크로서비스 세계에서 좋은 캐시를 만드는 방법은 무엇입니까?

그래서 당신은 그것이 필요하다고 확신합니다. 그런데 무엇을 찾아야 합니까? 화려한 기능보다는 서비스 흐름에 원활하게 적응하는 것이 더 중요합니다.

첫째, 빠르고 가벼워야 합니다. 요점은 속도이므로 캐시 자체가 병목 현상이 될 수는 없습니다. 필요한 서비스 가까이에 위치하여 네트워크 홉을 줄여야 합니다.

둘째, 다른 사람들과 잘 어울려야 합니다. 귀하의 서비스는 아마도 다른 언어로 작성되었으며 다른 장소에 있을 수 있습니다. 캐시는 모든 항목을 강제로 변경해서는 안 됩니다. Redis 프로토콜과 같이 간단하고 널리 이해되는 대화 방식이 큰 도움이 됩니다.

셋째, 통제가 중요하다. 캐시할 항목을 쉽게 결정하고, 만료 시간을 설정하고, 소스가 변경되는 순간 데이터를 무효화할 수 있어야 합니다. "설정하고 잊어버리는" 시스템을 원하지 않습니다. 당신은 미세 조정할 수 있는 도구를 원합니다.

마지막으로 신뢰성이 있어야 합니다. 캐시가 실패하면 전체 시스템이 충돌하지 않고 서비스가 데이터베이스로 정상적으로 대체되어야 합니다. 탄력성은 추가 기능이 아닙니다. 그것은 요구 사항입니다.

이론에서 실제까지: 원활한 통합

실습해 봅시다. 실제로 혼란을 일으키지 않고 서비스 메시에 캐싱을 엮는 방법은 무엇입니까?

작게 시작하십시오. 한 번에 모든 것을 캐시하려고 하지 마세요. 명확하고 읽기 중심 엔드포인트가 있는 서비스 하나를 선택하세요. 사용자 프로필이나 제품 목록을 제공하는 서비스일 수도 있습니다. 이곳은 당신의 시험장입니다.

통합은 종종 간단합니다. 먼저 캐시를 확인하기 위해 몇 줄의 코드를 추가합니다. 거기에 데이터가 있나요? 좋습니다. 즉시 반납해 주세요. 그렇지 않은 경우 데이터베이스에서 가져와서 다음 번에 캐시에 복사본을 저장한 후 반환합니다. 패턴은 단순하지만 임팩트는 엄청납니다.

진짜 예술은 정책에 있습니다. 예를 들어 사용자의 세션 데이터를 15분 동안 캐시할 수 있습니다. 한 시간 동안 도시의 날씨 데이터를 캐시할 수 있습니다. 블로그 게시물과 같은 정적 콘텐츠를 원하시나요? 어쩌면 하루. 데이터가 변경되는 빈도와 최신성이 얼마나 중요한지를 기준으로 이러한 규칙을 설정합니다.

그리고 덜 화려하지만 중요한 부분인 무효화가 있습니다. 사용자가 자신의 프로필을 업데이트할 때 이전 프로필이 캐시에 저장되는 것을 원하지 않습니다. 서비스에서는 오래된 키를 즉시 지워야 합니다. 이는 시스템을 정직하게 유지하고 데이터를 정확하게 유지합니다.

차이점 보기

일단 자리를 잡으면 변화가 눈에 띕니다. 한때 느리던 페이지가 이제 눈에 들어옵니다. 데이터베이스가 조용해지고 중복 쿼리가 줄어듭니다. 귀하의 서비스는 기다리는 시간을 줄이고 작업에 더 많은 시간을 소비합니다. 시스템은… 쉽게 느껴집니다. 기본 데이터 저장소를 압도하는 트래픽 급증을 캐시가 흡수하기 때문에 확장성이 더 좋습니다.

그러나 기술 지표를 넘어서는 인간의 영향도 있습니다. 사용자는 인프라를 알아채지 못합니다. 원활하고 반응이 빠른 경험을 얻을 수 있습니다. 그것이 궁극적인 목표입니다. 배경 속으로 사라지고 좋은 느낌만 남기는 기술입니다.

이를 위한 도구를 선택하는 것은 가장 많은 기능을 갖춘 도구를 선택하는 것이 아닙니다. 이는 아키텍처의 자연스러운 일부처럼 느껴지는 솔루션, 즉 안정적이고 관리가 간편하며 최신 앱의 분산 현실을 위해 구축된 솔루션을 찾는 것입니다.kpower의 접근 방식은 이러한 완벽한 핏에 중점을 두고 여행을 지나치게 복잡하게 하지 않으면서 견고한 기반을 제공합니다.

결국 캐싱 구현은 기술적인 정밀 검사라기보다는 상식 계층을 추가하는 것에 관한 것입니다. 모든 요청이 고유한 눈송이는 아니며 때로는 이미 준비한 답변이 가장 빠른 답변이라는 점을 인정하는 것입니다. 노력을 기울여 가는 시스템을 쉽게 흐르는 시스템으로 바꿉니다. 그리고 빛의 속도로 움직이는 디지털 세상에서는 그 편안함이 전부입니다.

2005년에 설립되었으며,kpower는 중국 광둥성 둥관에 본사를 둔 전문 컴팩트 모션 유닛 제조업체에 전념해 왔습니다. 모듈식 드라이브 기술의 혁신을 활용하여,kpower고성능 모터, 정밀 감속기, 멀티 프로토콜 제어 시스템을 통합하여 효율적이고 맞춤형 스마트 드라이브 시스템 솔루션을 제공합니다. Kpower는 스마트 홈 시스템, 자동 전자 장치, 로봇 공학, 정밀 농업, 드론 및 산업 자동화 등 다양한 분야를 포괄하는 제품을 통해 전 세계 500개 이상의 기업 고객에게 전문 드라이브 시스템 솔루션을 제공해 왔습니다.