마이크로서비스가 "더듬거리기" 시작하면 문제가 보이지 않는 곳에 숨겨져 있을 수도 있습니다.

상상해 보십시오. 마이크로서비스 간의 명확한 업무 구분을 통해 매우 훌륭한 시스템을 구축했으며 잘 편성된 교향곡처럼 원활하게 실행되어야 합니다. 그런데 언제부터 응답 속도가 느려지기 시작했는지, 페이지 로딩이 계속 원을 그리며 계속해서 몇 차례의 시간 초과 오류가 나타나는지 모르겠습니다. 코드를 확인하고 컨테이너 사양을 확장했는데 문제는 잠시 흩어졌다가 다시 모이는 안개 같았습니다.

이때 병목현상이 계산이 아니라 데이터가 왔다 갔다 하는 것이 아닐까 생각해본 적 있으신가요?

캐싱: 선택적인 장식이 아닌 숨겨진 성능 엔진

마이크로서비스 세계에서 서비스는 자주 서로 통신합니다. 사용자 요청에는 서로 답변을 철자하도록 요청하는 데 5~6개의 서비스가 필요할 수 있습니다. 모든 문의는 네트워크 트레킹, 데이터베이스 쿼리입니다. 교통량이 늘어나면 도로는 혼잡해진다.

캐시가 하는 일은 실제로 매우 간단합니다. 자주 묻는 답변을 질문자에게 더 가까운 곳에 임시로 저장하는 것입니다. 다음에 누군가가 동일한 질문을 하면 시스템은 더 이상 확인하기 위해 장거리를 이동할 필요가 없으며 이전 답변만 제공하면 됩니다. 바쁜 사무실에 공용 메모장을 두는 것과 같습니다. 자주 사용하는 번호를 찾아봐야 하는 사람은 매번 자료실로 달려갈 필요 없이 메모장만 보면 된다.

그러나 마이크로서비스의 캐싱은 단순히 "메모장을 넣는 것" 그 이상입니다. 기록해야 할 내용, 기억할 기간, 업데이트 시기를 결정하고 여러 서비스에서 표시되는 데이터의 일관성을 보장해야 합니다. 잘하면 가속기입니다. 엉성하게 수행하면 데이터 혼란의 원인이 됩니다.

캐싱 솔루션이 제대로 작동하지 않는 이유는 무엇입니까?

많은 사람들은 처음에 캐싱을 위해서는 Redis나 Memcached를 추가하는 것만으로도 충분하지 않을까라고 생각했습니다. 하지만 실제로 사용해 보니 일이 그렇게 간단하지 않다는 것을 깨달았습니다.

예를 들어, "캐시 침투" - 누군가가 전혀 존재하지 않고 캐시에도 없는 데이터를 계속 쿼리합니다. 요청은 매번 기본 데이터베이스에 도달하여 데이터베이스를 압도합니다. 또 다른 예는 "캐시 사태"입니다. 동시에 많은 수의 캐시가 실패하고 모든 요청이 즉시 데이터베이스로 몰려들어 시스템이 그 자리에서 마비될 수 있습니다. 더 미묘한 "데이터 일관성" 문제도 있습니다. 서비스 A는 데이터를 업데이트하지만 서비스 B의 캐시는 여전히 이전 버전이고 사용자에게 표시되는 정보가 일관되지 않습니다.

이러한 문제의 이면에는 캐싱 전략이 처음부터 설계된 핵심 구성 요소가 아닌 나중에 추가되는 패치로 취급되기 때문인 경우가 많습니다.

질감에 더욱 통합된 디자인 아이디어

캐싱을 별도의 플러그인으로 취급하는 것이 아니라 서비스가 서로 통신하는 방식의 일부가 되어야 합니다. 일부 요청의 경우 결과가 단기간에 변경되지 않으므로 대담하게 캐시합니다. 일부 데이터의 경우 약간의 지연이 허용되며 비동기식으로 업데이트됩니다. 핵심은 아키텍처 설계 중에 어떤 데이터가 캐싱에 적합한지, 어떤 세분성이 있는지, 어떻게 무효화 및 동기화하는지 명확하게 하는 것입니다.

이를 위해서는 도구의 지원이 필요하지만 사고의 변화도 필요합니다. 도구는 새로운 복잡성을 추가하는 것이 아니라 이 아이디어를 구현하는 데 도움을 주어야 합니다.

실제 시나리오에서는 어떻게 작동합니까?

일반적인 시나리오를 살펴보겠습니다. 제품 세부 정보 페이지는 사용자 서비스, 재고 서비스, 가격 서비스, 평가 서비스 등을 호출해야 합니다. 처리가 수행되지 않으면 페이지가 열릴 때마다 이 호출 체인을 살펴보아야 합니다.

합리적인 캐싱 레이어가 도입된다면 어떨까요? 사용자 정보는 12시간, 재고 상태는 30초, 가격과 리뷰는 5분 동안 캐시될 수 있습니다. 만료 시간이 다르면 데이터 변경 빈도도 다릅니다. 페이지 로딩 시간이 수백 밀리초에서 수십 밀리초로 단축될 수 있습니다. 이러한 변화 뒤에는 데이터베이스 부담이 크게 감소하고 전체 시스템 유연성이 향상되었습니다.

물론 이를 위해서는 미세 조정이 필요합니다. 캐싱할 가치가 있는 데이터는 무엇입니까? 캐시되는 기간은 얼마나 되나요? 업데이트 메커니즘은 어떻게 실행되나요? 이러한 결정은 기술적인 구성뿐만 아니라 비즈니스 논리에 대한 깊은 이해에 달려 있습니다.

선택할 때 눈은 어디를 봐야 합니까?

삽입 과정이 새로운 엔지니어링 재앙이 되지 않도록 충분히 가벼워야 합니다. 팀이 처음부터 새로운 복잡한 개념을 배우도록 하는 것보다 기존 개발 프로세스에 자연스럽게 적응하는 것이 더 좋습니다.

비즈니스 코드에 덜 방해적입니다. 엔지니어는 각 캐시 규칙을 수동으로 관리하는 데 많은 에너지를 소비하기보다는 비즈니스 논리 자체에 집중해야 합니다. 여기서는 자동화되고 지능적인 무효화 및 업데이트 메커니즘이 특히 중요합니다.

또한 관찰 가능성이 필수적입니다. 캐시 적중률이 얼마인지, 얼마나 많은 요청이 저장되는지, 어떤 캐싱 전략이 가장 효과적인지 명확하게 확인할 수 있어야 합니다. 투명성은 실질적인 통제를 가져올 수 있습니다.

실제 트래픽 테스트를 견뎌야 합니다. 솔루션 자체는 새로운 단일 실패 지점이 될 수 없습니다. 고가용성 설계를 갖추고 압력이 가해지는 상황에서도 안정적으로 유지될 수 있어야 합니다.

한발 더 나아가다

시스템 속도가 느려지면 사람들은 본능적으로 하드웨어와 코드를 업그레이드하고 싶어합니다. 이것은 확실히 사실입니다. 그러나 때로는 가장 효과적인 수단이 아키텍처의 커뮤니케이션 모델에 숨겨져 있는 경우도 있습니다. 불필요한 여정에서 데이터를 저장하고 서비스 간 작업 중복을 줄임으로써 시스템의 잠재력이 기대 이상으로 발휘될 수 있습니다.

멋진 기술 구성 요소를 추가하는 것이 아니라 데이터 흐름의 효율성을 재검토하는 것입니다. 캐싱을 기술 선택이 아닌 디자인 철학으로 생각하기 시작하면 많은 병목 현상에 대한 답이 자연스럽게 나타날 수 있습니다.

마이크로서비스 세계에서 속도는 단일 서비스가 얼마나 빨리 실행되는지가 아니라 얼마나 스마트하게 협업하는지에 따라 결정되는 경우가 많습니다. 적절한 캐싱 전략은 이러한 협업을 더욱 스마트하고 덜 노동 집약적으로 만드는 부분입니다. 시끄럽지는 않지만 매우 중요합니다.

2005년에 설립되었으며,kpower는 중국 광둥성 둥관에 본사를 둔 전문 컴팩트 모션 유닛 제조업체에 전념해 왔습니다. 모듈식 드라이브 기술의 혁신을 활용하여,kpower고성능 모터, 정밀 감속기, 멀티 프로토콜 제어 시스템을 통합하여 효율적이고 맞춤형 스마트 드라이브 시스템 솔루션을 제공합니다.kpower스마트 홈 시스템, 자동 전자 장치, 로봇 공학, 정밀 농업, 드론, 산업 자동화 등 다양한 분야를 포괄하는 제품을 통해 전 세계 500개 이상의 기업 고객에게 전문 드라이브 시스템 솔루션을 제공해 왔습니다.