마이크로서비스의 복원력 패턴

마이크로서비스의 탄력성: 시스템이 "자립"하는 방법을 배울 때

주의 깊게 설계된 자동화된 생산 라인에서 서보 모터가 갑자기 성질을 잃어 전체 로봇 팔이 불규칙하게 움직인다고 상상해 보십시오. 또는 주요 서보의 피드백 신호가 몇 밀리초 지연되면 전체 조립 라인이 멈추고 기다려야 합니다. 단일 링크의 취약성으로 인해 전반적인 노력이 헛되는 경우가 많습니다. 이런 일은 공장 현장에서만 일어나는 일이 아니다. 수많은 마이크로서비스로 구성된 디지털 세상에서는 매일매일 비슷한 장면이 펼쳐진다. 한 서비스의 예상치 못한 불안감이 도미노처럼 연속적인 실패를 촉발할 수도 있다.

이것이 실제로 우리가 종종 "복원력" 문제라고 부르는 것입니다. 시스템이 어떻게 불가피한 중단, 장애, 스트레스에 직면하고 신속하게 복구하며 서비스를 계속 제공할 수 있습니까? 그것은 "만약" 일어날 것인가의 문제가 아니라 "언제" 일어날 것인가의 문제입니다.

문제: 취약한 연결, 비용이 많이 드는 일시 중지

마이크로서비스 아키텍처는 유연성과 독립적인 배포라는 이점을 제공하지만 서비스 간 연결 네트워크의 복잡성을 전환하기도 합니다. 서비스 A는 서비스 B의 데이터에 의존하고 서비스 B는 서비스 C의 응답이 필요합니다. 체인은 매우 길 수 있습니다. 네트워크 변동, 리소스 병목 현상 또는 자체 결함으로 인해 체인의 링크가 느려지거나 붕괴되면 어떻게 되나요?

초기 실수는 눈덩이처럼 불어날 수 있습니다. 시간 초과된 요청은 백로그가 되어 귀중한 스레드 리소스를 소비하여 호출자 자체를 중단시킬 수 있습니다. 더 나쁜 것은 이 "오류 전파"가 종속성 체인으로 확산되어 궁극적으로 전체 애플리케이션 기능을 사용할 수 없게 될 수 있다는 것입니다. 이것은 정밀 기어 세트와 같습니다. 기어 중 하나가 고착되면 자체적으로 일시 중지되는 것이 아니라 전체 변속기 시스템이 종료됩니다. 온라인 거래 손실이든 오프라인 생산 중단이든 이러한 종류의 일시 중지는 비용이 매우 많이 듭니다.

따라서 우리에게 필요한 것은 결코 실패하지 않는(불가능) "초인적" 서비스가 아니라, 장애에도 불구하고 시스템이 탄력성을 유지할 수 있도록 하는 일련의 "생존 모드"입니다. 이것이 탄력성 모델이 다루는 내용입니다.

방법: 시스템에 "에어백"과 "백업 경로"를 장착합니다.

탄력성 모드는 신비한 검은 기술이 아닙니다. 이는 오류의 영향 범위를 제어하고 시스템에 대한 백업 솔루션 및 복구 경로를 제공하도록 설계된 일련의 검증된 엔지니어링 설계 지혜에 가깝습니다. 몇 가지 핵심 아이디어에 대해 이야기해 보겠습니다.

"빠른 실패" 대 우아한 성능 저하: 때로는 오지 않을 것 같은 응답을 기다리는 것이 친숙한 실패 메시지를 직접 받아들이는 것보다 훨씬 더 나쁩니다. 이는 "회로 차단기" 패턴을 도입합니다. 회로의 퓨즈를 생각해 보십시오. 종속 서비스가 지속적으로 실패하고 임계값에 도달하면 "회로 차단기"가 빠르게 작동하여 실패한 서비스에 대한 호출을 일시적으로 차단합니다. 후속 요청은 끝없이 기다리고 차단하는 대신 미리 설정된 대체 응답(예: 기본값, 캐시된 이전 버전의 데이터 또는 친숙한 프롬프트)을 즉시 받게 됩니다. 이는 발신자가 다운되는 것을 방지하고 실패한 서비스에 숨을 쉬고 회복할 시간을 제공합니다. 이는 포기가 아니라 전략적 후퇴이다.

“계란을 한 바구니에 담지 마세요”: 재시도 전략은 간단해 보이지만 맹목적으로 재시도하면 문제가 더욱 악화될 수 있습니다. 지능적인 재시도는 지수 백오프를 사용합니다. 첫 번째 실패 후 다시 시도하기 전에 1초를 기다리고, 두 번째 실패 후 2초를 기다린 다음, 4초, 8초를 기다립니다. 이렇게 하면 다운스트림 서비스에 점진적으로 압축을 풀 수 있는 시간 창이 제공됩니다. 무한 루프를 방지하려면 최대 재시도 횟수를 설정하세요.

"계획 B 준비": 중요한 종속 작업의 경우 사전에 백업 계획을 준비하는 것이 중요합니다. 이는 정적 기본 데이터로 돌아가거나, 오래되었지만 안정적인 기능을 갖춘 다른 서비스 버전으로 전환하거나, 기본 프로세스의 원활한 흐름을 보장하기 위해 핵심이 아닌 기능을 일시적으로 숨기는 것일 수도 있습니다. 일시적으로 최신 추천 목록을 보실 수 없으나, 쇼핑과 결제를 위한 핵심 링크는 그대로 유지됩니다.

이러한 모드는 단독으로 작동하지 않는 경향이 있습니다. 그들은 방어 시스템을 구축하기 위해 협력하는 일련의 콤보 펀치와 같습니다.kpower고객이 강력한 마이크로서비스 시스템을 구축하도록 도울 때, 저는 이러한 모델을 특정 비즈니스 시나리오와 결합하고 세부적인 조정 및 구성을 수행하는 것이 핵심이라는 것을 깊이 이해하고 있습니다. 예를 들어, 매우 높은 실시간 성능을 요구하는 서보 제어 명령 흐름과 특정 지연을 허용하는 주문 상태 업데이트 흐름 간에 사용되는 시간 초과 설정, 재시도 전략 및 성능 저하 논리는 완전히 달라야 합니다.

행동: 인식에서 실천으로

탄력성의 필요성을 인식하는 것은 한 가지입니다. 그것에 대해 어떻게 진행하는지는 또 다른 것입니다. 이를 위해서는 처음부터 포괄적인 변화를 추구할 필요가 없습니다.

일반적으로 가장 중요한 비즈니스 링크부터 시작할 수 있습니다. 핵심 서비스 종속성 그래프를 정리하고 실패할 경우 가장 큰 영향을 미칠 "단일 지점 종속성"을 식별합니다. 그런 다음 중요한 장비를 버퍼링하는 것과 마찬가지로 이러한 중요한 경로의 서비스 호출에 대해 기본 시간 제한, 전류 제한 및 회로 차단기를 도입하는 데 우선순위를 둡니다. 효과를 관찰하고 지표를 수집하십시오. 실패 빈도가 감소했습니까? 전체적인 사용성이 눈에 띄게 향상되었나요?

그런 다음 점차적으로 패턴을 더 넓은 범위의 서비스 상호 작용으로 확장합니다. 이는 일회성 프로젝트가 아닌 지속적인 반복 프로세스입니다. 이러한 "복원력 우선" 디자인 사고를 육성하고 이를 개발 문화의 일부로 만드는 것이 중요합니다.

궁극적으로 목표는 절대로 종료되지 않는 '신화적인' 시스템을 만드는 것이 아니라, 일부 구성 요소에 장애가 발생하더라도 수용 가능한 서비스를 제공하고 자율적으로 신속하게 복구할 수 있는 '살아 있는 몸'을 구축하는 것입니다. 잘 설계된 복합 기계처럼 중복 센서, 비상 전원 공급 장치 및 버퍼 메커니즘을 갖추고 있어 국지적 사고가 발생해도 전체 기능이 무너지지 않습니다.

시스템에 이러한 탄력성이 있으면 안정성이 높아지고 운영 및 유지 관리 비용이 낮아질 뿐만 아니라 불확실성에 직면해도 일종의 평온함과 자신감을 얻을 수 있습니다. 귀하의 서비스는 진정으로 돋보일 것입니다.

2005년에 설립되었으며,kpower는 중국 광둥성 둥관에 본사를 둔 전문 컴팩트 모션 유닛 제조업체에 전념해 왔습니다. 모듈식 드라이브 기술의 혁신을 활용하여,kpower고성능 모터, 정밀 감속기, 멀티 프로토콜 제어 시스템을 통합하여 효율적이고 맞춤형 스마트 드라이브 시스템 솔루션을 제공합니다. Kpower는 스마트 홈 시스템, 자동 전자 장치, 로봇 공학, 정밀 농업, 드론 및 산업 자동화 등 다양한 분야를 포괄하는 제품을 통해 전 세계 500개 이상의 기업 고객에게 전문 드라이브 시스템 솔루션을 제공해 왔습니다.