마이크로서비스가 작동할 때: 회로 차단기로 조명을 켜두기

여러분은 이 아름다운 마이크로서비스 아키텍처를 구축했습니다. 모든 것이 흥얼거리고 있습니다. 그렇지 않을 때까지는요. 결제 유효성 검사기나 알림 전송기와 같은 작은 서비스가 낮잠을 자기로 결정합니다. 긴 낮잠. 갑자기 빠른 사용자 인터페이스가 시간 초과되고 주문이 중단되며 회전하는 로딩 휠이 앱에서 가장 싫어하는 그래픽이 됩니다. 마치 전구 하나가 건물 전체를 어둠 속으로 몰아넣는 것 같은 느낌입니다. 하나의 실패가 시스템 전체의 골칫거리로 이어지는 이유는 무엇입니까?

연쇄반응입니다. 서비스 A가 서비스 B에 전화를 겁니다. 서비스 B는 압도당하거나 버그가 있어서 속도가 느려지거나 응답을 멈춥니다. A군은 좋은 군인으로서 기다리고...기다리고...기다립니다. 응답을 기대하면서 스레드 및 연결과 같은 귀중한 리소스를 보유합니다. 그 사이에 요청 대기열이 백업됩니다. 어느새 서비스 B의 속도 저하로 인해 서비스 A가 중단되고 서비스 A를 호출하는 다른 모든 항목도 실패하기 시작합니다. 대시보드는 크리스마스 트리처럼 빛나지만 좋은 의미는 아닙니다.

그렇다면 해결책은 무엇입니까? 실패를 예방할 수는 없습니다. 분산된 세계에서는 불가피합니다. 비결은 완벽한 시스템을 구축하는 것이 아닙니다. 그것은 우아하게 넘어지는 법을 아는 회복력 있는 사람을 만드는 것입니다. 이것이 바로 회로 차단기라는 아이디어가 등장하는 곳입니다. 이는 전기 공학보다는 상식에 관한 것입니다.

이렇게 생각해보세요. 그 오래된 퓨즈 박스를 기억하시나요? 회로에 과부하가 걸리면 퓨즈가 끊어집니다. 전선이 과열되어 화재가 발생하는 것을 방지하기 위해 전원을 차단합니다. 집 전체를 지키기 위한 희생극이다. 소프트웨어의 회로 차단기도 동일한 작업을 수행합니다. 서비스 사이에 위치하여 대화를 지켜봅니다.

서비스 B가 오작동하기 시작하면(시간 초과가 너무 자주 발생하고 오류가 발생함) 회로 차단기가 "작동"합니다. 문제가 발생한 서비스에 대한 요청 전송을 잠시 중지합니다. 서비스 A가 중단되고 문제가 발생하도록 두는 대신 차단기는 캐시된 응답, 기본 메시지 또는 정중한 "나중에 다시 시도" 등 즉시 폴백을 반환합니다. 이렇게 하면 서비스 A와 나머지 애플리케이션의 응답성을 유지하면서 서비스 B에 복구(또는 팀이 다시 시작할 수 있는)할 수 있는 여유 공간이 제공됩니다. 사용자는 약간 저하된 기능을 볼 수 있지만 완전한 충돌은 볼 수 없습니다. "서비스를 일시적으로 사용할 수 없습니다"라는 메모와 비어 있고 실망스러운 오류 화면의 차이입니다.

그러나 모든 차단기가 동일하게 생성되는 것은 아닙니다. 좋은 사람이 실제로 무엇을 해야 하는지 궁금할 수도 있습니다.

첫째, 언제 넘어질지 현명해야 한다. 단순히 오류를 계산하는 것이 아닙니다. 패턴을 보고 있는 거죠. 마지막 순간에 요청의 50%가 실패합니까? 여행. 평균 응답 시간이 갑자기 10배 길어지나요? 아마도 그 회로를 열어야 할 때인 것 같습니다. 얼마나 민감해야 하는지 결정할 수 있도록 구성 가능한 임계값이 필요합니다.

둘째, 회복리듬이 필요하다. 넘어진 후에는 영원히 열려 있어서는 안 됩니다. 다운스트림 서비스가 정상으로 돌아왔는지 확인하려면 주기적으로 단일 테스트 요청("상태 확인" 호출)을 허용해야 합니다. 해당 테스트가 성공하면 회로를 조심스럽게 닫고 트래픽 흐름을 다시 허용합니다. 이 조사는 수동 개입 없이 자동 복구를 위한 핵심입니다.

셋째, 기존 설정과 잘 어울려야 합니다. 따로 배선을 해야 하는 부피가 큰 가전제품이 아닙니다. 최상의 구현은 서비스 통신의 자연스러운 레이어처럼 느껴지며, 애플리케이션 로직을 다시 작성하지 않고도 구성할 수 있습니다.

이 패턴을 구현하는 것은 시스템에 면역 체계를 부여하는 것과 같습니다. 추위를 막지는 못하지만, 담고 있습니다. 서비스 간의 중요한 링크, 즉 장애가 발생하면 가장 큰 피해를 입힐 수 있는 링크를 식별하는 것부터 시작합니다. 회로 차단기 논리를 사용하여 해당 호출을 래핑합니다. 대체 방법을 결정합니다. 불완전하더라도 사용자에게 표시할 수 있는 응답은 무엇입니까? 그런 다음 설정을 조정합니다. 실패는 얼마나 많은가? 차단기는 얼마나 오랫동안 열려 있어야 합니까? 실제 트래픽을 기반으로 이를 조정하고 운영 플레이북의 일부가 됩니다.

아름다움은 결과에 있습니다. 귀하의 시스템은 일종의 강인함을 얻습니다. 문제가 있는 데이터베이스 또는 타사 API 중단은 더 이상 오전 2시에 열광적인 모든 인력이 동원되는 긴급 상황을 의미하지 않습니다. 시스템은 문제를 격리하고 손상을 억제하며 핵심 기능을 유지합니다. 사용자는 신뢰성을 얻고, 운영 팀은 건전한 정신을 갖게 되며, 비즈니스는 신뢰를 약화시키는 추악한 가동 중지 시간을 방지할 수 있습니다.

kpower이 패턴에 대한 의 접근 방식은 이를 간단하고 작동 가능하게 만드는 데 중점을 둡니다. 목표는 안정성이 총격전이 아닌 기본 기능이 되도록 아키텍처에 탄력성을 부여하는 것입니다. 이는 예상치 못한 일을 예상하고 이를 처리할 계획을 가지고 있는 시스템을 설계하는 것입니다. 백그라운드에서 조용히, 동시에 다른 모든 사람들은 원활한 경험을 즐깁니다. 결국 최고의 기술은 생각할 필요가 없는 기술, 몇 가지 작은 부품이 쉬는 경우에도 제대로 작동하는 기술이기 때문입니다.

2005년에 설립되었으며,kpower는 중국 광둥성 둥관에 본사를 둔 전문 컴팩트 모션 유닛 제조업체에 전념해 왔습니다. 모듈식 드라이브 기술의 혁신을 활용하여,kpower고성능 모터, 정밀 감속기, 멀티 프로토콜 제어 시스템을 통합하여 효율적이고 맞춤형 스마트 드라이브 시스템 솔루션을 제공합니다. Kpower는 스마트 홈 시스템, 자동 전자 장치, 로봇 공학, 정밀 농업, 드론 및 산업 자동화 등 다양한 분야를 포괄하는 제품을 통해 전 세계 500개 이상의 기업 고객에게 전문 드라이브 시스템 솔루션을 제공해 왔습니다.