uber 1000 마이크로서비스 테스트

수천 개의 마이크로서비스가 동시에 말할 때

당신이 대교향곡을 지휘하고 있다고 상상해 보세요. 수십 명의 음악가가 아니라 수천 명의 음악가가 있습니다. 각 뮤지션(여기서는 마이크로서비스라고 부르겠습니다)은 밀리초 단위의 정확한 타이밍과 조화로운 톤으로 자신의 역할을 완벽하게 연주합니다. 하나의 잘못된 음표, 약간 더 빠르거나 느린 템포, 그리고 전체 연주가 혼란에 빠질 수 있습니다. 이는 수천 개의 마이크로서비스로 구동되는 복잡한 시스템을 관리하는 것과 거의 같습니다. 시험? 이 천명의 연주자들이 공식 공연에 앞서 수없이 연습을 하는 것과 같습니다.

좀 털이 많은 것 같죠? 많은 팀이 여기에 갇혀있습니다. 전통적인 테스트는 청진기로 교향악단 전체를 조사하는 것과 같습니다. 소리는 들을 수 있지만 어떤 바이올린이 너무 느린 비트인지, 어떤 오보에가 단순히 악보를 잊어버렸는지 알 수 없습니다. 서비스 간의 복잡한 종속성, 데이터 흐름의 급격한 변화, 환경 구성의 미묘한 차이... 문제는 예상치 못한 구석에서 조용히 타오르는 산불과 같을 때가 많습니다.

이 "리허설"을 명확하고 제어 가능하며 심지어... 우아하게 만들 수 있는 방법이 있습니까?

"대화"를 예측 가능하게 만드세요

핵심은 마이크로서비스 간의 "대화"를 이해하는 것입니다. 그들은 지속적으로 데이터를 교환하고, 요청을 보내고, 결과로 응답하고 있습니다. 테스트의 핵심은 이러한 모든 대화가 정확하고 시기적절하며 예상대로 이루어지도록 하는 것입니다. 각 음악가가 자신의 악기를 연주할 수 있는지 확인하는 것과 같이 개별 서비스가 제대로 작동하는지 확인하는 것뿐만 아니라 더 중요한 것은 대규모 앙상블에서 연주를 시작할 때 모든 상호 작용의 조화를 모니터링하는 것입니다.

몇 가지 흥미로운 시나리오가 있었습니다. 예를 들어 사용자 주문을 처리하는 서비스는 초당 수백 개의 쿼리를 인벤토리 서비스에 보냅니다. 부하가 적으면 모든 것이 조용합니다. 그러나 쓰나미처럼 트래픽 피크가 발생하면 지연이 누적되기 시작하고 특정 쿼리는 단지 몇 밀리초 늦었다는 이유만으로 잘못된 인벤토리 데이터를 얻을 수 있습니다. 결과는? 시스템상에는 재고가 있는 것으로 표시되지만 실제로는 품절된 경우가 있습니다. 고객은 실망하고 평판은 손상됩니다. 문제는 어느 하나의 서비스가 그 자체로 "깨졌다"는 것이 아니라, 압력을 받고 있는 그들의 "대화"가 잘못되었다는 것입니다.

따라서 이러한 고강도의 복잡한 대화 네트워크를 시뮬레이션하고 취약한 링크를 사전에 발견할 수 있는 방법이 필요합니다.

혼돈 속에서 질서를 창조하다

그렇기 때문에kpower, 우리는 약간 다른 관점에서 마이크로서비스 테스트를 살펴봅니다. 우리는 연결의 끝점뿐만 아니라 "연결" 자체에 더 중점을 둡니다. 테스트 환경이 프로덕션 환경의 서비스 간 모든 트래픽 패턴, 데이터 형식 및 예외 시나리오를 정확하게 복제할 수 있다면 어떨까요?

이는 심포니 오케스트라를 위한 완전히 시뮬레이션된 콘서트홀을 건설하는 것과 같습니다. 여기에서는 의도적으로 조명을 어둡게 하거나(네트워크 대기 시간 시뮬레이션) 갑자기 에어컨의 일부를 끄거나(서버 로드 시뮬레이션) 음악가가 가끔 즉흥 연주를 하도록 할 수도 있습니다(타사 API의 불규칙한 반환 시뮬레이션). 목적은 단 하나입니다. 통제된 "혼돈" 속에서 전체 시스템이 어떻게 안정적으로 유지되는지 관찰하는 것입니다.

우리는 종종 클라이언트와 함께 이와 같은 작업을 수행합니다. 단순히 테스트 케이스를 실행하는 대신 다양한 "놀라움"으로 가득 찬 테스트 스크립트를 작성합니다. 서비스 A가 갑자기 천천히 응답하여 서비스 B가 참을성 있게 기다릴지 아니면 현명하게 대체 경로로 전환할지 확인합니다. 이벤트 기반 아키텍처의 복구 기능을 관찰하기 위해 메시지 큐의 간단한 차단을 시뮬레이션합니다. 이런 식으로 깊숙이 숨겨져 있고 특정 연쇄 반응에서만 드러나는 결함이 노출됩니다.

"너무 복잡합니까? 가능한 모든 시나리오에 대해 스크립트를 작성해야 합니까?"라고 질문할 수도 있습니다. 설마. 실제 아이디어는 통신 프로토콜과 비즈니스 규칙을 기반으로 일련의 지능형 모니터링 및 어설션 메커니즘을 구축하는 것입니다. 서비스 간의 모든 상호 작용을 지속적으로 모니터링하고 예상되는 패턴과 발생하는 실제 대화를 자동으로 비교합니다. 서비스에서 반환된 데이터 구조의 갑작스러운 변경이나 동기화해야 하는 두 서비스 간의 타이밍 불일치와 같은 불일치 "참고"가 발견되면 전체 시스템이 붕괴될 때까지 기다리지 않고 즉시 문제를 표시할 수 있습니다.

진행 중인 콘서트

궁극적으로 Uber의 1,000개 마이크로서비스를 갖춘 시스템의 경우 테스트는 더 이상 개발이 완료된 후에만 수행되는 격리된 단계가 아닙니다. 그것은 전체적으로 지속적인 조화 과정으로 발전합니다. 모든 코드 제출과 모든 서비스 배포는 이 시뮬레이션되고 도전적인 "콘서트 홀"에서의 소규모 앙상블 리허설입니다. 문제는 초기 단계에서 발견되고 수정되며 시스템의 복원력과 신뢰성은 모든 "리허설"을 통해 지속적으로 향상됩니다.

이것이 가져오는 것은 조용한 자신감이다. 시스템이 수천 개의 활성 부품으로 구성되어 있을 때 필요한 것은 모든 일이 원활하게 진행되기를 기도하는 것이 아니라 문제를 적극적으로 찾아내고 해결할 수 있는 성숙한 방법을 갖는 것입니다. 각 서비스가 파트너와 어떻게 통신하는지, 스트레스 상황에서 어떻게 행동하는지, 전체 아키텍처의 스트레스 경계가 어디에 있는지 알 수 있습니다.

따라서 실제 트래픽 피크가 발생하면 시스템은 더 이상 독립적으로 작동하는 수천 개의 독립적인 장치가 아니라 조정되고 암묵적인 이해를 갖춘 유기적인 전체가 됩니다. 수없이 주의 깊게 연습한 교향곡이 마침내 만원으로 공식 연주되는 것처럼 모든 요청을 침착하게 처리합니다. 스포트라이트 아래에서는 모든 음이 정확하고 모든 멜로디가 부드럽고 자연스럽습니다. 그 뒤에 있는 질서는 테스트 벤치의 각 "대화"에 대한 깊은 이해와 반복적인 다듬기에서 시작됩니다.

이는 복잡한 시스템 시대에 우리가 추구하는 또 다른 우아함일지도 모릅니다.

2005년에 설립되었으며,kpower는 중국 광둥성 둥관에 본사를 둔 전문 컴팩트 모션 유닛 제조업체에 전념해 왔습니다. 모듈식 드라이브 기술의 혁신을 활용하여,kpower고성능 모터, 정밀 감속기, 멀티 프로토콜 제어 시스템을 통합하여 효율적이고 맞춤형 스마트 드라이브 시스템 솔루션을 제공합니다. Kpower는 스마트 홈 시스템, 자동 전자 장치, 로봇 공학, 정밀 농업, 드론 및 산업 자동화 등 다양한 분야를 포괄하는 제품을 통해 전 세계 500개 이상의 기업 고객에게 전문 드라이브 시스템 솔루션을 제공해 왔습니다.