जिस third party API पर आप निर्भर हैं वह बीच बीच में timeout देने लगता है। आप क्या करेंगे?

पहले उसे रोकिए: सख्त timeout लगाइए ताकि उनकी latency आपकी न बन जाए, सिर्फ idempotent calls पर exponential backoff और jitter के साथ retry कीजिए, और आगे circuit breaker लगाइए ताकि जो चीज पहले ही गिरी हुई है उसे आप पीटते न रहें। फिर तय कीजिए कि घटा हुआ व्यवहार कैसा दिखेगा: काम को बाद के लिए कतार में डालिए, cache की गई वैल्यू दीजिए, या उस एक फीचर को फेल होने दीजिए जबकि बाकी प्रोडक्ट चलता रहे।

सबसे पहले मैं यह देखता हूं कि हमारे पास timeout है भी या नहीं, क्योंकि बहुत सारे HTTP clients में डिफॉल्ट असल में हमेशा के लिए होता है, और इसी तरह एक धीमा provider आपका worker pool भर देता है और उन endpoints को भी गिरा देता है जिनका उससे कोई लेना देना नहीं। तो सख्त timeout, अपने ही SLA से कसा हुआ। फिर retries, लेकिन सिर्फ उन calls पर जिन्हें दोहराना सुरक्षित है, exponential backoff और jitter के साथ, क्योंकि हर इंस्टेंस से एक साथ आई retries उनके हल्के गिरावट को पूरे आउटेज में बदल देती हैं। आगे circuit breaker लगता है, ताकि लगातार कुछ failures के बाद हम कुछ देर कॉल करना बंद कर दें और कतार लगाने के बजाय तुरंत फेल हो जाएं। फिर प्रोडक्ट वाला सवाल, जो सबसे दिलचस्प है: यूजर को क्या दिखना चाहिए? address validation कॉल के लिए मैं ऑर्डर जाने दूंगा और उसे रिव्यू के लिए निशान लगा दूंगा। payment authorization में मैं नकल नहीं कर सकता, तो मैं कोशिश को कतार में डालूंगा और यूजर को ईमानदारी से बता दूंगा। और इस पूरे वक्त मैं request ids लेकर उनके सपोर्ट चैनल पर लगा रहूंगा।