किसी workload के लिए CPU और memory के requests और limits कैसे सेट करते हैं?

requests को देखे गए इस्तेमाल से सेट करें, आमतौर पर CPU के लिए median के आसपास और memory के लिए peak के करीब, क्योंकि requests ही scheduling और capacity तय करते हैं। memory limit को request के पास रखें, क्योंकि उससे ऊपर जाते ही container मार दिया जाता है, और CPU limits में सावधानी बरतें क्योंकि वे throttling पैदा करते हैं जो बिना वजह वाली latency की शक्ल में दिखती है। नंबरों को असली डेटा के साथ दोबारा देखें, एक सर्विस से दूसरी में कॉपी न करें।

requests वह हैं जिनसे scheduler pod की जगह तय करता है और असल में आप जिनका पैसा दे रहे हैं, और limits वह छत है जिसे runtime लागू करता है। दोनों resources का बर्ताव बिल्कुल अलग है। CPU compressible है, तो CPU limit से टकराने का मतलब है container throttle हो गया, और यह बिना किसी साफ वजह के latency spikes की तरह दिखता है, जिसे डिबग करना भयानक है। memory compressible नहीं, तो memory limit पार करने का मतलब है container सीधे मार दिया गया। इससे मेरे डिफ़ॉल्ट बनते हैं: CPU request देखे गए median इस्तेमाल से थोड़ी गुंजाइश के साथ सेट करता हूं, और latency के लिहाज़ से संवेदनशील सर्विसेज़ पर CPU limits को लेकर आमतौर पर सतर्क रहता हूं, या उन्हें उदारता से सेट करता हूं। memory के लिए request असली peak के पास और limit उसके करीब रखता हूं, ताकि कोई leak चुपचाप node खाने की जगह जल्दी और साफ दिखकर फेल हो। नंबर मैं दो हफ्ते के असली इस्तेमाल के percentiles से लेता हूं, किसी दूसरी सर्विस से कॉपी करके नहीं, और load tests के बाद दोबारा देखता हूं। दूसरा पहलू यह है कि फुलाए हुए requests ही मुख्य वजह हैं कि clusters खाली दिखते हैं और फिर भी कुछ schedule नहीं कर पाते।