आपका API read heavy है और डेटाबेस नब्बे प्रतिशत CPU पर बैठा है। आप उसे कैसे स्केल करेंगे?

कुछ भी खरीदने से पहले पता कीजिए कि CPU जल किस चीज पर रही है। अगर मुट्ठी भर queries का ही दबदबा है, तो उन पर index लगाइए या उन्हें दोबारा लिखिए। अगर सच में read की मात्रा ज्यादा है, तो replicas जोड़िए और read only ट्रैफिक वहां भेजिए, फिर सबसे गरम नतीजे छोटे time to live के साथ cache कीजिए। N plus one pattern हटाना और page size पर सीमा लगाना अक्सर हार्डवेयर से ज्यादा फायदा देता है। वक्त खरीदने के लिए इंस्टेंस बड़ा कर लीजिए, फिर query pattern ठीक से सुधारिए।

कुछ भी जोड़ने से पहले मैं जानना चाहता हूं कि CPU कर क्या रही है, तो मैं pg_stat_statements या उसके बराबर की जगह से कुल समय के हिसाब से top queries निकालता हूं। मेरे तजुर्बे में थोड़ी सी queries ही ज्यादातर नुकसान करती हैं, और अक्सर उनमें से एक ORM से आया N plus one होता है जो कस्टमर के बढ़ने के साथ और बिगड़ गया। replicas चलाने के मुकाबले उसे ठीक करना मुफ्त है। अगर प्रोफाइल सच में कहता है कि read की मात्रा ही एक जैसी ज्यादा है, तो replicas समझ में आते हैं और मैं read only endpoints वहां भेज देता हूं। पेच replication lag का है, तो जो चीज write के तुरंत बाद पढ़ती है वह primary पर जाती है, वरना यूजर अपना ही अपडेट गायब होते देखेगा। उसके बाद मैं सबसे गरम कुछ endpoints को छोटे time to live के साथ cache करता हूं। साथ साथ मैं इंस्टेंस को vertically बड़ा कर दूंगा, क्योंकि वह पंद्रह मिनट का बदलाव है जो बाकी काम ठीक से करने के लिए मोहलत दे देता है। मैं टीम से साफ कह देता हूं कि बड़ा करना एक घड़ी है, फिक्स नहीं।