serverless function में cold start क्यों होते हैं और आप उनसे कैसे निपटते हैं?

cold start तब होता है जब कोई request आती है और कोई गर्म execution environment उपलब्ध नहीं होता, तो platform को एक बनाना पड़ता है, आपका कोड download और unpack करना पड़ता है, runtime शुरू करना पड़ता है, और request संभालने से पहले आपका initialization चलाना पड़ता है। इसे घटाने के लिए package छोटा करें, हल्का runtime चुनें, भारी setup को request के रास्ते से हटाएं, और connection दोबारा इस्तेमाल करें। latency के प्रति संवेदनशील रास्तों के लिए warming के जुगाड़ों की जगह provisioned concurrency इस्तेमाल करें।

cold start का मतलब है platform एक नया execution environment बना रहा है क्योंकि कोई गर्म environment खाली नहीं है। इसका मतलब है उसे तैयार करना, आपका artifact खींचकर unpack करना, runtime boot करना, और आपका handler call होने से भी पहले आपका initialization कोड चलाना। जो हिस्से मेरे हाथ में हैं वे हैं artifact का आकार और initialization, इसलिए मैं dependency जमकर छांटता हूं, क्योंकि मोटा package हर cold start में असली वक्त जोड़ता है, और मैं configuration load तथा client बनाने जैसी चीजें handler के बाहर ले जाता हूं ताकि वे प्रति request के बजाय प्रति environment एक बार चलें और गर्म invocation पर दोबारा इस्तेमाल हो जाएं। runtime का चुनाव भी मायने रखता है; एक हल्का runtime किसी भारी virtual machine के मुकाबले कहीं तेज शुरू होता है, बशर्ते मैं platform का snapshot feature न इस्तेमाल कर रहा हूं। जब रास्ता यूजर के सामने का हो और tail latency मायने रखती हो, तो मैं optimize करना बंद करके अपेक्षित baseline के लिए provisioned concurrency खरीद लेता हूं, क्योंकि उससे environment तैयार रहते हैं। जो मैं अब नहीं करता वह है function को timer से ping करके गर्म रखना; असली concurrency पर वह भरोसे लायक नहीं है। queue से चलने वाले या batch काम के लिए मैं आमतौर पर इसे मान ही लेता हूं।