आप experiments का हिसाब कैसे रखते हैं ताकि छह महीने बाद किसी model को दोबारा बना सकें?

चार चीजों का version साथ में रखें: code, डेटा, configuration और environment। MLflow या Weights and Biases जैसा tracking टूल इस्तेमाल करें ताकि हर run के parameters, metrics और artifacts log हों; डेटा को live query के बजाय तारीख वाले snapshot से पिन करें; hyperparameters को git के नीचे config files में रखें; और package versions दर्ज करें। model artifact के साथ वह git SHA चलना चाहिए जिसने उसे बनाया।

जिस नियम पर मैं चलता हूं वह यह है कि model तभी reproducible है जब code, डेटा, config और environment चारों पिन हों। code आसान है, वह git है। config मैं notebook cells के बजाय repo में YAML में रखता हूं, ताकि ठीक ठीक hyperparameters commit history में रहें। environment एक lock file और container image tag है। डेटा वह चीज है जो लोगों को पकड़ती है, और उसने मुझे भी पकड़ा: एक बार मैंने चार महीने पुराने model को दोबारा बनाने की कोशिश की, मेरे पास ठीक वही code और parameters थे, और नतीजा अलग आया, क्योंकि training query जिस table से खींचती थी वह बीच में backfill हो चुका था। अब training तारीख वाले snapshot से पढ़ती है जिसकी row count और checksum दर्ज है, कभी किसी live query से नहीं। run tracking के लिए मैं MLflow इस्तेमाल करता हूं, हर run के parameters, metrics, feature list और model artifact log करता हूं, और artifact अपने metadata में git SHA और डेटा snapshot ID लेकर चलता है। इस तरह production में मौजूद कोई भी model एक खास run तक जाता है और वह run दोबारा चलाया जा सकता है। इसमें करीब एक घंटे का सेटअप है और इसने मेरे हफ्ते बचाए हैं।