loss function आप कैसे चुनते हैं, और डिफॉल्ट के अलावा कुछ और कब इस्तेमाल करेंगे?

वह loss चुनिए जो फैसले और गलत होने की कीमत से मेल खाता हो, वह नहीं जो tutorial में था। classification के लिए cross entropy जब calibrated probabilities चाहिए, mean squared error जब बड़ी गलतियां अनुपात से ज्यादा बुरी हों, mean absolute error या Huber जब outliers हावी नहीं होने चाहिए, बेहद असंतुलन के लिए focal loss, और जब mean नहीं बल्कि कोई खास percentile चाहिए तो quantile या pinball loss।

मॉडल असल में सिर्फ loss ही optimize करता है, इसलिए उसमें यह बंधा होना चाहिए कि गलती हमें क्या कीमत देती है। regression में MSE conditional mean fit करता है और बड़ी चूकों को quadratic सजा देता है, जो तब सही है जब बड़ी गलती सचमुच अनुपात से ज्यादा बुरी हो। इसका यह भी मतलब है कि गिने चुने outliers पूरे fit पर हावी हो सकते हैं। MAE median fit करता है और कहीं ज्यादा मजबूत है, और Huber शून्य के पास quadratic और सिरों पर linear बर्ताव देता है, जो गंदे असली targets पर मेरा आम डिफॉल्ट है। जो केस मुझे सबसे अच्छी तरह याद है वह एक delivery time मॉडल था। हमने MSE पर ट्रेन किया, और predictions औसतन ठीक थीं और ऑपरेशनल तौर पर बेकार, क्योंकि बिजनेस को ऐसा समय चाहिए था जिसका वादा किया जा सके, यानी मोटे तौर पर नब्बेवां percentile। 0.9 पर pinball loss पर जाने से ठीक वही मिला और देर से पहुंचने की दर तेजी से गिरी, बिना आर्किटेक्चर में एक भी बदलाव के। classification में मैं cross entropy पर ही टिका रहता हूं, जब तक असंतुलन बहुत गंभीर न हो, जहां focal loss आसान negatives का weight घटा देता है ताकि मुश्किल वाले सचमुच योगदान दें। बाद में मैं हमेशा calibration जांचता हूं, क्योंकि loss को दोबारा weight करने वाली कोई भी चीज output probabilities को बिगाड़ देती है।