आपके दो predictors का correlation 0.95 है। क्या इससे फर्क पड़ता है, और आप इसका क्या करेंगे?

यह आपके मकसद पर निर्भर है। शुद्ध prediction के लिए collinearity accuracy को शायद ही नुकसान पहुंचाती है; model बस जुड़वां variables के बीच weight बांट देता है। inference के लिए यह गंभीर है: coefficients अस्थिर हो जाते हैं और उनकी standard errors फूल जाती हैं, इसलिए samples के बीच चिह्न तक पलट सकते हैं और आप नहीं कह सकते कि नतीजे को कौन सा variable चला रहा है। variance inflation factors देखें, फिर एक को हटा दें, दोनों को मिला दें, या ridge इस्तेमाल करें।

मेरा पहला सवाल यह है कि model किस काम के लिए है। अगर हम leads को score कर रहे हैं और coefficients कोई पढ़ता ही नहीं, तो 0.95 का correlation ज्यादातर बेकसूर है। fit ठीक है, predictions ठीक हैं, weight बस दोनों variables के बीच किसी मनमाने तरीके से बंट जाता है। काटता यह वहां है जहां कोई coefficients के आधार पर कदम उठाने वाला हो। तब यह असली समस्या है, क्योंकि वह बंटवारा अस्थिर होता है: थोड़े अलग sample पर दोबारा fit करिए और एक coefficient positive की तरफ झूल जाता है जबकि दूसरा negative की तरफ, और standard errors इतनी चौड़ी होती हैं कि दोनों में से कोई significant नहीं लगता, जबकि जोड़ी साफ तौर पर मायने रखती है। मैं VIF देखता हूं, और करीब दस से ऊपर कुछ भी हो तो मैं उसे शक की नजर से लेता हूं। fix जोड़ी पर निर्भर है। अगर वे एक ही चीज दो बार मापी गई हैं, जैसे revenue और local currency में revenue, तो मैं एक हटा देता हूं। अगर वे सचमुच किसी चीज के दो पहलू हैं, तो मैं उन्हें एक ratio या एक component में मिला देता हूं। अगर मुझे दोनों चाहिए और सिर्फ prediction quality की परवाह है, तो ridge इसे साफ ढंग से संभाल लेता है, क्योंकि वह weight मनमाने तरीके से नहीं, स्थिर तरीके से बांटता है।