اندازه اثر Effect Size در مدل‌های رگرسیون خطی

 Effect Size in Linear Regression 

من در این مثال می‌خواهیم رابطه رگرسیونی بین میزان آلودگی هوا PSI در 21 شهر کشور را با کمیت‌هایی مانند تعداد کارخانه‌های کوچک و بزرگ، وسایل نقلیه و رتبه وضعیت حمل و نقل عمومی آن شهر، به دست بیاورم.

در جدول زیر، ضرایب رگرسیونی به همراه مقادیر احتمال آن‌ها به دست آمده است.

البته هدف من در این مقاله، بیان نحوه و چگونگی به دست آوردن رابطه رگرسیونی نیست و صرفاً می‌خواهیم درباره‌ی اندازه اثر در یک مدل رگرسیونی صحبت کنیم.

همچنین در جدول زیر با نام Model Summary، ضریب تعیین یا همان R Square را مشاهده می‌کنید.

اندازه اثر که در یک مدل رگرسیونی با نام F Square نیز بیان می‌شود، از رابطه و فرمول زیر به دست می‌آید.

$ \displaystyle {{f}^{2}}=\frac{{{{R}^{2}}}}{{1-{{R}^{2}}}}$

که در آن $ \displaystyle {{{R}^{2}}}$ همان ضریب تعیین مدل رگرسونی است.

بنابراین به سادگی می‌توانیم با استفاده از ضریب تعیین، به محاسبه اندازه اثر در یک طرح رگرسیونی بپردازیم. به عنوان مثال در این مقاله، رابطه زیر را خواهیم داشت.

$ \displaystyle {{f}^{2}}=\frac{{{{R}^{2}}}}{{1-{{R}^{2}}}}=\frac{{0.988}}{{1-0.988}}=82.33$

عدد براورد شده برای اندازه اثر برابر با 82.33 به دست آمده است. چنانچه بخواهیم این عدد را به صورت درصد بیان کنیم، برابر با 0.8233 خواهد شد.

بر مبنای تعریف Effect Size به صورت فرمول بالا، اندازه اثر همواره عددی مثبت است. من در عبارات زیر محدوده‌های مختلف عدد براورد شده برای Effect Size (به صورت درصدی) را بیان کرده‌ام.

•     اندازه اثر 0.2 = d و کمتر را یک اندازه اثر کوچک و غیرمعنادار بیان می‌کنیم.
•     اندازه اثر d بین 0.2 و 0.5  را اندازه اثر متوسط گزارش می‌کنیم.
•     اندازه اثر d بین 0.5 و 0.8  اندازه اثر بزرگ و قوی بیان می‌شود
•     اندازه اثر d > 0.8 نیز به عنوان یک اندازه اثر بسیار قوی گزارش می‌شود.