نبز اسمعیل زاده

آزمون همگنی واریانس‌ها یکی از آزمون‌های مهم و پر کاربرد در اکـثر زمینه‌های تحقیقاتی می‌باشد که در آن فرض برابری واریانس‌های چند جامعه در مقابل اینکه حداقل واریانس دو جامعه از آنها برابر نباشد، بررسی می‌شود. تاکنون آزمون‌های مختلفی برای این مسئله معرفی و ارائه شده است. بسیاری از این آزمون‌ها برای حجم نمونه‌های کوچک و یا نابرابر و همچنین در حالتی که توزیع داده‌ها نرمال نباشند دارای عملکرد خوبی نیستند. در این پایان نامه، یک رویکرد جدید برای آزمون همگنی واریانس ها با عنوان آزمون درستنمایی تجربی جک‌نایف را مورد مطالعه قرار داده‌ایم. همچنین آزمون‌های پر کاربرد لون، بارتلت، الکساندر و گاورن،جیمز و رویکرد درستنمایی تجربی جک‌نایف با اندازه نمونه‌های مختلف را با هدف مقایسه عملکردی با استفاده از مطالعات شبیه سازی مورد بررسی قرار داده‌ایم.

وقتی که حجم داده ها بسیار بزرگ است و اصطلاحا با مه داده ها سروکار داریم، روش ها و الگوریتم های کلا سیک و سنتی آمار بدلیل محدودیت حافظه و ذخیره سازی کامپیوترها امکان پذیر نیستند، در نتیجه توسعه روش های آماری جهت برازش مدل رگرسیونی برای داده ها ضروری است. در این پایان نامه روش های جدید برازش یک مدل رگرسیون خطی با تاکید بر الگوریتمی برای انجام تبدیل باکس-کاکس مورد مطالعه قرار گرفت و سه الگوریتم اجرا شد. نتایج برازش به ازای مقادیر مختلف بررسی شد که نتایج نشان داد هر چه مقدار کوچکتر باشد دقت برازش بیشتر و اختلاف بین مقدار واقعی و پیش بینی شده توسط روش برازشی کمتر است. همچنین نتایج برازش نمونه ها نشان داد که در بین هشت متغیر توصیفی ورودی فقط سه متغیر دارای تاثیر معنی دار بر نتایج برازش بودند که مجدا الگوریتم برازش شده با این سه متغیر توصیفی اجرا شد که نتایج خروجی آن فاقد اختلاف معنی دار با مدل حالت کامل بود.

وقتیکه تعداد عوامل موردمطالعه بسیار زیاد هستند، برای بهبود فرایندها و محصوالت باکیفیت باال بهطور قابلتوجهی از آزمایشهای غربالگری استفاده میشود. آزمایشهای سنتی، برای بهبود فرایند و محصول تنها با بررسی اثرات اصلی آغاز میشود و از آزمایشهای بیشتر به بررسی اثرات متقابل بین عوامل اصلی که از نتایج مرحله اول مهم تشخیص دادهشدهاند استفاده میکند. در این پایاننامه، راهبردهای متفاوت غربالگری که امکان بررسی اثرات متقابل همراه با اثرات اصلی را فراهم میکند موردمطالعه قرار میدهیم. در ابتدا یک مرور کلی به مفاهیم پایهای و موردنیاز مرتبط با مباحث پایاننامه داریم. سپس در فصل دوم، سه طرح غربالگر ازجمله طرح فوق اشباعشده، طرح غربالگری گروهی و طرح کاوش موردمطالعه قرارگرفته است. در فصل سوم برای تجزیهوتحلیل دادههای حاصل از طرحهای معرفیشده در دو روش تجزیهوتحلیل دادهها شامل رگرسیون انقباضی و رگرسیون غیر انقباضی بررسی میشوند. در فصل چهارم عملکرد طرحهای غربالگری در طرحهای مورداستفاده و روشهای مختلف تجزیهوتحلیل دادهها از طریق شبیهسازی کل فرایند غربالگری با استفاده از چهار معیار حساسیت، نرخ کشف اشتباه، نرخ خطای نوع اول و اختالف اندازه- مجموعه فعال مقایسه میکنیم. بهطورکلی از نتایج بهدستآمده به نظر میرسد که روش DS-G بهترین کارایی را دارد و پسازآن روش DS-S و سپس روش LA-S میباشد. بهطورکلی روشهای CS-S و R2-G تمایل به کارایی کمتری نسبت به سایر روشها دارند.

بررسی ارتباط بین یک یا چند عامل روی متغیر پاسخ در آمار دارای اهمیت فراوانی است. در بسیاری از روشهای موجود، میانگین شرطی متغیر پاسخ با در نظر گرفتن تابعی خطی از متغیرهای توضیحی مدلبندی میشود. ایده استفاده از یک روش غربالگری گروهی برای شناسایی عوامل مهم با استفاده از آزمایشهای کوچک طراحی شده، توسط واتسون )1961 )شرح داده شد. هم اکنون نیز غربالگری گروهی در زمینه- های مختلف علمی و مهندسی کاربرد دارد. در برنامههای آزمایشی که شامل تعداد زیادی از عوامل کنترل پذیر است، یکی از اولین اهداف، شناسایی زیرمجموعه عواملی است که تاثیر بسزایی در پاسخ دارند. از اینرو آزمایشهای غربالگری انجام میشود نه برای ارایه برآوردهای قطعی پارامترها بلکه برای شناسایی پارامترهایی که ابتدا باید برآورد شوند. استفاده از غربالگری این امکان را فراهم میآورد که اثر عاملها در پاسخ مورد بررسی قرار گیرد و در نتیجه تحلیل کاملتری نسبت به رگرسیون خطی ارائه میشود. در فصل اول این پایاننامه چهارچوب طرحهای عاملی و کسری و غربالگری توضیحات کلی داده میشود. در فصل دوم یک خانواده جدید از غربالگری با عنوان غربالگری بیزی را پوشش میدهیم و به کمک آن به بررسی میزان اثر عاملهای اصلی و اثرات متقابل بطور همزمان روی پاسخ میپردازیم این خانواده جدید از غربالگری معایب دیگر روشهای غربالگری از جمله: رویکرد رگرسیون گام بهگام حمادا و وو همچنین رویکرد همهی زیرمجموعه های فورنیوال و ویلسون را برطرف میکند. در روش بیزی به کمک دو طرح غربالگری گروهی و طرحهای فوقاشباع و با استفاده از دو استراتژی انتخاب مدل بیزی و متوسطگیری مدل بیزی، مدل مطلوب و نهایتا عاملهای مهم را به کمک چهار معیار خطای نوع اول، نرخ کشف نادرست، اختالف اندازه مجموعههای فعال و حساسیت تخمین میزنیم. برای برآورد پارامترها نیز در طرح فوق اشباع از روش کمترین مربعات و برای برآورد پارامترهای در طرح غربالگری گروهی از روش نمونهگیری گیبس بهره میبریم. در پایان به کمک انجام 500 نمونه شبیه سازی شده، بطور تقریبی برتری هر یک از چهار روش بیزی شامل BM-S( طرح فوق اشباع با استفاده از استراتژی انتخاب مدل بیزی( ,BA-S( طرح فوق اشباع با استفاده از استراتژی متوسطگیری بیزی( ,BM-G( غربالگری گروهی با استفاده از استراتژی انتخاب مدل بیزی( ,BA-G( غربالگری گروهی با استفاده از استراتژی متوسطگیری مدل بیزی( را بررسی کردیم. با بررسی تمام نمودارهای بدست آمده از هر شبیه سازی، نتایج نشان میدهد که اگر از طرح فوق اشباع استفاده کنیم روش BM-S صرف نظر از تعداد عوامل و مقادیر دیگر پارامترهای شبیه سازی، تمایل به عملکرد خوب دارد. اگر از غربالگری گروهی استفاده کنیم روش BA-G صرف نظر از تعداد عوامل و مقادیر دیگر پارامترهای شبیه سازی، تمایل به عملکرد خوب دارد. زیرا کمترین میزان کشف نادرست و کمترین اختلاف اندازه مجموعه های فعال را دارد و همچنین میزان خطای نوع اول آن کمترین میزان بوده در مقابل بیشترین میزان حساسیت را دارد. غربالگری گروهی )BA-G, BM-G )حساسیت کمتری نسبت به طرح فوق اشباع با استفاده از دو استراتژی انتخاب مدل بیزی و متوسطگیری مدل بیزی دارد. زیرا میانه تقریبا نزدیک دادههای پرت تعیین شده که ناشی از پراکندگی زیاد دادهها است. معمول حساسیت بالا باعث بیش برازش مدل میشود، یعنی ما اثراتی را به عنوان فعال، تعیین و وارد مدل کردهایم که در واقع نباید وارد مدل میکردیم. از پیامدهای مدل فرابرازش در اینجا این است که سبب افزایش واریانس مدل پیشبینی میشود. افزایش واریانس به معنای افزایش پراکندگی است که یکی از معیارها برای بررسی کفایت مدل است بنابراین افزایش واریانس به نفع نیست. در این حالت میزان خطای نوع اول و FDR هم صفر نیست زیرا هنگامی که با بیش برازش مدل مواجه میشویم به این معنا خواهد بود که آن دسته از اثراتی که ما به مدل اضافه کردهایم سهمی کم یا بدون اثر داشته است.

در این رساله معیارهای انتخاب طرح های عاملی کسری دو سطحی به منظور شناسایی نقاط ضعف و قوت آنها بررسی شده اند. با ذکر مثال هایی روش ها تشریح و عملکرد آنها مقایسه شده است. به طور دقیق معیارهایی مانند تجزیه ، الگوی طول هم اثری تعمیم یافته و ظرفیت برآورد QB تعمیم یافته، انحراف تعمیم یافته، مطالعه شده اند. طرح های نامتعامد توان و تجزیه تعمیم یافته ی بالایی ندارند، پس بر اساس این معیارها طرح های متعامد همواره بر ممکن است یک طرح QB طرح های نامتعامد ارجحیت دارند. در حالی که بر اساس معیارها انحراف تعمیم یافته و نامتعامد را بالاتر از یک طرح متعامد رتبه بندی کنند.

در بسیاری از تحقیقات و راهکارهای بهبود کیفیت، آزمایشات به کمک طرح­های عاملی دو سطحی تک تکراری انجام می­شوند. در این طرح ها شناسایی اثرات مکانی و پراکندگی از اهمیت ویژه ای برخوردار است. روش های مختلفی برای شناسایی اثرات مکانی و پراکندگی ارائه شده است. در اکثر این روش ها، شناسایی اثرات پراکندگی وابسته به شناسایی درست اثرات مکانی است چرا که شناسایی نادرست اثرات مکانی باعث بروز اشتباه در شناسایی اثرات پراکندگی خواهد شد. در این پایان نامه، روشی بررسی می شود که در آن شناسایی هر دو اثرات مکانی و پراکندگی به صورت توام انجام می شود. در این روش از یک مدل مکانی-پراکندگی توام استفاده خواهد شد و برآورد پارامترها به کمک روش حداکثر درستنمایی انجام می شود. در جستجوی جامع، فضای همه ی مدل های ممکن بررسی شده و مدل های مناسب تخمین زده می شوند. نهایتا بهترین مدل ها و اثرات به کمک روش مدل میانگین انتخاب خواهند شد. بنابراین در این روش مشکلات ناشی از شناسایی نادرست اثرات مکانی که باعث اشتباه در معرفی اثرات پراکندگی می شود را نخواهیم داشت. نهایتا روش های مورد مطالعه روی مثال هایی اعمال خواهند شد.

در این رساله، به ساخت طرح های عاملی کسری دو سطحی بر اساس معیار کمینه ی انحراف می پردازیم. با استفاده از جدیدترین الگوریتم ها بر پایه ی دسته بندی طرح های متعامد ناهم ریخت، طرح های کمینه ی انحراف با $ N=0\pmod{4} $، $ N=1\pmod{4} $ و $ N=2\pmod{4} $ اجرا ساخته شده اند. به دیگر سخن، این طرح ها به ترتیب از آرایه های متعامد دو نمادی، آرایه های متعامد دو نمادی به اضافه یک اجرا و آرایه های متعامد دو نمادی به اضافه ی دو اجرا با توان دو به دست می آیند. رویکرد ما، بدست آوردن اطمینان از استواری مدل برازش داده شده بر روی اثرات اصلی با وجود اثرات متقابل در برآورد پارامتر اثرات اصلی است. دلیل برسی طرح های کمینه انحراف با $ N=0\pmod{4} $، $ N=1\pmod{4} $ و $ N=2\pmod{4} $ اجرا این است که این طرح ها تحت محدوده ی وسیعی از معیارها در غیاب اثرهای متقابل در برآورد میانگین کل و اثرات اصلی بهینه هستند، و به صورت دنباله ای کمینه کردن اریبی برآوردگر اثرات اصلی که در اثر نادیده گرفتن اثرات متقابل ایجاد شده است در میان این طرح ها، استواری مدل را ماکزیمم می کند.

در یک طرح عاملی کامل، معمولاً تعداد اجراها زیاد است و در عمل امکان اجرای همه ی آزمایش ها را نداریم. در این موارد کسری از اجراهای طرح عاملی کامل را به کار می بریم، که به آن طرح عاملی کسری می گوییم. یکی از راه های انتخاب طرح عاملی کسری این است که یک زیر مجموعه از اثراتی را که به نظر معنی دار هستند $ (R_{0}) $، تعیین و تحلیل کنیم. برای تحلیل طرح عاملی کسری یک مدل خطی بر اساس اثرات موجود در $ R_{0} $ به داده ها برازش می دهیم. اگر در $ R_{0} $، به اشتباه اثر یا اثرات معنی داری را در نظر نگیریم برآوردگرهای حداقل مربعات پارامترهای مدل اریب اند و واریانس آن ها افزایش می یابد. به منظور کاهش اریبی و واریانس برآوردگرهای حداقل مربعات، معیارهای بهینگی مینیماکس معرفی شدند. متداول ترین معیارهای بهینگی مینیماکس، معیارهای $ -A $ و $ -D $ بهینگی مینیماکس هستند که بر اساس اندازه ای از ماتریس میانگین مربعات خطای برآوردگرهای حداقل مربعات $(MSE)$، تعریف می شوند. معیارهای $ -A $ و $ -D $ بهینگی مینیماکس به ترتیب ماکزیمم نشان و ماکزیمم دترمینان ماتریس $ MSE $ را مینیمم می سازند. ما در این پایان نامه معیارهای بهینگی مینیماکس، ویژگی های طرح های بدست آمده از این معیارها و چندین الگوریتم جهت ساختن طرح های عاملی کسری بهینه را مطالعه می کنیم. همچنین معیار $ -I $ بهینگی را معرفی می کنیم. معیار $ -I $ بهینگی، متوسط دترمینان ماتریس $ MSE $ را مینیمم می سازد.

در این پژوهش، ضرورت بیان طرح های کاوش بیان می شود. همچنین طرح های کاوش معرفی شده توسط سریواستاوا مرور می شوند. در یک مسئله خاص ممکن است چند طرح کاوش با تعداد اجراهای یکسان وجود داشته باشند. بحث معیارهای ارزیابی طرح های کاوش، موضوع دیگر مطرح شده در این پایان نامه است. معیارهای مبتنی بر احتمال کاوش، معیار کولبک-لیبلر، معیار دوگانه و ویژگی واریانس مشترک همراه با مثال های مطرح شده اند.

استنباط آماری در مدلهای رگرسیونی که در آن تعداد پارامترها خیلی بزرگتر از تعداد مشاهدات است بدون اعمال فرضیات اضافی روی بردار رگرسیونی غیر ممکن است. لذا با فرض تنک بودن بردار رگرسیون، یعنی با فرض اینکه تعداد مولفه های غیر صفر کم است به برآورد پارامترهای مدل میپردازیم. برآوردهای سخت آستانه ای و نرم آستانه ای را معرفی میکنیم. همچنین ضمن معرفی برآوردهای لاسو، گزینشگر دانتزیگ و مجموع وزن دار نمائی کرانهایی برای مخاطره این برآوردگرها بدست می آوریم.

مسئله ی شناسایی روند های یکنواخت در واریانس ها در بیشتر موارد کاربردی مطرح می شوند و از روش های آماری متعددی برای آزمون چنین مسائلی استفاده می شود. در این پایان نامه شش آزمون، لون، کنتراست دو گانه، کنتراست چند گانه، مدهولکر - مک درموت با مقادیر ساختگی میلر، روند لون و لون گونه ای تودرتو با دو روش حذف صفر ساختاری هاینز-هاینز و روش تصحیح صفر در توزیع های متقارن، چوله و دم سنگین با اندازه نمونه های متفاوت بررسی می شوند. هدف ما مقایسه عملکرد آزمون توزیع آزاد لون گونه ای تودرتو با سایر آزمون ها است. این مقایسات بر اساس بررسی نرخ خطای نوع اول و توان آزمون ها است. نتایج شبیه سازی نشان می دهند که آزمون توزیع آزاد لون گونه ای تودرتو، یک برآورد خیلی دقیق از اندازه را به دست می دهد و یک توان نزدیک به حالت ایده آل را برای انواع توزیع ها، اندازه نمونه ها و فرض های مخالف مختلف ارائه می دهد.

آزمون همگنی واریانس ها اغلب به عنوان یک آزمون مقدماتی برای تحلیل های دیگر، مثل آزمون برابری میانگین های جوامع مورد استفاده قرار می گیرد. برای آزمون همگنی واریانس ها در طرح بلوکی کامل تصادفی شده تاکنون چندین آزمون ارائه شده است، که رایج ترین آن ها آزمون بارتلت و لون است و بقیه تعمیمی از این دو آزمون هستند. بسیاری از این آزمون ها زمانی که تعداد گروه های تیماری بزرگ تر از تعداد بلوک ها باشد عملکرد مناسبی ندارند و نسبت به فرض نرمال بودن حساس هستند. در این پایان نامه نه آزمون: لون، اونیل، دقیق هان، مجانبی هان، اف-ماکس هان، $z$ ایتنوسومارتو، $z^{2}$ ایتنوسومارتو، شوکلا و بیهاندری و دی را با روش برآورد مقادیر بحرانی مورد بررسی قرار داده و عملکرد آن ها را در توزیع های چوله و متقارن با تعداد گروه های تیماری و بلوکی مختلف می سنجیم. هدف مقایسه نرخ خطای نوع اول و توان این آزمون ها بر اساس مطالعات شبیه سازی است. روش برآورد مقادیر بحرانی عملکرد خوبی را در بهبود خطای نوع اول و توان داراست. در بررسی های عملکرد آزمون توسط روش های شبیه سازی مونت کارلو، آزمون بیهاندری و دی از نرخ خطای نوع اول پایین و توان بالایی برخوردار است.

برای مقایسه میانگین دو یا چند جامعه از آزمون تحلیل واریانس استفاده می شود. در صورت حضور نقاط دورافتاده در مجموعه داده ها، نتیجه آزمون کلاسیک تحلیل واریانس قابل اعتماد نیست. در این پایان نامه، ابتدا روش استوار تحلیل واریانس بر اساس جستجوی پیشرو ارائه می شود. روش جستجوی پیشرو روشی کاملا گرافیکی است. سپس به کمک توزیع جایگشتی آماره F بر اساس میانگین پیراسته، روش استوار جدیدی برای تحلیل واریانس پیشنهاد داده می شود. روش پیشنهادی برخلاف روش جستجوی پیشرو، به کمک توزیع جایگشتی آماره مورد بررسی، ما را از فرضیات محدود کننده روش پارامتری بی نیاز می کنند. در عین حال، به کمک پیراستن داده ها از مشاهدات دورافتاده، اعتبار نتایج حاصل تضمین می شود. مقایسه دو مدل شبیه سازی شده به وسیله توان آزمون و خطای نوع اول، حکایت از عملکرد خوب دو روش و البته سرعت بالاتر روش پیشنهادی دارد.در نهایت، نتایج دو روش را روی یک مجموعه داده واقعی بررسی می کنیم.

آزمون همگنی واریانس ها، فرض برابری واریانس های k جامعه ($ k\geq2 $) را در مقابل این که حداقل واریانس دو جامعه از آنها برابر نباشد، بررسی می کند. این آزمون یکی از آزمون های مهم و پرکاربرد در بیشتر حوزه های تحقیقاتی است. تاکنون آزمون های مختلفی توسط محققان برای این مسئله معرفی شده است. بسیاری از این آزمون ها در حالتی که توزیع داده ها نرمال نباشد و یا اندازه های نمونه کوچک و یا نابرابر باشد عملکرد خوبی از خود نشان نمی دهند. در این پایان نامه عملکرد نه آزمون بارتلت، بارتلت با اصلاح کشیدگی، شومیکر، ویلچ، برون و فورسیت، لون، الکساندر و گاورن، جیمز و آلام و کاهوی را با پنج روش برآورد مقادیر بحرانی، حذف صفرساختاری، برآورد مقادیر بحرانی با اعمال حذف صفرساختاری، خودگردان و خودگردان با اعمال حذف صفرساختاری در توزیع های چوله و متقارن با اندازه نمونه های مختلف مورد مقایسه قرار داده ایم. هدف مقایسه ی عملکرد روش های مختلف ذکر شده با روش های خودگردان و خودگردان با اعمال حذف صفر ساختار ی است. نتایج شبیه سازی نشان می دهند که این دو روش، عملکرد آزمون های مطرح شده را از نظر توان و نرخ خطای نوع اول به نحو چشم گیری بهبود می دهند. آزمون های الکساندر و گاورن، لون و برون و فورسیت دارای عملکرد خطای بهتری نسبت به سایر آزمون ها هستند. آزمون الکساندر و گاورن هنگامی که اندازه نمونه های بزرگ، متناظر با واریانس های بزرگ هستند در بین آزمون های استوار، پرتوان تر است.

در این پایان نامه با در نظر گرفتن طرح های عاملی سه سطحی، به معرفی و ساختن طرح های کاوش می پردازیم. برای ارائه این طرح ها، مدل خطی کاوش را در نظر گرفته و فرض می کنیم این مدل شامل دو دسته پارامتر باشد. دسته ی اول شامل اثراتی است که همگی معنی دار هستند و باید برآورد شوند و دسته ی دوم شامل اثراتی است که تعداد اندکی از آنها غیر صفر ولی ناشناخته هستند. ابتدا فرض می کنیم دسته ی اول شامل میانگین کل و همه اثرات اصلی و دسته ی دوم شامل اثرات متقابل دو عاملی باشد به طوری که در میان این اثرات تنها دو اثر معنی دار وجود داشته باشد. در این حالت به معرفی طرح کاوشی می پردازیم که توانایی تشخیص این دو اثر را داشته و آنها را به همراه اثرات در دسته ی اول برآورد می کند. توانایی کاوش این طرح در تشخیص اثرات غیر صفر، با معیار احتمال کاوش انجام می گیرد که این معیار از طریق شبیه سازی، برآورد و محاسبه می شود. این طرح برای 3-12 عامل قابل استفاده نمی باشد. سپس، حالاتی را در نظر می گیریم که در میان اثرات متقابل دو عاملی، یک، دو، سه و چهار اثر معنی دار وجود داشته باشد. در این صورت با استفاده از آرایه های متعامد سه سطحی و با برنامه نویسی در محیط نرم افزار MATLAB، طرح های کاوشی را با 18، 36 و 72 اجرا و 3 تا 11 عامل می سازیم که توانایی تشخیص این اثرات را داشته و آنها را به همراه میانگین کل و همه اثرات اصلی برآورد می کنند. از مزیت های طرح های ساخته شده از آرایه های متعامد داشتن تعداد اجراهای مناسب، متعامد بودن و قابلیت کاوش بسیار بالا را می توان ذکر کرد. از آنجایی که این طرح ها برای 3 تا 11 عامل ساخته شده اند، ضعف طرح قبلی را جبران می کنند.