نوع فایل: word
قابل ویرایش 91صفحه
چکیده:
در دو دهه قبل توانایی های فنی بشر برای تولید و جمع آوری دادهها به سرعت افزایش یافته است. عواملی نظیر استفاده گسترده از بارکد برای تولیدات تجاری، به خدمت گرفتن کامپیوتر در کسب و کار، علوم، خدمات دولتی و پیشرفت در وسائل جمع آوری داده، از اسکن کردن متون و تصاویر تا سیستمهای سنجش از دور ماهواره ای، در این تغییرات نقش مهمی دارند.
بطور کلی استفاده همگانی از وب و اینترنت به عنوان یک سیستم اطلاع رسانی جهانی ما را مواجه با حجم زیادی از داده و اطلاعات میکند. این رشد انفجاری در دادههای ذخیره شده، نیاز مبرم وجود تکنولوژی های جدید و ابزارهای خودکاری را ایجاد کرده که به صورت هوشمند به انسان یاری رسانند تا این حجم زیاد داده را به اطلاعات و دانش تبدیل کند. داده کاوی به عنوان یک راه حل برای این مسائل مطرح می باشد. در یک تعریف غیر رسمی داده کاوی فرآیندی است، خودکار برای استخراج الگوهایی که دانش را بازنمایی می کنند، که این دانش به صورت ضمنی در پایگاه داده های عظیم، انباره داده و دیگر مخازن بزرگ اطلاعات، ذخیره شده است.
به لحاظ اینکه در چند سال اخیر مبحث داده کاوی و اکتشاف دانش موضوع بسیاری از مقالات و کنفرانسها قرار گرفته و نرم افزار های آن در بازار به شدت مورد توجه قرار گرفته، از اینرو در مقاله سعی بر آن شده تا گذری بر آن داشته باشیم.
در این مقاله درفصل مروری بر داده کاوی خواهیم داشت. که به طور عمده به تاریخچه ، تعاریف، کاربردها وارتباط آن با انبار داده و OLAP خواهیم پرداخت. در پایان فصل مراحل فرایند کشف دانش از پایگاه داده ها را ذکر کردیم که داده کاوی یکی از مراحل آن است.
در فصل 2 یکی از شیوه های داده کاوی که از سبد خرید گرفته شده است توضیح داده شده است. در این فصل به شرح قوانین ارتباطی خواهیم پرداخت که در آن بعد از دسته بندی الگوریتمها ، الگوریتم Apriori ( که یک الگوریتم پایه در این زمینه است ) و الگوریتم FP-Growth ( یک الگوریتم جدید میباشد) را با شرح یک مثال توضیح می دهیم و در آخر آن دو را با هم مقایسه می کنیم.
در فصل 3 مباحث وب کاوی و متن کاوی را که در بسیاری از مراجع جزء کاربردهای داده کاوی به حساب می آید شرح داده خواهد شد.
مقدمه:
امروزه با گسترش سیستمهای پایگاهی و حجم بالای دادههای ذخیره شده در این سیستمها، نیاز به ابزاری است تا بتوان دادههای ذخیره شده را پردازش کرد و اطلاعات حاصل از این پردازش را در اختیار کاربران قرار داد.
با استفاده از پرسشهای ساده در SQL و ابزارهای گوناگون گزارشگیری معمولی، میتوان اطلاعاتی را در اختیار کاربران قرار داد تا بتوانند به نتیجهگیری در مورد دادهها و روابط منطقی میان آنها بپردازند. امّا وقتی که حجم دادهها بالا باشد، کاربران هرچند زبر دست و با تجربه باشند نمیتوانند الگوها مفید را در میان حجم انبوه دادهها تشخیص دهند و یا اگر قادر به این کار هم باشند، هزینه عملیات از نظر نیروی انسانی و مادی بسیار بالا است. از سوی دیگر، کاربران معمولاً فرضیهای را مطرح میکنند و سپس بر اساس گزارشات مشاهده شده به اثبات یا رد فرضیه میپردازند، در حالی که امروزه نیاز به روشهایی است که اصطلاحاً به کشف دانش بپردازند یعنی با کمترین دخالت کاربر و بصورت خودکار الگوها و رابطههای منطقی را بیان نمایند.
داده کاوی یکی از مهمترین این روشها است که به الگوهای مفید در دادهها با حداقل دخالت کاربران شناخته میشوند واطلاعاتی را در اختیار کاربران و تحلیل گران قرار میدهند تا براساس آن تصمیمات مهم و حیاتی در سازمانها اتخاذ شوند.
اصطلاح داده کاوی زمانی بکار برده میشود که با حجم بزرگی از دادهها، در حد مگا یا ترابایت، مواجه باشیم. در تمامی منابع داده کاوی بر این مطلب تأکید شده است. هرچه حجم دادهها بیشتر و روابط آنها پیچیده تر باشد دسترسی به اطلاعات نهفته در میان داده ها مشکل تر میشود و نقش داده کاوی بعنوان یکی از روش های کشف دانش، روشنتر میگردد.
داده کاوی بطور همزمان از چندین رشته علمی بهره میبرد نظیر: تکنولوژی پایگاه داده، هوش مصنوعی، یادگیری ماشین، شبکههای عصبی، آمار، الگو، سیستمهای مبتنی بر دانش ، حصول دانش ، بازیابی اطلاعات ، محاسبات سرعت بالا و بازنمایی بصری داده.
فهرست مطالب:
فهرست اشکال
فهرست جداول
فصل1: مقدمه ای بر داده کاوی
تعریف داده کاوی
2-1 تاریخچه داده کاوی
3-1 چه چیزی سبب پیدایش داده کاوی شده است؟
4-1 اجزای سیستم داده کاوی
5-1 جایگاه داده کاوی در میان علوم مختلف
6-1 قابلیتهای داده کاوی
چرا به داده کاوی نیاز داریم؟
8-1 داده کاوی چه کارهایی نمی تواند انجام دهد؟
9-1 کاربردهای داده کاوی
1-9-1 کاربردهای پیش بینی کننده
2-9-1 کاربردهای توصیف کننده
10-1 ابزارهای تجاری داده کاوی
11-1 داده کاوی و انبار داده ها
1-11-1 تعاریف انبار داده
2-11-1 چهار خصوصیت اصلی انبار داده
3-11-1 موارد تفاوت انبار داده و پایگاه داده
12-1 داده کاوی و
1-12-1 OLAP
2-12-1 انواع OLAP
13-1 مراحل فرایند کشف دانش از پایگاه داده ها
1-13-1 انبارش داده ها
2-13-1 انتخاب داده ها
3-13-1 پاکسازی- پیش پردازش- آماده سازی
4-13-1 تبدیل داده ها
5-13-1 کاوش در داده ها (Data Mining)
6-13-1 تفسیر نتیجه
فصل 2: قوانین ارتباطی
قوانین ارتباطی
2-2 اصول پایه
1-2-2 شرح مشکل جدی
2-2-2 پیمایش فضای جستجو
3-2-2 مشخص کردن درجه حمایت مجموعه اقلام
3-2 الگوریتمهای عمومی
1-3-2 دسته بندی
2-3-2 BFS و شمارش رویداد ها
3-3-2 BFS و دونیم سازی TID-list
4-3-2 DFS و شمارش رویداد
5-3-2 DFS و دو نیم سازی TID-list
4-2 الگوریتم Apriori
1-4-2 مفاهیم کلیدی
2-4-2 پیاده سازی الگوریتم Apriori
3-4-2 معایب Apriori و رفع آنها
5-2 الگوریتم رشد الگوی تکرارشونده
1-5-2 چرا رشد الگوی تکرار سریع است؟
6-2 مقایسه دو الگوریتم Apriori و FP-growth
تحلیل ارتباطات
فصل 3: وب کاوی و متن کاوی
وب کاوی
1-1-3 الگوریتمهای هیتس و لاگسام
2-1-3 کاوش الگوهای پیمایش مسیر
2-3 متن کاوی
1-2-3 کاربردهای متن کاوی
1-1-2-3 جستجو و بازیابی
2-1-2-3 گروه بندی و طبقه بندی
3-1-2-3 خلاصه سازی
4-1-2-3 روابط میان مفاهیم
5-1-2-3 یافتن و تحلیل گرایشات
6-1-2-3 برچسب زدن نحوی (pos)
7-1-2-3 ایجاد Thesaurus و آنتولوژی به صورت اتوماتیک
2-2-3 فرایند متن کاوی
3-2-3 روشهای متن کاوی
مراجع
فهرست اشکال:
مراحل فرایند کشف دانش
2-1 سیر تکاملی صنعت پایگاه داده
3-1 معماری یک نمونه سیستم داده کاوی
4-1 نرخ رشد اطلاعات
5-1 کاربرد پیش بینی کننده
6-1 داده ها از انبار داده ها استخراج می گردند
7-1 داده ها از از چند پایگاه داده استخراج می گردند
شبکهای برای
2-2 درخت
3-2 دسته بندی الگوریتمها
4-2 پایان الگوریتم Apriori
5-2 درخت الگوی تکرار
6-2 اندازه گیری کارکرد درجه حمایت برای پایگاه داده D1 40K
اندازه گیری Apriori با درجه حمایت/تراکنش
8-2 اندازه گیری FP-growth با درجه حمایت/تراکنش
مقداردهی اولیه الگوریتم HITS
2-3 مثالی از الگوهای پیمایش
3-3 فرایند متن کاوی
4-3 مثال یافتن روابط
فهرست جداول:
کاوش FP-tree با ایجاد پایگاه های الگوشرطی
2-2 پارامترها
3-2 نتایج برای فاکتور درجه حمایت 5%
4-2 نتایج برای D1 150K با درجه حمایت
تراکنش های توصیف شده توسط مجموعه ای از URLها
2-3 نمایش URLها به عنوان بردارهایی از فعالیت گروه تراکنش
3-3 یک SOM مرسوم که توسط توصیف URLها تولید شده است
منابع ومأخذ:
[1] داده کاوی (Data Mining)، تالیف مهمد کانتاردزیک، ترجمه امیر علیخانزاده، 1385، ویرایش اول
[2] Introduction to Data Mining and Knowledge Discovery، Two Crows Corporation، 1999
[3] Data Mining: Concepts and Techniques، M.Kamber and J.Han، 2001
[4] مقاله Algorithms for Association Rule Mining – A General Survey and comparison نوشته Jochen Hipp و Gholamreza Nakhaeizadeh ، در کنفرانس ACM SIGKDD July 2000
[5] مقاله Comparative Study of Association Rules Mining Algorithms نوشته Stefan Holban (http://www.bmf.hu/conferences/saci04/Gyorodi.pdf)
http://ece.ut.ac.ir/DBRG/seminars/Keykhah/Data Mining/Data mining.doc
http://ece.ut.ac.ir/DBRG/seminars/Ghadimi-Abbasi-Pashaei/Document/datamining_Introduction.doc
پروژه کامپیوتر با موضوع doc .Data Mining
