TDC : Text Document Clustring

معیارهای ارزیابی

در این بخش، به معرفی برخی از روش‌های ارزیابی دقت که در مقالات مختلف ارائه شده است، خواهیم پرداخت.

جدول ابتدایی 

 

ادامه مطلب

معیارهای ارزیابی

معیارهای ارزیابی

دقت و بازیابی دو معیار مهمی هستند که در ارزیابی عملکرد مدل پیشنهادی استفاده کردیم. دقت و بازیابی بصورت معادله(4-1) و (4-2) تعریف می­شوند .

معادله(4-1)، نرخ تشخیص را نشان می­دهد و در واقع نسبت تشخیص درست موارد بازیابی به کل موارد تصاویر را نشان می‌دهد. این شاخص می‌تواند کارایی مدل پیشنهادی در تشخیص تعداد موارد بازیابی را بر اساس درصد بیان کند. معادله(4-2)، نسبت موارد صحیح نمونه­ها به تعداد موارد کل تصاویر مرتبط در دیتاست را بیان می­کند.

پارامتر TN بیانگر تعداد نمونه­هایی است که دسته واقعی آن‌ها منفی بوده و الگوریتم تشخیص دهنده نیز دسته آن‌ها را به ‌درستی منفی تشخیص داده است.TP بیانگر تعداد نمونه­هایی است که دسته واقعی آن‌ها مثبت بوده و الگوریتم تشخیص دهنده نیز دسته آن‌ها را به ‌درستی مثبت تشخیص داده است.FP بیانگر تعداد نمونه­هایی است که دسته واقعی آن‌ها منفی بوده و الگوریتم تشخیص دهنده دسته آن‌ها را به ‌اشتباه مثبت تشخیص داده است.FN بیانگر تعداد نمونه­هایی است که دسته واقعی آن‌ها مثبت بوده و الگوریتم تشخیص دهنده دسته آن‌ها را به ‌اشتباه منفی تشخیص داده است. معیار Precision شامل پارامترهای TP و FP است. در این معیار نمونه­های نادرست مثبت هم به عنوان مثبت درست در دقت تشخیص تاثیرگذار هستند. معیار Recall شامل پارامترهای TP و FN است. در این معیار نمونه­های نادرست منفی هم در دقت تاثیرگذار هستند. معیار F-Measure به منظور ارزیابی کلی معیارهای Precision و Recall استفاده می­شود. و معیار Accuracy معیار اصلی برای دقت تشخیص است.

مقایسه عملکرد الگوریتم K-Means و K-Means ++

الگوریتم K-Means

خوشه­بندی که به آن یادگیری بدون ناظر نیز گفته می­شود تعداد خوشه­ها در آن مشخص نیست. خوشه­بندی در واقع یک عملیات غیرنظارتی می­باشد. این عملیات هنگامی استفاده می­شود که ما به دنبال یافتن گروه­هایی از داده­های مشابه می­باشیم بدون اینکه از قبل یک پیش­بینی در مورد شباهت­های موجود داشته باشیم. هر خوشه شامل مجموعه­ای از اشیاء داده­ای است که به هم شبیه هستند اما با اشیاء خارج از آن متفاوت می­باشند. یکی از روش‌های معروف در زمینه خوشه­بندی، الگوریتم K-Means می‌باشد [5]. الگوریتم K-Means علی‌رغم آنکه ساده است یک روش پایه برای بسیاری از روش‌های خوشه‌بندی محسوب می‌شود. برای این الگوریتم شکل­های مختلفی بیان شده است. ولی همه آنها دارای روالی تکراری هستند که برای تعدادی ثابت از خوشه‌ها سعی در تخمین موارد زیر دارند [5]:

·       بدست آوردن نقاطی به عنوان مراکز خوشه‌ها. این نقاط در واقع همان میانگین نقاط متعلق به هر خوشه هستند.

·       نسبت دادن هر نمونه داده به یک خوشه که آن داده کمترین فاصله تا مرکز آن خوشه را دارا باشد.

الگوریتم K-Means ابتدا K عضو(که K تعداد خوشه­ها است) را به صورت تصادفی از میان N عضو انتخاب می­نماید و آنها را به عنوان مراکز خوشه­ها در نظر می­گیرد. سپس N-K عضو باقیمانده به نزدیکترین خوشه تخصیص می­یابند. بعد از تخصیص همه اعضا مجدداً مراکز خوشه­ها محاسبه شده و اعضا با توجه به میزان نزدیکی (شباهت) به یکی از خوشه‌ها تخصیص می­یابند و این کار تا زمانی که مراکز خوشه­ها ثابت بمانند، ادامه می­یابد. با تکرار همین روال می‌توان در هر تکرار با میانگین‌گیری از داده‌ها مراکز جدیدی برای آنها محاسبه کرد و مجدداً داده‌ها را به خوشه‌های جدید نسبت داد.

الگوریتم  K-Meansیکی از روش­های رایج خوشه­بندی می­باشد که علیرغم مزایای بسیار از جمله سرعت بالا و سهولت پیاده­سازی، در دام بهینه محلی قرار نمی­گیرد و می­تواند جواب بهینه برای مسئه مورد نظر را تولید ذنماید. تابع هدف در الگوریتم K-Means طبق معادله(2-3) تعریف شده است.

 
 
ادامه مطلب

TFIDF چیست ؟

روش TF-IDF : در این روش میزان تکرار یک کلمه در یک مستند را در مقابل تعداد تکرا آن در مجموعه کلیه مستندات در نظر می گیریم.

در روش TF-IDF وزن دهی کلمات تابعی از توزیع کلمات مختلف در مستندات است.

برای پیاده سازی این روش ابتدا یک مجموعه اسناد (برای مثال مجموعه اسناد همشهری) را در نظر می گیریم. به ازای تمام کلماتی که در پیکره وجود دارد ، بررسی می کنیم که هر کلمه در چه تعداد از سندها تکرار شده است و آن را ذخیره می کنیم .

سپس یک سند به عنوان ورودی دریافت می شود. هدف یافتن کلمات کلیدیِ سند دریافت شده است.
برای این منظور ابتدا بررسی می کنیم که هر یک از کلمات سند ورودی ، چند بار در همان سند استفاده شده است.
سپس به ازای تمام کلمات سند ورودی بررسی می کنیم که هر کلمه در چه تعداد از اسناد پیکره اصلی (برای مثال همشهری) وجود دارد.

 
ادامه مطلب

مفهوم خوشه بندی متن

خوشه‌بندی به فرآیند تبدیل حجم عظیمی از داده‌ها به گروه‌های داده‌ای مشابه گفته می‌شود. به همین صورت خوشه‌بندی متون عبارت است از تبدیل حجم عظیمی از اسناد متنی به گروه‌هایی از متن‌های مشابه؛ که به هر کدام از این گروه‌ها یک خوشه گفته می‌شود. پس مسئله خوشه‌بندی اسناد متنی را می‌توان به صورت ساده‌تر، مسئله پیدا کردن اسناد مشابه و قرار دادن آن‌ها کنار هم تعریف کرد.

برای خوشه‌بندی اسناد متنی روش‌های متنوعی وجود دارد که در این پژوهش انتظار می‌رود روش‌های متداول برای خوشه‌بندی معرفی شده و یکی از آن‌ها برای خوشه‌بندی متون فارسی پیاده‌سازی شود.

  
ادامه مطلب
1 2 >>