پردازش زبان طبیعیدست به کد

دست به کد: تحلیل احساسی نظرات کاربران درباره یک فیلم

در بخش اول از مجموعه مقالات آموزشی پردازش متن، با مفاهیم پایه متن کاوی و همچنین کتابخانه فارسی هضم برای کار با متون فارسی آشنا شدید. در ادامه این سری آموزشی با بررسی یکی از مسابقات پردازش متن سایت معروف کگل، به صورت عملی با جنبه های نوین این شاخه از علم داده و تحلیل احساسی نظرات کاربران درباره یک فیلم و تعیین مثبت و منفی بودن یک نظر  آشنا خواهیم شد. روش اصلی این کار هم ایجاد بردار عددی متناظر با هر نظر به کمک روش صندوقچه کلمات و ساخت یک مدل جنگل تصادفی براساس داده های برچسب خورده و اعمال این مدل بر روی نظرات جدید خواهد بود. البته، هدف از این مسابقه پردازش متن کگل، آشنایی عملی با مفهوم یادگیری عمیق از طریق به کارگیری الگوریتم Word2Vec گوگل و کاربرد آن در حوزه تحلیل احساسات بود که این نوشتار بخش اول ازین آموزش را شامل می شود و به تدریج سایر آموزش ها هم بر روی سایت قرار خواهد گرفت.

برای کار در حوزه پردازش زبان فارسی و تحلیل احساسات، از وب سایت متن کاوی فارسی‌یار و کارهای بزرگی که در این زمینه انجام داده‌اند حتما استفاده کنید. برای شروع نگاهی به مقالات و وبلاگ آنها بیندازید.

در نوشتار حاضر، مفاهیم پایه پردازش متن بخصوص مفهوم صندوقچه کلمات ( Bag of Words ) و کار با کتابخانه NLTK پایتون به صورت مقدماتی آموزش داده خواهد شد.

با توجه به خریداری شدن کگل توسط گوگل، برای باز شدن صفحات اصلی آموزش و داده ها نیاز به وی پی ان خواهید داشت و یا می‌توانید از سایت فارسی شکن و تنظیم دی ان اس های کارت شبکه خود بر روی آی پی های آن، استفاده کنید.

NLP چیست؟

NLP یا پردازش زبان طبیعی، مجموعه تکنیک هایی است که برای درک متون و استخراج اطلاعات مفید از آنها استفاده می شود. در این مقاله با بارگزاری و پاکسازی نظرات کاربران سایت سینمایی IMDB تا حدودی با این تکنیک ها آشنا خواهید شد. بعد از پاکسازی و پردازش اولیه نظرات کاربران، به کمک مدل صندوقچه کلمات (Bag of Words) هر نظر را به یک بردار عددی تبدیل می کنیم و سپس به کمک الگوریتم جنگل تصادفی، مدلی برای پیش بینی نظرات کاربران خواهیم ساخت و نهایتاً  پیش بینی خواهیم کرد که یک نظر کاربر، لایک محسوب می شود یا دیسلایک.

با اینکار می توانیم به صورت خودکار ، نظر کلی کاربران برای یک فیلم یا سریال را به دست آوریم. توضیح اینکه منظور از مدل در مباحث داده کاوی و یادگیری ماشین، ساخت الگوریتمی است که به کمک آن بتوان رفتار داده ها را پیش بینی کرد.

پیش از شروع کار

این آموزش بر مبنای زبان پایتون نوشته شده است. بنابراین اگر تابحال از پایتون استفاده نکرده اید، توصیه می شود از این بخش برای آشنایی با این ساختار استفاده کنید. در صورتی که با پایتون و تکنیک های NLP آشنایی دارید، این آموزش مناسب شما نخواهد بود.

توصیه می کنیم از توزیع پایتون آناکوندا استفاده کنید که تمام کتابخانه لازم و ضروری را داشته، کار با آن ساده است و نصب و به روزرسانی کتابخانه های آن هم به راحتی انجام می پذیرد. بعد از نصب آناکوندا، با بالاآوردن یک کتابچه IPython، کدهای زیر در سلول های کتابچه وارد کرده و در صورت نیاز، برای خودتان یادداشت برداری کنید. از طرفی می توانید از کتابچه های آنلاین مایکروسافت یا سایت خود کگل (بخش Scripts) هم استفاده کنید و همانجا کدها را نوشته و تست نمایید.

در طول این آموزش، ما از ماژول های مختلف پایتون برای پردازش متن، یادگیری عمیق، جنگل های تصادفی و سایر مفاهیم استفاده خواهیم کرد. فایل ها و کتاب های زیادی درباره ی NLP و پردازش متن و بخصوص کتابخانه اصلی پردازش متن در پایتون یعنی NLTK نوشته شده است. این آموزش نیز آموزش جامع پایتون یا  NLP نبوده و تنها به منظور کمک به یادگیری و ایجاد یک دید کلی درباره تکنیک های پردازش متن آماده شده است. کد این آموزش در اینجا قرار داده شده است.

خواندن داده ها

فایل های ضروری استفاده شده در آموزش را می توانید از این بخش دانلود کنید. اولین فایل مورد نیاز، فایل unlabeledTrainData.tsv است که شامل اطلاعات نظرات کاربران به تعداد ۲۵۰۰۰ تا برای فیلم های IMDB است که هر کدام دارای برچسب مثبت یا منفی برای نمایش احساسات کاربر می باشد. ( معمولاً برای ساختن یک مدل مناسب، داده های اولیه که در اینجا تعدادی از نظرات بازدید کنندگان سایت است، توسط کاربران انسانی بررسی و برچسب مثبت و منفی آنها تعیین می شود)

پس از آن باید فایل tsv (فایلی که داده های آن در هر سطر با تب tab از هم جدا شده اند) را درون برنامه پایتون خود باز کنیم. بنابراین اول یک فایل پایتون خالی درون پای چارم یا هر محیط ویرایشگر پایتون که می پسندید، باز کنید یا یک سلول جدید درون کتابچه پایتون خود ایجاد کنید و مطابق زیر، فایل فوق را باز کرده، محتوای آنرا در یک متغیر به نام train بارگزاری کنید.

برای انجام این عمل، ما از کتابخانه pandas استفاده می کنیم. این کتابخانه تابع read_csv را برای خواندن و نوشتن فایل های متنی داده ای ارائه می دهد. اگر شما پیش ازین از pandas استفاده نکرده اید نیاز به نصب آن خواهید داشت هر چند توزیع های معروف پایتون مثل Anaconda و Canopy به صورت خودکار این کتابخانه های اصلی را درون خود دارند:

Python

در اینجا، "header=0" بدین معناست که اولین خط (سطر شماره ۰) فایل شامل نام ستون هاست.  با استفاده از "delimiter=\t" تعیین می شود که جداکننده فیلدها تب ( tab ) می باشد.   عبارت quoting=3 بیان می کند که پایتون از دابل کوتیشن چشم پوشی کند،  در غیر اینصورت در تلاش برای خواندن فایل دچار مشکل شده و با خطا روبرو خواهد شد.

با اجرای دستور فوق، تمام داده های موجود در فایل، به صورت جدولی با ۲۵۰۰۰ سطر و سه ستون درون متغیر train قرار خواهند گرفت (یک ماتریس ۳*۲۵۰۰۰)

با استفاده از کد زیر می توان اطمینان حاصل کرد که ۲۵۰۰۰ سطر و سه ستون خوانده شده است:

Python

سه ستون با نام های id، (احساس یا حالت) sentiment و نظر داریم. به اولین نظر موجود در این جدول بارگزاری شده در حافظه با دستور print یک نگاه می اندازیم :

Python

یک نظر باید متنی شبیه به این باشد :

Plain Text

اطلاعات بالا، شامل تگ های اچ تی ام ال مانند <br/>، اختصارات، علائم نقطه گذاری و همه ی داده های اضافی و نامعتبریست که هنگام خواندن اطلاعات از وب سایتها پیش می آید. زمانی را برای مشاهده ی سایر نظرات هم اختصاص دهید تا با مشکلات و داده های نامعتبر بیشتر آشنا شوید. در بخش بعد به چگونگی تمیز کردن متن برای یادگیری ماشین می پردازیم.

پاکسازی داده و پردازش متن

حذف کدهای html به کمک کتابخانه BeautifulSoup

ابتدا به حذف تگ های اچ تی ام ال می پردازیم. به این منظور، از کتابخانه ی معروف BeautifulSoup که برای خواندن و پردازش اطلاعات وب سایتها نوشته شده است، استفاده خواهیم کرد. اگر قبلا این کتابخانه را نصب نکرده اید به نصب آن در خط فرمان سیستم خود به صورت زیر بپردازید (البته نصب کتابخانه ها را با هر روشی که می خواهید می توانید انجام دهید، مثلاً در پای چارم، باید به قسمت تنظیمات، بخش مفسرهای پایتون بروید و بعد از انتخاب مفسر پایتون مورد نظر، علامت + کنار آن را بزنید تا صفحه جستجو و نصب کتابخانه ها باز شود):

Shell

سپس داخل فایل پایتونی که ایجاد کرده اید آنرا بارگزاری کرده و برای استخراج متن خالص و بدون برچسب HtML، از آن به شکل زیر استفاده می کنیم:

Python

تابع ()get_text متن یک نظر را بدون تگ ها و نشانه گذاری های HTML به ما برمی گرداند. اگر نگاهی به مستندات BeautifulSoup  بیندازید، مشاهده خواهید کرد که این کتابخانه از آنچه برای این مجموعه داده نیاز دارید بسیار قوی تر است. با این حال به دلیل دردسرهای روشهای معمول حذف برچسب ها مثل استفاده از عبارات باقاعده ، حتی برای برنامه های ساده ای مانند مثال ما نیز بهترین روش استفاده از کتابخانه هایی استاندارد مانند BeautifulSoup است.

بررسی نقطه گذاری، اعداد و ایست واژه ها: عبارات منظم و NLTK

در زمان پاکسازی داده ها ما باید به ابتدا به هدف اصلی فرآیند پردازش متن فکر کنیم و بر اساس آن، راه حلی برای آن حذف اضافات در نظر بگیریم. برای بسیاری از موارد، حذف علائم نقطه گذاری جزء نیازهای ما خواهد بود چون ما اکثراً به خود متن و کلمات آن کار خواهیم داشت و علائم نقطه گذاری را جزء کلمات محسوب نمی کنیم. هر چند اگر بخواهیم به صورت دقیق تر و هوشمندتر به تحلیل احساسات کاربران بپردازیم، ممکن است این علائم نقطه گذاری هم در بیان نظر واقعی یک کاربر به ما کمک کنند : اگر علائمی مانند !!! یا : – ( به عنوان روشی برای بیان احساس، استفاده شده باشد، حذف آن، داده ای ارزشمند را از بین خواهد برد. در این آموزش برای سادگی، ما تمام نقطه گذاری ها را حذف می کنیم. اما برای دقت بیشتر مدلی که قصد ساخت آنرا داریم، می توانید از علائم نقطه گذاری هم استفاده کنید.

به طور مشابه، در این آموزش ما اعداد را هم حذف می کنیم، اما می توانیم روشهای دیگری هم برای کار با اعداد در متون به کار بریم مثلاً آنها را به معادل حرفی و غیر عددیشان تبدیل کنیم (مثلا به جای ۹۷ قرار دهیم نود و هفت) ویا تمام اعداد را با یک عبارت جایگزین مثل NUM جایگزین کنیم.

برای حدف نقاط و اعداد، ما از کتابخانه اصلی عبارات باقاعده در پایتون یعنی re استفاده می کنیم. این کتابخانه به صورت پیش فرض در پایتون وجود دارد و برای استفاده از آن نیاز به نصب چیزی نداریم. برای آگاهی از جزئیات نحوه ی کار با عبارات منظم به اینجا مراجعه نمایید. کد زیر را اجرا کنید:

Python

مرور کامل عبارات منظم از محدوده ی این آموزش فراتر است، اما در حال حاضر لازم است بدانید که [] برای فیلترگذاری روی کاراکترها و ^ بیانگر نفی یا not است. به عبارت دیگر، جمله ی re.sub() در کد بالا بیان می کند که “هر چیزی به غیر از حروف کوچک و بزرگ را بیاب و آن را با فضای خالی جایگزین کن”.

در مرحله بعد متن به دست آمده را به حروف کوچک تبدیل کرده و سپس کلمات آن را جداسازی می کنیم (بعبارتی tokenization در زبان NLP):

Python

در نهایت باید تعداد تکرار لغاتی که معنی خاصی ندارند را مشخص کنید. ایست واژه ها کلماتی هستند که با وجود تکرار فراوان در متن دارای اهمیت کمی از نظر معنایی می باشند. از جمله این کلمات در فارسی می توان به “اگر”، “و”، “ولی”، “که” و غیره اشاره کرد. در نگاه اول تصور بر این است که فقط کلمات ربط و تعریف، ایست واژه هستند ولی بسیاری از افعال، افعال کمکی، اسمها، قید ها و صفات نیز به عنوان ایست واژه شناخته شده اند. در انگلیسی لغاتی مانند a، and، is و the جزء ایست واژه ها می باشند. به راحتی می توان از یک پکیج پایتون که حاوی لیستی از ایست واژه ها باشد، برای حذف آنها از لیست کلمات یک نظر استفاده کرد. بیایید یک لیست از ایست واژه ها را از ابزار زبان طبیعی (Natural Language Toolkit) یا NLTK ایمپورت کنیم. چنانچه پیش از این کتابخانه ی مدنظر را نصب نکرده اید، ابتدا بایستی کتابخانه را نصب کرده و به شکل زیر پکیج های داده ی آن را نصب کنیم:

Python

حال می توانید برای به دست آوردن لیستی از ایست واژه ها از nltk استفاده نمایید.

Python

کد فوق به شما اجازه می دهد تا لیست ایست واژه ها در زبان انگلیسی را مشاهده کنید. برای حذف ایست واژه ها از نظرات کد زیر را می نویسیم:

Python

این کد، هر کلمه در ایست واژه ها را بررسی کرده و تمام تطبیق های یافت شده با اعضای این لیست را حذف می کند. بعد از این مراحل، نظر داده شده، باید به شکل زیر درآمده باشد:

Python

نگران علامت u قرار کرفته در هر لغت نباشید. این علامت تنها بیانگر نمایش داخلی هر کلمه به عنوان یک رشته ی یونیکد در پایتون است.

کارهای زیاد دیگری نیز وجود دارد که می توانیم آنها را بر روی داده اعمال کنیم. برای مثال، ریشه یابی لغوی پورتر ( Porter Stemming ) و ریشه یاب گرامری یا Lemmatizing (هردو در NLTK در دسترس اند) به ما اجازه می دهند تا کلمات با پسوند مشابه مانند messages ، messaging و message را تشخیص دهیم. Stemming فقط به خود کلمه نگاه می کند و مثلا “ها” یا “می” را از اول و آخر کلمه حذف می کند. اما Lemmatizing به بستر کلمه یعنی کلمات اطراف نیز حساس است و بنابراین برای اینکه شکل درست و اصلی یک کلمه را برگرداند، باید نوع کلمه را دقیق بداند. شناسایی این کلمات در موارد خاص می تواند مفید باشد. در این آموزش برای سهولت کار به این ویژگی ها پرداخته نخواهد شد.

اعمال همزمان همه ی کدها

حال به درج کد کاملی از پاکسازی یک نظر می پردازیم. توجه داشته باشید که شما باید این کد را جهت پاکسازی هر ۲۵۰۰۰ نظر موجود در داده های آموزشی اعمال کنید. برای اینکه کد ما قابل استفاده مجدد باشد. یک تابع ایجاد می کنیم که در هر زمان بتوان به فراخوانی آن پرداخت:

Python

دو کار جدید در این کد نهایی انجام شده است : اول اینکه ما لیست ایست واژه ها را به یک نوع داده ی متفاوت، یک مجموعه، تبدیل کردیم. این امر جهت تسریع کار انجام می شود. زمانی که ما دهها یا هزاران بار تابع را فراخوانی می کنیم، به سرعت بالایی نیاز داریم و جستجوی یک عنصر در یک مجموعه در پایتون، به مراتب سریعتر از جستجوی آن در یک لیست است.

دوم اینکه، در خط آخر تابع فوق، مجدداً کلمات به دست آمده را به هم دیگر میچسبانیم تا یک رشته واحد ایجاد شود. این موضوع، کار با یک نظر را ساده تر خواهد کرد همچنین خروجی و نمایش آن هم بهتر خواهد بود.

پس از تعریف تابع بالا، اگر شما این تابع را برای یک نظر فراخوانی کنید:

Python

همان خروجی مشابه با اجرای گام به گام مراحل بالا را خواهید دید.

حال این تابع را برای پاکسازی یک باره ی تمام مجموعه آموزشی می نویسیم (این عمل بسته به کامپیوتر شما ممکن است چندین دقیقه طول بکشد):

Python

گاهی اوقات انتظار برای اجرای این کد می تواند آزار دهنده باشد. این عمل که بتوان حالت اجرای پروسس را مشاهده نمود می تواند مفید باشد. برای اینکه پس از پردزش هر ۱۰۰۰ نظر، وضعیت فعلی روند پردازش، نمایش داده شود، می توان کد زیر را به کد قبل اضافه کرد:

Python

ایجاد بردار ویژگی برای هر نظر (با استفاده از scikit-learn)

حال که نظرات را در داده های آموزشی پاکسازی و مرتب کردیم، به چگونگی تبدیل آنها به نوع عددی برای یادگیری ماشین می پردازیم. یک روش معمول برای اینکار، روش صندوقچه ی کلمات (Bag of Words) است. مدل صندوقچه کلمات، ابتدا یک فرهنگ لغت (لیست تمام کلمات) از تمام فایلهای متنی موجود ایجاد می کند و سپس هر سند را با استفاده از شمارش تعداد دفعاتی که هر کلمه از این فرهنگ لغت در آن ظاهر شده است، مدلسازی می کند.

به عنوان مثال، دو جمله زیر زیر در نظر گرفته شده است:

جمله ی ۱: "The cat sat on the hat"

جمله ی ۲: "The dog ate the cat and the hat"

در این دو جمله فرهنگ لغت زیر را داریم:

{ the, cat, sat, on, hat, dog, ate, and }

برای بدست آوردن مدل صندوقچه ی کلمات مثال فوق، تعداد دفعاتی که هر کلمه در هر جمله تکرار شده است را می شماریم. در جمله ی ۱، کلمه ی the، دو بار ظاهر شده است و کلمات cat، sat ، on و hat هر کدام یکبار ظاهر شده اند. بنابراین بردار ویژگی ها برای جمله ۱ به صورت زیر است:

{ the, cat, sat, on, hat, dog, ate, and }

Sentence 1: { 2, 1, 1, 1, 1, 0, 0, 0 }

و به طور مشابه برای جمله ی ۲ خواهیم داشت:

{ ۱, ۱, ۱, ۱, ۰, ۰, ۱, ۳}

این برداری که برای مدلسازی یک جمله ایجاد کرده ایم، بردار ویژگی ما را تشکیل می دهد که یک کمیت عددی به ازای هر جمله است و می تواند ورودی بسیاری از الگوریتم های یادگیری ماشینی باشد که تنها اعداد را به عنوان ورودی قبول می کنند.

در داده های IMDB ما تعداد زیادی نظر داریم که باعث ایجاد فرهنگ لغت بزرگی خواهد شد. برای محدود کردن اندازه ی بردارهای ویژگی، می توانیم برای فرهنگ لغت خود اندازه ی ماکزیمم تعیین کنیم. در زیر ما از ۵۰۰۰ کلمه ی دارای تکرار بیشتر، برای ساخت فرهنگ لغت استفاده کرده ایم (بخاطر داشته باشید که ایست واژه ها حذف شده اند).

ما از ماژول feature_extraction در scikit-learn، برای ایجاد ویژگی های صندوقچه ی کلمات استفاده می کنیم. در صورتی که scikit-learn را نصب نکرده اید. ابتدا باید به نصب آن بپردازید (برای دریافت فایل اینجا را کلیک کنید).

Python

برای مشاهده ی ابعاد آرایه دو بعدی ایجاد شده از داده های آموزشی کد زیر را اجرا کنید:

Python

این ماتریس یا آرایه دوبعدی دارای ۲۵۰۰۰ سطر و ۵۰۰۰ ویژگی است یعنی به ازای هر نظر، یک آرایه ۵۰۰ تایی از میزان تکرار کلمات گلچین شده (۵۰۰ کلمه پرتکرار) ایجاد کرده ایم. توجه داشته باشید که CountVectorizer با استفاده از تنظیمات پیش فرض خود به طور خودکار عمل پیش پردازش، تفکیک کلمات ( (tokenization و حذف ایست واژه ها (برای هر یک با جایگزینی None) را انجام می دهد. ما می توانیم از این متد پیش ساخته یا از تابع مخصوص خود استفاده کنیم. برای جزئیات بیشتر مستندات تابع را ببینید. با این حال در این آموزش ما از تابع خودمان استفاده کردیم تا نحوه ی اجرای این عملیات را مرحله به مرحله مشاهده کنیم و امکان سفارشی سازی آن برایمان فراهم باشد.

حال که با مدل صندوقچه ی کلمات آشنا شدید بیایید به بررسی فرهنگ لغت بپردازیم:

Python

اگر بخواهید حتی می توانید تعداد موجود از هر کلمه در فرهنگ لغت را چاپ کنید:

Python

جنگل های تصادفی

تا اینجا به ازای هر نظر، یک بردار ویژگی عددی بر اساس مدل صندوقچه ی کلمات ایجاد کردیم. اگر به خاطر داشته باشید در مجموعه داده آموزشی ۲۵ هزارتایی ما، برچسب خوب یا بد هر نظر هم موجود است. بنابراین می توانیم از یکی از روشهای معمول دسته بندی استفاده کنیم و یک مدل اولیه برای پیش بینی دسته یا طبقه هر نظر (خوب یا بد) ایجاد کنیم که اینکار هم با کتابخانه معروف یادگیری ماشین پایتون یعنی scikit-learn   به راحتی انجام پذیر است. در اینجا ما قصد داریم از روش دسته بندی جنگل های تصادفی استفاده کنیم. در این روش، به ازای یک مجموعه داده آموزشی و برچسب های موجود، درختهای تصمیم گیری مختلفی (جنگلی از درختها) ساخته می شود و هنگام ورود یک داده جدید، هر درخت به صورت جداگانه تصمیم میگیرد که این داده به کدام دسته تعلق دارد و نهایتاً برد با دسته ایست که بیشترین آراء درختان را از آن خود کرده است. این الگوریتم تنظیمات مختلفی مانند زمان اجرا و تعداد درختان ایجاد شده و مانند آن دارد و یکی از بهترین روشهای دسته بندی در حوزه یادگیری ماشین است که البته این الگوریتم Random Forest در scikit-learn وجود دارد. در زیر، ما تعداد درختان را به طور پیش فرض بر روی مقدار مناسب، ۱۰۰ تنظیم می کنیم. درختان بیشتر ممکن است (شاید هم نباشد) عملکرد بهتری داشته باشند، اما مطمئناً زمان اجرای طولانی تری خواهند داشت. به همین ترتیب، درج ویژگی های بیشتر برای هر نظر نیز باعث طولانی تر شدن زمان اجرا می شود.

Python

تابع fit در این الگوریتم مشابه سایر الگوریتم های دسته بندی، دو پارامتر اصلی میگیرد : آرایه عددی حاوی ویژگی های داده و برچسب هر داده (دسته ای که به آن تعلق دارد) . بعد از ساخت یک جنگل تصادفی از داده های آموزشی،‌در مرحله بعد، کافیست از تابع transform آن استفاده کنیم تا مشخص شود به ازای یک داده ورودی، چه دسته بندی ای برای ما پیش بینی می شود.

آزمایش مدل ساخته شده و ارسال آن برای مسابقه

تنها کاری که باقی مانده، اجرای جنگل های تصادفی بر روی مجموعه آزمایشی و ایجاد یک فایل پاسخ (submission) است. اگر تا کنون اینکار را نکرده اید. هم اینک فایل testData.tsv را از اینجا دانلود نمایید. این فایل حاوی ۲۵۰۰۰ نظر و شناسه است. وظیفه ی ما پیش بینی برچسب احساسات این نظرات است.
توجه کنید زمانی که ما برای مجموعه ی آزمایشی از صندوقچه ی کلمات استفاده می کنیم، برخلاف داده های آموزشی که از fit_transform استفاده کردیم؛ در اینجا تنها transform را فراخوانی می کنیم. یادتان باشد که در یادگیری ماشین، از مجموعه ی آزمایشی برای ساخت مدل هیچگاه استفاده نکنید و تنها به داده های آموزشی بسنده کنید. در غیر اینصورت، شما برنامه را در معرض خطر بیش برازش (overfitting) قرار داده اید.

Python

حال شما برای ساخت اولین submission یا ارسال پاسخ خود در مسابقه پردازش متن کگل آماده اید. شما می توانید هر یک از تنظیمات و تعیین پارامترهایی را که در این مثال انجام دادیم، به دلخواه تغییر دهید مثلاً به روش دیگری نظرات را پاکسازی کنید، عدد متفاوتی را برای فرهنگ لغت مربوط به صندوقچه ی کلمات انتخاب کنید، ریشه یابی پورتر را اعمال کنید، الگوریتم دسته بندی ای غیر از جنگل تصادفی یا هر عملیات دیگری را امتحان کنید.

اکنون شما یک کار پردازش متن و یادگیری ماشین خلاصه و جمع و جوری را به کمک کتابخانه های آماده پایتون به راحتی انجام داده اید . با ما همراه باشید …..

پی نوشت :

برای سنجش احساس در حوزه متون فارسی می توانید از این مقالات هم استفاده کنید.

امتیاز کاربران: ۴٫۵ ( ۲ رای)
برچسب ها
مشاهده بیشتر

نوشته های مشابه

۱۴ دیدگاه

  1. سلام
    ممنون سایت خوبتون
    آیا دیتاست فارسی برای تحلیل احساسات هم وجود داره؟

  2. بسیار عالی بود ، ممنونم از آموزش خوبتون که در زمینه تحلیل احساسات هست . امیدوارم کارتون ادامه دار باشد .

  3. سلام.

    میخواستم از زحماتتون تشکر کنم، واقعا کار ارزشمندی انجام میدین. چند وقتی هست مطالب سایت شما استفاده میکنم، واقعا استفاده کردم. ان شالله کارتون ادامه دار باشه…

    با تشکر

  4. سلام خسته نباشید سوالی دارم که اگه جواب بدید ممنون میشم
    من یکسری توئیت دارم برای آنالیز احساس، از هیچکدوم از روش هایی که برای متن کاوی وجود دارد (Ngram ها، one hot coding و word embedding) برای کد کردن جملات استفاده نکردم. در عوض از چند ویژگی مثل تعداد کلمات، شکلک ها و میانگین طول کلمات استفاده کردم و دقت خوبی هم گرفتم. آیا این کار مشکلی دارد؟

  5. با عرض سلام و وقت بخیرآیا کتابخانه Scikit Learn و کتابخانه های مشابه دیگر مانند sklearn.multiclass برای داده های فارسی نیز کاربرد دارند؟نمونه فایل آموزشی برای استفاده از این کتابخانه ها، موجود می باشد؟خیلی ممنون می شوم بنده را راهنمائی نمائید.با تشکر

    1. منظورتون از داده های فارسی احتمالا متون فارسی هست که برای کارها و الگوریتم های پایه ای یادگیری ماشین با سایکیت لرن مشکلی با فارسی نخواهید داشت و برای پردازش متن هم بهتر است از کتابخانه های خاص این حوزه استفاده کنید.

  6. با عرض سلام
    سوال دیگه ای هم داشتم از خدمت شما.
    در یک فایل csv، تعدادی متن نظرات نوشته شده است که این متنها دارای کاما(,) می باشند. با توجه به اینکه در فایل csv بطور پیش فرض عبارات را براساس کاما جدا می کند، قصد دارم که از کوتیشن برای جداسازی ستونها استفاده کنم اما با خطای زیر مواجه می شوم:
    df = pd.read_csv(“train2.csv”, encoding = “ISO-8859-1”,sep=’,’, quotechar='”‘, error_bad_lines=False)df_toxic = df.drop([‘id’, ‘comment_text’], axis=1)
    ————
    error:   KeyError: “[‘id’ ‘comment_text’] not found in axis”
    دو سطر نمونه از فایل csv نیز بصورت زیر ذخیره شده است:
     

    id,”comment_text”,”toxic”,”severe_toxic”,”obscene”,”threat”,”insult”,”identity_hate”

    ۰۰۰۰۹۹۷۹۳۲d777bf,”Explanation Why the edits made under my username Hardcore Metallica Fan were reverted? They weren’t vandalisms. just closure on some GAs after I voted at New York Dolls FAC. And please don’t remove the template from the talk page since I’m retired now.89.205.38.27″,”0″,”0″,”0″,”0″,”0″,”0″
    لطفا بنده را راهنمایی نمائید که چکاری برای رفع خطای آن باید انجام دهم؟
    با تشکر

     

    1. از مثالی که ارسال کرده اید برمی آید که داده ها با کاما از هم جدا شده اند و فقط متن‌ها را داخل کوتیشن گذاشته اید. بنابراین با همان روش معمول داده ها را بارگذاری کنید و هر جا نیاز به مثلا داده‌های عددی داشتید از توابع مربوطه استفاده کنید.

    1. حق باشماست اما مقالات فارسی زمان بسیار زیادی از تیم مهندسی داده میگیرد چون هم داده‌های مناسب باید انتخاب و آماده سازی شود و هم کدهای مربوطه ، تست و بازنویسی شود و هم مقاله نهایی آماده شود.

پاسخی بگذارید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

این سایت از اکیسمت برای کاهش هرزنامه استفاده می کند. بیاموزید که چگونه اطلاعات دیدگاه های شما پردازش می‌شوند.

دکمه بازگشت به بالا
بستن
بستن