Машинное обучение для определения тональности и классификации текстов на несколько классов

<h1>Аннотация</h1><p>В данной работе исследуются два подхода к задаче определения тональности текста: подход, основанный на методах машинного обучения и подход, основанный на использовании словарей тональной лексики. Описан и реализован метод для автоматического извлечения из текста слов, несущих эмоциональную оценку. Описан и реализован метод последующей классификации текстов на основе полученного словаря тональностей.</p><p>Для некоторых стандартных методов машинного обучения (таких метод наивной байесовской классификации, метод опорных векторов, Random Forest) предложено использовать слова из полученного словаря тональности в качестве признаков классификации.</p><p>Методы протестированы на реальных данных &ndash; отзывах пользователей Интернет-ресурса imhonet.ru по трем предметным областям: книги, фильмы, камеры. Данные были представлены на Российском семинаре по оценке методов информационного поиска (РОМИП).</p><p>Экспериментально выявлен оптимальный размер автоматически конструируемого словаря тональности, основываясь на сентимент-величине, согласно которой ранжируются слова в словаре. В ходе экспериментов выявлено оптимальное значение сентимент величины, по которой производится отсечение части словаря тональности. Это позволяет исключить из рассмотрения часть словаря с низкой концентрацией оценочных слов.</p><p>В работе представлены эксперименты, направленные на то, чтобы сравнить качество построения словарей тональности для различных предметных областей и различных наборов входных данных.</p><p>Для методов машинного обучения помимо показателей качества (такие как Accuracy, Macro_Precision, Macro_Recall) для каждого метода в отдельности подсчитаны также средние величины, что позволяет провести сравнение методов машинного обучения с методами, использующими словари тональности.</p><p>Также проведены эксперименты, на основе которых возможно сравнить методы машинного обучения, работающие со словами из полученного словаря как с критериями сортировки, с методом подсчета агрегированной сентимент-величины текста на основе слов, входящих в данный текст и принадлежащих словарю тональности. Сравнения проводились как для средних показателей качества, полученных при тестировании методов машинного обучения, так и для отдельного сравнения методов друг с другом.</p><p style="margin-left:35.4pt;">&nbsp;</p><p style="margin-left:35.4pt;"><strong>Ключевые слова</strong>: Анализ данных, машинное обучение, анализ тональности, словарь тональности, SVM, Random Forest, Naive Bayes.&nbsp;</p>