Програмний модуль для виявлення образливих слів та ненависті в текстових повідомленнях

Abstract

Метою роботи є створення ефективного інструменту для автоматичного аналізу текстових даних з метою ідентифікації образливого контенту та висловлювань, що розпалюють ненависть. У ході дослідження проведено аналіз існуючих методів і підходів до розпізнавання образливих слів і ненависних висловлювань, зокрема методів обробки природної мови (NLP) та алгоритмів машинног онавчання. На основі цього аналізу були визначені вимоги до програмного модуля та розроблена його архітектура. Основний код модуля реалізовано з використанням сучасних технологій та інструментів програмування. Розроблений модуль інтегровано з іншими системами, що дозволяє його використання в різних середовищах, таких як соціальні мережі та форуми. Для забезпечення зручності використання модуля створено інтуїтивно зрозумілий інтерфейс користувача. Модуль пройшов тестування, результати якого підтвердили його ефективність увиявленні образливих слів та ненависті втекстах. Результати дослідження можуть бути корисними для розробників програмного забезпечення, спеціалістів з інформаційної безпеки.