Детектор кибербуллинга — демо
Демо гибридной модели CustomBERTCNNAttentionModel (BERT + Multihead Self-Attention + CNN) для автоматического обнаружения кибербуллинга в текстах социальных сетей. Модель разработана в рамках научного проекта ИРН AP23488900 «Автоматическое обнаружение кибербуллинга среди молодежи в социальных сетях с использованием искусственного интеллекта».
Модель обучена на англоязычном наборе cyberbullying_tweets.csv (44 255 текстов, 6 классов). На тестовой выборке: точность 89,6 % по шести классам, F1 «кибербуллинг / нет» 95,5 %. Тексты на казахском и русском языках эта версия модели не распознает.
Возможности страницы
- Вероятность кибербуллинга и вероятности по шести классам (возраст, этническая принадлежность, пол, религия, прочий кибербуллинг, не кибербуллинг)
- Карта влияния слов: насколько каждое слово повышает или понижает оценку (сравнение вероятности с этим словом и без него)
- Пересчет оценки без выбранных слов: нажатие на слово убирает его из текста
Устройство
| Путь | Назначение |
|---|
index.html | Интерфейс, публикуется через GitHub Pages. Адрес сервера задается в <meta name="api-base"> |
space/ | Сервер на FastAPI с моделью, разворачивается на Hugging Face Spaces (Docker) |
space/model_cyberbullying.py | Архитектура модели: BERT → Multihead Self-Attention → 2 × Conv1D → Max Pooling → Linear |
space/preprocessing.py | Очистка текста и токенизация |
space/classifier_local.py | Загрузка весов, классификация и расчет влияния слов |
space/checkpoints/ | Классы, метрики и параметры обучения; веса model.pt (448 МБ) хранятся только в Space |
API
GET /api/status — состояние модели и сведения об обученииPOST /api/predict с телом {"text": "...", "explain": true} — вероятность кибербуллинга, вероятности по классам и влияние каждого слова (explain: false — без расчета влияния)
Локальный запуск
cd space
docker build -t cyberbullying-space .
docker run -p 7860:7860 cyberbullying-space
Интерфейс откроется на http://localhost:7860. Для запуска нужен файл весов space/checkpoints/model.pt.
