Детектор кибербуллинга — демо

Демо гибридной модели CustomBERTCNNAttentionModel (BERT + Multihead Self-Attention + CNN) для автоматического обнаружения кибербуллинга в текстах социальных сетей. Модель разработана в рамках научного проекта ИРН AP23488900 «Автоматическое обнаружение кибербуллинга среди молодежи в социальных сетях с использованием искусственного интеллекта».

• Онлайн-демо: https://iuth-cyberbullying.kz (GitHub Pages, домен на hoster.kz)
• Сервер с моделью: https://huggingface.co/spaces/daniyar51/cyberbullying-detector (Hugging Face Spaces, Docker)

Модель обучена на англоязычном наборе cyberbullying_tweets.csv (44 255 текстов, 6 классов). На тестовой выборке: точность 89,6 % по шести классам, F1 «кибербуллинг / нет» 95,5 %. Тексты на казахском и русском языках эта версия модели не распознает.

Возможности страницы

• Вероятность кибербуллинга и вероятности по шести классам (возраст, этническая принадлежность, пол, религия, прочий кибербуллинг, не кибербуллинг)
• Карта влияния слов: насколько каждое слово повышает или понижает оценку (сравнение вероятности с этим словом и без него)
• Пересчет оценки без выбранных слов: нажатие на слово убирает его из текста

Устройство

Путь	Назначение
index.html	Интерфейс, публикуется через GitHub Pages. Адрес сервера задается в <meta name="api-base">
space/	Сервер на FastAPI с моделью, разворачивается на Hugging Face Spaces (Docker)
space/model_cyberbullying.py	Архитектура модели: BERT → Multihead Self-Attention → 2 × Conv1D → Max Pooling → Linear
space/preprocessing.py	Очистка текста и токенизация
space/classifier_local.py	Загрузка весов, классификация и расчет влияния слов
space/checkpoints/	Классы, метрики и параметры обучения; веса model.pt (448 МБ) хранятся только в Space

API

• GET /api/status — состояние модели и сведения об обучении
• POST /api/predict с телом {"text": "...", "explain": true} — вероятность кибербуллинга, вероятности по классам и влияние каждого слова (explain: false — без расчета влияния)

Локальный запуск

cd space
docker build -t cyberbullying-space .
docker run -p 7860:7860 cyberbullying-space

Интерфейс откроется на http://localhost:7860. Для запуска нужен файл весов space/checkpoints/model.pt.