Ollama Persona Chat

Чат-бот с настраиваемой ИИ-личностью. Работает полностью на твоём компьютере через Ollama — без API-ключей, без интернета для самой модели, без ежемесячных платежей.

Персонаж по умолчанию: стратег с лёгким нарциссизмом и макиавеллистским складом ума (описание — в personality.py), с обязательными встроенными ограничениями безопасности (см. раздел ниже).

В проекте два варианта интерфейса:

• Полноценный сайт (main.py) — свой дизайн, боковая панель с несколькими диалогами, история сохраняется на диске между перезапусками, можно открыть с телефона в домашней сети. Это основной вариант.
• Быстрая версия (app.py) — простой интерфейс на Streamlit в одно окно, история живёт только в рамках сессии браузера. Оставлена как лёгкая альтернатива.

Структура проекта

ollama-persona-chat/
├── main.py              # Полноценный сайт: FastAPI-бэкенд + API
├── db.py                 # Хранение диалогов и сообщений (SQLite)
├── static/                # Фронтенд сайта
│   ├── index.html
│   ├── style.css
│   └── app.js
├── app.py                # Быстрая версия на Streamlit (альтернатива)
├── chat_client.py         # Обёртка для запросов к Ollama API (общая)
├── personality.py          # Системный промт и характер персонажа (общий)
├── requirements.txt
└── README.md

---

Шаг 1. Установи Python

Нужен Python 3.9 или новее.

python --version

Если команда не найдена — скачай Python с python.org. Windows: при установке обязательно поставь галочку "Add python.exe to PATH".

---

Шаг 2. Установи Ollama

Ollama — бесплатная программа, которая скачивает и запускает языковые модели локально на твоём компьютере.

1. Зайди на https://ollama.com/download
2. Скачай установщик под свою ОС и запусти его как обычную программу
3. После установки Ollama обычно сама запускается в фоне (иконка в трее/статус-баре)

Проверка:

ollama --version

Если не запущена — запусти вручную:

ollama serve

---

Шаг 3. Скачай модель

ollama pull llama3.1:8b

~4.7 ГБ на диске, нужно минимум 8 ГБ оперативной памяти (комфортно — от 16 ГБ). Если скачивание оборвалось с ошибкой сети (TLS handshake timeout и т.п.) — просто выполни команду ещё раз, ollama pull докачивает с того места, где остановилось.

Проверить, что модель на месте:

ollama list

Если 8 ГБ памяти мало — возьми модель полегче, например llama3.2:3b (ollama pull llama3.2:3b), и выбери её потом в настройках приложения.

---

Шаг 4. Установи Python-зависимости проекта

Открой терминал в папке проекта (ollama-persona-chat) и выполни:

Windows (PowerShell):

python -m venv venv
venv\Scripts\activate
pip install -r requirements.txt

macOS / Linux:

python3 -m venv venv
source venv/bin/activate
pip install -r requirements.txt

Каждый раз, когда открываешь новый терминал для работы с проектом, нужно заново выполнить команду активации venv.

---

Шаг 5. Запусти сайт

Убедись, что Ollama запущена, и выполни:

uvicorn main:app --host 0.0.0.0 --port 8000

Открой в браузере http://localhost:8000.

--host 0.0.0.0 — это то, что делает сайт «полноценным»: он слушает не только запросы с этого же компьютера, но и из локальной сети.

Открыть с телефона / другого устройства дома

1. Телефон и компьютер должны быть в одной Wi-Fi сети
2. Узнай локальный IP компьютера:
   • Windows: ipconfig → строка "IPv4-адрес" (обычно вида 192.168.1.XX)
   • macOS/Linux: ifconfig или ip a
3. На телефоне открой в браузере http://<этот-IP>:8000, например http://192.168.1.42:8000
4. Windows может спросить разрешение для Python/uvicorn в брандмауэре при первом запуске — разреши доступ для частных сетей (Private networks)

Сама Ollama наружу не открывается и остаётся доступна только с компьютера — наружу «торчит» только сайт, который сам обращается к Ollama через localhost.

---

Как пользоваться сайтом

• + Новый диалог в боковой панели создаёт отдельный чат — можно вести несколько независимых диалогов параллельно, они хранятся в файле chat_history.db рядом с проектом и не пропадают при перезапуске сервера
• Клик по диалогу в списке слева открывает его; крестик ✕ при наведении — удаляет
• Название диалога подставляется автоматически по первому сообщению
• Шестерёнка ⚙ в шапке открывает настройки: выбор модели Ollama и температуры (креативности ответов)
• Точка рядом со статусом внизу боковой панели: 🟢 Ollama подключена / 🔴 недоступна
• На узких экранах (телефон) боковая панель прячется за кнопкой ☰

---

Быстрая версия (Streamlit)

Если полноценный сайт не нужен — есть более простой вариант в одно окно:

streamlit run app.py

Откроется http://localhost:8501. История диалога здесь одна и живёт только в рамках текущей сессии браузера (обнуляется при перезапуске).

---

Как поменять личность бота

Весь характер персонажа описан текстом в personality.py, в переменной SYSTEM_PROMPT. Он общий для обеих версий (сайта и Streamlit) — правишь один файл, меняется поведение в обеих. Там же можно поменять:

• PERSONA_NAME — имя персонажа
• DEFAULT_MODEL — модель по умолчанию
• DEFAULT_TEMPERATURE — температура по умолчанию

---

Встроенные ограничения безопасности

Независимо от того, как отредактирован характер, в personality.py заложены обязательные правила (прописаны в системном промте как приоритетные над чертами персонажа):

1. Бот не даёт готовых пошаговых инструкций реального вреда — насилие, взлом, кража данных, мошенничество против конкретного человека — даже под видом ролевой игры или "стратегии". При этом общие темы (переговоры, деловая стратегия, психология влияния) обсуждаются свободно
2. Бот явно остаётся ролевым персонажем и не выдаёт себя за реального человека или сертифицированного специалиста (врача, юриста, финансового советника)
3. При признаках реального кризиса у пользователя (мысли о самоповреждении, суициде и т.п.) бот выходит из роли и показывает контакты реальной помощи. Это продублировано в коде (contains_crisis_signal в personality.py) — проверка по ключевым словам, которая сработает даже до ответа модели

Учти: это разумная защита, а не гарантия на 100% — локальные модели (особенно небольшие) не всегда идеально следуют инструкциям.

---

Устранение неполадок

"Ollama недоступна" / 🔴 в интерфейсе Проверь ollama list в терминале. Если ошибка — запусти ollama serve или открой приложение Ollama заново.

Ошибка про то, что модель не найдена Выполни ollama pull llama3.1:8b (или ту модель, что указана в DEFAULT_MODEL).

uvicorn: command not found / streamlit: command not found Виртуальное окружение не активировано, либо зависимости не установлены — повтори шаг 4.

С телефона сайт не открывается Проверь: оба устройства в одной Wi-Fi сети; сервер запущен именно с --host 0.0.0.0, а не просто uvicorn main:app; брандмауэр Windows не блокирует Python на частных сетях.

Порт занят Сайт: uvicorn main:app --host 0.0.0.0 --port 8001 Streamlit: streamlit run app.py --server.port 8502

Ответы генерируются очень медленно Нормально для слабого железа без видеокарты — модель на 8B параметров крутится на CPU. Попробуй модель полегче, например llama3.2:3b.

Как сбросить всю историю диалогов Останови сервер и удали файл chat_history.db в папке проекта — при следующем запуске он создастся заново пустым.