Skip to content

Latest commit

 

History

History
153 lines (118 loc) · 4.11 KB

README.MD

File metadata and controls

153 lines (118 loc) · 4.11 KB

Chatbot Tutorial

Benvenuti nel tutorial del progetto Chatbot. Questo progetto fornisce un assistente virtuale avanzato in grado di rispondere a domande, elaborare input e interagire con l'utente in modo dinamico. Utilizza un'architettura basata su Python e Docker per massimizzare flessibilità e facilità di utilizzo.

Prerequisiti

Assicurati di avere installato i seguenti strumenti:

  • Python 3.12 o versione successiva
  • pip (Python package installer)
  • Docker e Docker Compose (opzionale, per eseguire il progetto in container)

Installazione

  1. Clona il repository nella tua directory locale: 
    git clone https://github.com/CcEnrico/chatbot_langchain
  2. Naviga nella directory del progetto: 
    cd chatbot
  3. (Opzionale) Crea un ambiente virtuale per isolare le dipendenze: 
    python -m venv venv
source venv/bin/activate
  4. Installa le dipendenze richieste: 
    pip install -r requirements.txt

Configurazione

Crea un file .env nella directory principale del progetto per configurare le variabili d'ambiente necessarie. Ecco un esempio di .env:

TOKENIZERS_PARALLELISM=false
LANGCHAIN_TRACING_V2=true
LANGCHAIN_API_KEY=your_langchain_api_key
OPENAI_API_KEY=your_openai_api_key

Queste variabili sono essenziali per l'esecuzione corretta dei server LLM e RAG.

Esecuzione con Docker

Per eseguire il progetto con Docker e Docker Compose:

  1. Costruisci e avvia i container: 
    docker-compose up --build
  2. I servizi saranno accessibili:
    • LLM Server: http://localhost:5002
    • RAG Server: http://localhost:5001

Note

Configurazione dell'Endpoint

Quando si interagisce con il server RAG, è importante configurare correttamente l'endpoint a seconda dell'ambiente in cui si sta eseguendo il server(modificare file llm_server.py):

  • Se stai eseguendo il server in locale:

    response = requests.post(
    'http://localhost:5001/similarity_search',
    json={"query": [state["messages"][-1].content]}
)

  • Se stai eseguendo il server in un container Docker:

    response = requests.post(
    'http://rag_server:5001/similarity_search',
    json={"query": [state["messages"][-1].content]}
)

Fermare e Riavviare i Container

  • Per fermare i container: 
    docker-compose down
  • Per avviare tutti i container: 
    docker-compose up
  • Per riavviare tutti i container: 
    docker-compose restart
  • Per riavviare un container specifico (es. llm_server): 
    docker-compose restart llm_server

Accedere ai Container

Per accedere alla shell di un container (es. llm_server):

docker exec -it llm_server /bin/bash

Oppure, per il container rag_server:

docker exec -it rag_server /bin/bash

Una volta dentro il container, puoi esplorare il file system, eseguire script o eseguire comandi di debug.

Esecuzione senza Docker

Se preferisci eseguire il progetto senza Docker:

  1. Vai nella directory src: 
    cd src
  2. Avvia il server RAG: 
    python RAG_server.py
  3. In un altro terminale, vai nella directory src e avvia il server LLM: 
    python LLM_server.py

Utilizzo

Interazione con il Chatbot

Una volta avviati i server, il chatbot sarà pronto per interagire. Puoi inviare domande e ottenere risposte in base alla logica programmata.

Caricamento Documenti con RAG

Per aggiungere documenti al database RAG, utilizza il seguente comando dalla directory principale del progetto(bisogna mettere i documenti nella cartella data e modificare il file doc_loader.py e poi eseguire):

python doc_loader.py

Interazione con il Database

Per salvare o caricare lo stato del database vettoria, utilizza il seguente comando dalla directory principale del progetto:

python db_interact.py

Debug e Log

I log delle operazioni dei server vengono salvati nei rispettivi file di log (server.log) per facilitare il debug e il monitoraggio delle attività.