ai-portable-setup · v1.0.0 · 2026-09-03 · sha256 30ea4262314dcea0
ai-portable-setup v1.0.0A
Immutable. This exact content is served forever at /api/v1/blob/30ea4262314dcea0.
---
name: ai-portable-setup
version: 1.0.0
type: tool
author: Lukas Geiger
created: 2026-03-12
updated: 2026-03-12
description: >
Erstellt einen portablen KI-Arbeitsbereich auf einem USB-Stick oder beliebigen Laufwerk. RAG-Pipeline mit lokalen LLM-Modellen (Ollama), Vektordatenbank (ChromaDB) und vorkonfigurierten Prompts.
standalone: true
anthropic_compatible: true
bach_compatible: false
bach_origin: true
category: infrastructure
tags: [portable, rag, ollama, usb-stick, offline, local-llm]
language: de
status: active
visibility: public
dependencies:
tools: []
services: ['ollama']
protocols: []
python: ['chromadb', 'ollama']
provenance:
origin: "bach"
origin_path: "MODULAR_AGENTS/AI-Portable"
origin_version: "0.1.0"
origin_repo: "github.com/ellmos-ai/bach"
last_sync_from_origin: "2026-03-12"
last_sync_to_origin: null
local_changes_since_sync: false
---
<img src="banner.png" width="100%" alt="ai-portable-setup banner">
# AI Portable Setup
Erstellt eine portable KI-Arbeitsumgebung mit lokaler RAG-Pipeline.
Gedacht fuer USB-Sticks oder externe Laufwerke -- funktioniert offline
mit Ollama und lokalen Embedding-Modellen.
## Schnellstart
```bash
# Struktur auf USB-Stick erstellen
python setup_portable.py E:\AI-Portable
# Danach auf dem Zielsystem:
cd E:\AI-Portable
python -m venv venv
venv\Scripts\activate # Windows
pip install chromadb ollama
# Dokumente indexieren
python rag/ingest.py
# Abfragen
python rag/query.py "Meine Frage..."
python rag/query.py --mode icf "Beobachtungen zum Klienten"
```
## Erzeugte Verzeichnisstruktur
```
AI-Portable/
models/
llm/ Lokale LLM-Modelle (Mistral, Llama, etc.)
embeddings/ Embedding-Modelle (nomic-embed-text, bge-small)
tts/ Optional: Text-to-Speech (Piper, Coqui)
db/
chroma/ ChromaDB Vektordatenbank
sqlite/ Metadaten-DB
documents/
code/ Code-Snippets, Projekte
general/ Allgemeine Dokumente
rag/
ingest.py Dateien einlesen und indexieren
query.py RAG-Abfragen mit Modus-Auswahl
pipeline.py Haupt-RAG-Pipeline (Embed + Query + LLM)
prompts/
coding.txt Coding-Assistent Prompt
icf.txt ICF-Strukturierung Prompt
rpg.txt Pen-and-Paper Spielleiter Prompt
templates/ Word/PDF-Vorlagen
venv/ Portable Python-Umgebung
```
## RAG-Pipeline
```
Dokumente -> Chunking -> Embedding (nomic-embed-text)
|
v
ChromaDB (lokal)
|
Frage -> Embedding -> Similarity Search -> Top-K Chunks
|
v
Kontext + Prompt -> Ollama (Mistral)
|
v
Antwort
```
## Abfrage-Modi
| Modus | Prompt | Verwendung |
|-------|--------|------------|
| `default` | Allgemeiner Assistent | Standardabfragen |
| `icf` | ICF-Strukturierung | Beobachtungen nach ICF klassifizieren |
| `coding` | Coding-Assistent | Code schreiben und erklaeren |
| `rpg` | Spielleiter | Pen-and-Paper Rollenspiel |
## Voraussetzungen auf dem Zielsystem
- Python 3.10+
- Ollama (mit `mistral:instruct` und `nomic-embed-text`)
- ~8 GB RAM fuer Mistral
## Changelog
### 1.0.0 (2026-03-12)
- Konsolidierung aus MODULAR_AGENTS/AI-Portable
- Setup-Script als Einzeldatei-Skill
- 4 vorkonfigurierte Prompts (coding, icf, rpg, default)
- RAG-Pipeline (ingest, query, pipeline)