PrivateGPT v0.3.0

PrivateGPT, das von unserem Team bei Zylon betreute Open-Source-Projekt, hat gerade eine neue Version, v0.3.0, veröffentlicht. Dieses Update bringt eine Reihe neuer Funktionen, Verbesserungen und Fehlerbehebungen mit sich, um deine Erfahrung noch besser zu machen.

Um mit PrivateGPT v0.3.0 zu starten, stelle sicher, dass du den markierten Commit pullst und die neuen Abhängigkeiten installierst:

poetry install --with ui,local

Lass uns ins Detail eintauchen.

Funktionen 🌟

UI-Verbesserungen:

PrivateGPT v0.3.0 führt mehrere UI-Verbesserungen ein, um deine Interaktion mit der Plattform angenehmer und effizienter zu machen. Hier ist, was neu ist:

1. Datei auswählen, die abgefragt werden soll: Jetzt kannst du die konkrete Datei auswählen, die du abfragen möchtest, statt alle Dateien in einem Verzeichnis einlesen zu müssen.

2. Ausgewählte Datei löschen: Lange erwartete Funktion! Du kannst jetzt einzelne Dateien direkt aus der UI löschen.

3. Alle eingelesenen Dateien löschen: Mit einem einzigen Klick kannst du alle eingelesenen Dateien löschen.

4. Chatbereich streckbar machen: Der Chatbereich erstreckt sich jetzt über den gesamten Bildschirm und sorgt so für ein noch intensiveres Erlebnis.

5. Schnellere UI: Wir haben die UI optimiert, um deine CPU zu entlasten und sicherzustellen, dass sie nicht zum Engpass wird.

PrivateGPT v0.3.0 UI mit neuen Funktionen

‍

API-Verbesserungen:

PrivateGPT v0.3.0 bringt mehrere API-Verbesserungen mit, darunter:

1. Plain Text einlesen erlauben: Du kannst jetzt Plain Text direkt in PrivateGPT einlesen, was es noch vielseitiger macht.

2. Neue Sprachmodelle: Wir haben Unterstützung für Mistral- und Chatml-Prompt-Stile sowie für OpenAI- und Ollama-Sprachmodelle hinzugefügt.

3. Konfigurierbarer context_window und tokenizer: Du kannst die Einstellungen für context_window und tokenizer jetzt konfigurieren, um bessere Inferenz zu erhalten.

Bulk-Ingest:

PrivateGPT v0.3.0 führt das Flag --ignored ein, mit dem du bestimmte Dateien und Verzeichnisse während des Einlesens ausschließen kannst.

Fehlerbehebungen 🐛

Unser engagiertes Team von Mitwirkenden hat unermüdlich daran gearbeitet, mehrere Fehler in diesem Release zu beheben, darunter:

1. LlamaCPP-Generierungsfix: Wir haben einen LLM-Parameter hinzugefügt, um einen defekten Generator von LlamaCPP zu beheben.

2. Dockerfile-Fehlerbehebungen: Wir haben Probleme mit lokalen und externen Dockerfiles behoben.

3. Kleiner Fehler in der Chat-Stream-Ausgabe: Ein kleiner Fehler in der Ausgabe des Chat-Streams, der dazu führte, dass ein Python-Fehler in der Ausgabe serialisiert wurde, wurde behoben.

4. Korrekturen an den Einstellungen: Wir haben mehrere Probleme mit den Einstellungen korrigiert, darunter mehrzeilige Zeichenketten und das Laden von Testeinstellungen nur beim Ausführen von Tests.

Mitwirkende 🤝

Ein großes Dankeschön an alle unsere Mitwirkenden für ihre unglaubliche Arbeit, die PrivateGPT v0.3.0 Wirklichkeit werden ließ. Euer Engagement und eure Verbundenheit mit dem Projekt werden sehr geschätzt.

Hauptbeitragende der Community dieser Version: Robin Boone, ygalblum, smbrine, naveenk2022, icsy7867, roblg

Wie geht es weiter? 🔜

Wir freuen uns, ankündigen zu können, dass einige sehr interessante neue Funktionen in Arbeit sind, darunter ein Node-SDK, neue funktionale APIs, weitere Integrationen und mehr. Bleib dran für Updates!

Weitere Informationen findest du in den vollständigen Release Notes auf GitHub: https://github.com/imartinez/privateGPT/releases/tag/v0.3.0

Viel Spaß mit PrivateGPT! 😊

Autor: Iván Martínez Toro, Mitgründer & Co-CEO bei Zylon
Veröffentlicht: Feb 2024
Zuletzt aktualisiert: Feb 2026
Iván leitet private KI-Bereitstellungen vor Ort für regulierte Branchen und hilft Finanzinstituten, Gesundheitsorganisationen und staatlichen Stellen, sichere, souveräne KI-Infrastruktur für Unternehmen zu implementieren.