Grundsätzlich unterstützt WritingTool jede OpenAI-ähnliche Schnittstelle. Der Fokus von WritingTool liegt aber auf lokalen Rechnern oder aber auf privaten, Firmen- oder Behördennetzwerken.

Ein KI-Projekt auf Open-Source-Basis, das den Einsatz lokaler Installationen ermöglicht, ist LocalAI (https://localai.io/). Dieses Projekt erlaubt die Installation von KI-Servern auf Rechnern mit verhältnismäßig einfacher Hardware. Kleinere KI-Modelle lassen sich sogar ganz ohne GPU-Unterstützung betreiben, wenn man sich mit einer geringen Leistung (insbesondere bzgl. der Antwortgeschwindigkeit) zufriedengibt. Hervorragende Ergebnisse wurden mit einer relativ einfachen Grafikkarte (Nvidia RTX 2060 bzw. Nvidia RTX 3060) erzielt.

Eine Installationsanleitung sowie Beschreibungen der Voraussetzungen findet man unter https://localai.io/.

Für die Tests der automatischen Fehlerkorrektur sowie der manuellen Textbearbeitung wurde primär das Modell »meta-llama-3.1-8b-instruct« genutzt. Für die Bildgenerierung wurde das Modell »dreamshaper« eingesetzt.

Die bisherigen Tests erfolgten in überwiegendem Maße in deutscher Sprache und in wesentlich geringerem Umfang in Englisch.

Sowohl für Englisch als auch für alle weiteren Sprachen werden dringend weitere Testerinnen und Tester benötigt. Für die Entwicklungsarbeit für andere Sprachen als Englisch und Deutsch sind zudem Java-Entwickler notwendig, um entsprechende Regeln für die Umsetzung der KI-Ergebnisse in Unterstreichungen zu realisieren.

Bei Interesse bitte ich sich bei mir unter der im Impressum angegebenen E-Mail-Adresse zu melden.