KI im Forum

[Heffalump]

Hat sich schon einmal jemand mit KI in seinem Forum beschäftigt und falls nicht, warum nicht? Ich würde hiermit gerne einen Diskussionsfaden mit Anregungen und Ideen generieren, der das Thema etwas erhellen kann und evtl. den ein oder anderen doch dazu bewegen kann hier aktiv zu werden.

Der Hintergrund ist ein kleiner Schubser, den ich aus der Industrie bekommen habe, und der mich wirklich zum Nachdenken brachte. Viele von uns betreiben ein Forum mit einem hohen Spezialwissen in seinem Bereich, dessen Kapazitäten im reinen Forenbetrieb schon ein richtiger Schatz sind. In Verbindung mit einer trainierten KI würde es diese Möglichkeiten noch um ein Vielfaches übertreffen.

Ich nehme mal als Beispiel die Behandlung des Forum als eine Firma mit internen Abfragen.

Jede copy and paste Nutzung von Chat GPT in einem Unternehmen verschwendet wahnsinnige Ressourcen weil die eher schlechten Ergebnisse in Spezialgebieten einfach wieder verpuffen. Würde man mit seinem Wissen eine interne KI trainieren hätte man wesentlich bessere Ergebnisse im Spezialgebiet und zudem eine kontinuierliche Weiterentwicklung der Datenbank.

So sieht es in einem Forum eigentlich auch aus und hier würde ich gerne ansetzen.

Hier mal ein Tipp für die evtl. Umsetzung, den ich erhalten habe:

Beispiel für die Umsetzung: Installiere Ollama als lokales KI-System. Speichere alle Anfragen und Antworten in einer Datenbank (z. B. MariaDB). Nutze ChromaDB für die Vektorsuche. Erstelle eine einfache Web-Oberfläche, die so aussieht wie ChatGPT (damit sich die Menschen nicht umgewöhnen müssen). Das ist technisch mittlerweile alles überhaupt kein Hexenwerk, kann jedoch für immense Qualitäts- und Produktivitäts-Boosts sorgen.

Warum ist das Speichern so wichtig? Jede Anfrage zeigt Dir, was Deine Kolleginnen und Kollegen wirklich brauchen. Jede Antwort kann systemisch und systematisch bewertet und verbessert werden. Schon nach ein paar Tagen erkennst Du Muster:

• Welche Fragen kommen immer wieder?
• Wo sind Wissenslücken?
• Welche Prozesse scheinen besonders viel Zeit zu fressen?

Diese Daten sind der Rohstoff für ein System, das täglich besser wird.


Hat schon mal jemand eine KI trainiert? Beispielsweise mit Ollama ?

Könnte man so etwas mit der integrierten API in 2.3 in ein Forum integrieren oder hat jemand evtl. sogar eine App Idee?

Ich freue mich auf weitere Ideen und Anregungen.

 

[Heffalump]

Jetzt habe ich gerade dieses Thema von Otto gefunden, das in eine ähnliche, genau entgegengesetzte, Richtung geht.

https://www.xendach.de/threads/wie-steht-ihr-zu-dem-thema-ki-zusammenfassungen-in-der-google-suche.8423/

Ich würde gern bei aller Skepsis über die Chancen reden wollen.

 

[Musika]

Die Skepsis überwiegt hier wohl zu sehr. Am Ende ist dies aber nichts, was gehen oder von alleiene erledigen wird und daher sollte man möglichst heute anstatt morgen das Instrument so gut es geht, selbst nutzen lernen.

 

[Kirby]

Jede copy and paste Nutzung von Chat GPT in einem Unternehmen verschwendet wahnsinnige Ressourcen weil die eher schlechten Ergebnisse in Spezialgebieten einfach wieder verpuffen. Würde man mit seinem Wissen eine interne KI trainieren hätte man wesentlich bessere Ergebnisse im Spezialgebiet und zudem eine kontinuierliche Weiterentwicklung der Datenbank.

So sieht es in einem Forum eigentlich auch aus und hier würde ich gerne ansetzen.

Also ich würde einen gravierenden Unterschied zwischen einem Unternehmen und einem Forum sehen:
In einem Unternehmen ist das Suchen und Lösen von Problemen / Fragen (die man mit einer "KI" lösen kann) i.d.R. eher lästiges Übel - man muss das halt machen um seine Arbeit zu erledigen.

In einem Forum hingegen ist es meist ein nicht unerheblicher Bestandteil des Selbstzwecks - User kommen i.d.R. in ein Forum weil sie eine Frage / ein Problem haben und eine Antwort / Lösung suchen.
Natürlich kann man diesen Prozess stark optimieren, im Idealfall so stark dass kein Mensch mehr eine Frage stellen oder beantworten muss.
Dann braucht es (dafür) aber eben auch kein Forum mehr.
Wenn Du das möchtest: Nur zu, rationalisiere dein Forum weg

Welche anderen Gründe außer "Frage / Problem -> Antwort / Lösung" gibt es noch ein Forum zu nutzen?

Mir fallen da ehrlich gesagt nur 2 Dinge ein:

1. Community
   User nutzen das Forum weil Sie sich gerne mit den anderen menschlichen Usern unterhalten
2. Selbstdarstellung
   User nutzen Foren um sich selbst oder Dinge (das eigene Haustier, ein Projekt, Songs, Gedichte, whatever) zu präsentieren und dafür (hoffentlich) positive Reaktionen anderer menschlicher User zu erhalten

Bei beidem fehlt mir ein wenig die Vorstellungskraft wie KI-Funktionalität da signifikant Vorteile bringen sollte?

Es gibt aber sicherlich auch viele Dinge bei denen man (unter rein technischen Gesichtspunkten, rechtlich sicherlich viiiel schwieriger und ggf. auch gegenüber der Community gar nicht so einfach zu "verkaufen") gut KI einsetzen könnte:

• Spam / Abuse Klassifizierung
• Verbesserung / Generierung von Titel, Meta-Description, etc.
• Generierung von alt-Attributen
• Screening von Inhalten (Beleidigungen, Verstoß gegen Forenregeln, etc.)

"KI"-Modelle lokal zu betreiben (Ollama, etc.) benötigt nach wie vor erhebliche Hardware-Resourcen; kriegt man zwar mittlerweile "überall" aber eben nicht für einen schmalen Euro.
Selbst wenn es "nur" um Inferenz geht bist Du da sicherlich ein paar Hundert € / Monat los - von selbst trainieren ganz zu schweigen.

 

[Musika]

• Spam / Abuse Klassifizierung
• Verbesserung / Generierung von Titel, Meta-Description, etc.
• Generierung von alt-Attributen
• Screening von Inhalten (Beleidigungen, Verstoß gegen Forenregeln, etc.)

Das geht eher in Richtung meiner Gedankengänge. Möglich wäre auch eine Assistenz für neue Mitglieder um sich mit den Funktionen des Forums vertraut zu machen oder wenn es hängt mit der passenden und helfenden Hand zu unterstützen.