Wissensbasis statt Training: warum Ihre Daten nicht ins Modell gehören

Wenn Unternehmen eine KI auf ihr eigenes Wissen „trainieren“ wollen, gibt es zwei Wege. Der eine verändert das Modell selbst, der andere gibt dem Modell bei jeder Frage die passenden Unterlagen mit. Ai.DOING geht den zweiten Weg, und das aus gutem Grund.

Training: Wissen, das man nicht mehr herausbekommt

Beim Nachtrainieren, auch Fine-Tuning genannt, fließen Ihre Daten in die Gewichte des Modells ein. Danach steckt das Wissen im Modell, aber nicht mehr als einzelnes Dokument. Daraus folgen drei Probleme:

• Löschen ist kaum möglich. Ein einzelnes Dokument lässt sich nicht gezielt aus einem Modell entfernen.
• Rechte gibt es nicht. Ein Modell kennt keine Berechtigungen. Was es weiß, kann es jedem sagen, der fragt.
• Herkunft bleibt unklar. Eine Antwort lässt sich nicht auf eine Quelle zurückführen.

Wissensbasis: Die KI liest nach

Bei Ai.DOING liegen Ihre Dokumente in einer eigenen Vektor-Datenbank Ihrer Instanz. Stellt jemand eine Frage, sucht die Instanz die passenden Abschnitte heraus, nur aus Sammlungen, die diese Person sehen darf, und gibt sie unserer KI Lyra mit. Lyra formuliert die Antwort und nennt die Quellen. Danach vergisst das Modell den Kontext.

Fachleute nennen das Verfahren Retrieval-Augmented Generation, kurz RAG. Für Sie heißt es: Jedes Dokument bleibt einzeln auffindbar, einzeln geschützt und einzeln löschbar.

Und die Qualität?

Gerade für Fragen zu den eigenen Unterlagen ist die Wissensbasis meist sogar besser als ein nachtrainiertes Modell: Neue Dokumente sind sofort nutzbar, und die Quellenangabe macht jede Antwort prüfbar. Wie gut es bei Ihnen funktioniert, messen wir im Piloten mit Ihren echten Fragen. Mehr dazu auf der Seite Wissensbasis.