gesponsertEnterprise Search mit GenAI Wie Sie generative KI mit Unternehmensdaten sicher nutzen

Gesponsert von

IntraFind Software AG

Viele Anwendungen von generativer KI werden erst durch das Wissen aus organisationseigenen Daten sinnvoll. Die Integration von Sprachmodellen in Enterprise Search ermöglicht Unternehmen und Behörden sichere und mehrwertstiftende Use Cases.

Chatbots für Kunden und Mitarbeiter, die Erstellung von Produktbeschreibungen, die Zusammenfassung von Dokumenten, die Extraktion von Daten, digitale Assistenten im First-Level-Support: Generative KI eröffnet Organisationen schier endlose Möglichkeiten, die Produktivität ihrer Mitarbeiter zu steigern und ihren Kunden bessere Services zu bieten.

Herausforderung: GenAI mit Unternehmensdaten sicher nutzen

Auf die allermeisten Use Cases sind die GenAI-Sprachmodelle allerdings gar nicht vorbereitet. Sie wurden ausschließlich mit Daten aus dem öffentlichen Internet trainiert und können dadurch zwar allgemeine Fragen gut beantworten, domänenspezifische Fragen aber nicht; und natürlich schon gar keine unternehmenseigenen Dokumente zusammenfassen oder Daten daraus extrahieren. Was dieses Problem noch verschärft: Wenn die Sprachmodelle nicht über die nötigen Informationen verfügen, halluzinieren sie. Sie liefern Antworten, erfinden dafür aber einfach vermeintliche Fakten. Ihr Output ist dabei formal so perfekt und klingt so schlüssig, dass Mitarbeiter oder Kunden die Falschinformationen häufig gar nicht erkennen.

Die meisten Use Cases erfordern deshalb die Integration organisationseigener Daten in die Sprachmodelle. Dazu haben Unternehmen zwar grundsätzlich die Möglichkeit, die Modelle mit ihren Daten zu trainieren, dabei besteht allerdings weiterhin das systeminhärente Risiko von Halluzinationen. Außerdem ist das Training aufwändig und kostspielig und muss regelmäßig wiederholt werden, um die Modelle kontinuierlich auf einem aktuellen Stand zu halten. Zudem sind organisationsinterne Daten in der Regel mit Lese- und Zugriffsrechten versehen, die sich beim Training nicht ohne weiteres berücksichtigen lassen.

Generative KI in Unternehmenssuchmaschine integrieren

Die bessere Alternative ist Enterprise Search im Zusammenspiel mit Retrieval Augmented Generation (RAG). Dabei wird generative KI in eine Unternehmenssuchmaschine wie den iFinder integriert. Bei Anfragen durchsuchen die Retrieval-Technologien die organisationseigenen Daten nach relevanten Informationen und stellen sie einem Sprachmodell zur Generierung der Antwort zur Verfügung. Dessen Output basiert immer auf aktuellen Informationen und das Risiko für Halluzinationen sinkt signifikant.

Da die Suchmaschine außerdem die Passagen kennt, aus denen das Sprachmodell einen Text zusammenfasst oder eine Antwort erstellt, kann sie den Endnutzern einen nachvollziehbaren Quellenbezug liefern. Zudem berücksichtigt die Enterprise Search automatisch die Zugriffsrechte auf die Unternehmensdaten. Mitarbeiter oder Kunden erhalten in ihren Antworten nur Informationen, die sie auch sehen dürfen. Damit ist automatisch eine zentrale Datenschutz-Anforderung erfüllt, die viele Organisationen in der derzeitigen GenAI-Euphorie übersehen.

Erfahrene KI-Experten hinzuziehen

Bei der Integration ihrer Daten und der Implementierung einer passgenauen Lösung können Unternehmen und Behörden erfahrene Search-Anbieter wie IntraFind helfen. Ihre Experten unterstützen Organisationen auch bei der Auswahl der geeigneten GenAI-Modelle und Betriebsoptionen, denn diese beiden Aspekte haben maßgebliche Auswirkungen auf die Qualität, die Kosten, die Performance und die Datenschutz-Konformität einer GenAI-Anwendung. So müssen sich Unternehmen kein tiefes Technologiewissen aneignen, um die Potenziale von generativer KI für sich voll auszuschöpfen.