Gibt es daf\u00fcr nicht ChatGPT?<\/h3>\n\n\n\n
KI-Systeme wie ChatGPT oder Gemini basieren auf \u00f6ffentlich verf\u00fcgbaren Daten und beeindrucken durch ihre F\u00e4higkeit, breitgef\u00e4chertes Wissen einfach und schnell bereitzustellen. Doch wenn es um spezifische, unternehmensinterne Fragestellungen geht, sto\u00dfen diese Systeme naturgem\u00e4\u00df an ihre Grenzen. Sie kennen weder die individuellen Prozesse noch die spezifischen Herausforderungen eines Unternehmens, da diese Daten in der Regel nicht Teil ihrer Trainingsdaten sind. Im spezifischen unternehmerischen Kontext bieten solche Systeme daher nur eingeschr\u00e4nkten Mehrwert, da die ben\u00f6tigten Informationen von den Nutzenden selbst recherchiert und bereitgestellt werden m\u00fcssen. Selbst wenn KI-Modelle mit spezifischen Informationen trainiert wurden, unterliegen unternehmensinterne Prozesse und Daten einem st\u00e4ndigen Wandel. Das Nachtrainieren solcher Modelle ist technisch anspruchsvoll, ressourcenintensiv und f\u00fcr \u00f6ffentliche KI-Modelle oftmals gar nicht m\u00f6glich.<\/p>\n\n\n\n
Zus\u00e4tzlich muss man sich die Frage stellen, welche Informationen \u00fcberhaupt mit einem \u00f6ffentlichen Anbieter von KI-Systemen geteilt werden sollten. Wenn die Daten das Unternehmen nicht verlassen sollen, dann m\u00fcsste man das LLM (z.B. durch Nutzung eines Open-Source Modells) selbst betreiben.<\/p>\n\n\n\n
Eine KI, die nahtlos auf firmenspezifische Wissensquellen zugreifen kann, hat das Potenzial, den Umgang mit Informationen im Unternehmen grundlegend zu ver\u00e4ndern. Sie liefert pr\u00e4zise und kontextbezogene Antworten, die auf die spezifischen Anforderungen des Unternehmens zugeschnitten sind. Mitarbeitende profitieren von einer einfachen Verf\u00fcgbarkeit von Wissen, indem sie in nat\u00fcrlicher Sprache danach fragen k\u00f6nnen. Das beschleunigt Prozesse, steigert die Produktivit\u00e4t und erh\u00f6ht gleichzeitig den Wert des Wissensmanagements. Erst durch die effiziente Nutzung interner Datenquellen wird eine nachhaltige Pflege der Wissensbasis attraktiv. Diese Vorteile machen eine KI mit Domainwissen zu einem essenziellen Werkzeug f\u00fcr die Zukunft.<\/p>\n\n\n\n
Retrieval-Augmented Generation (RAG)<\/h3>\n\n\n\n
Retrieval-Augmented Generation (RAG) ist eine Methode, die das schnelle Auffinden relevanter Informationen (Information Retrieval) aus Datenquellen mit der Textgenerierung generativer KI kombiniert. Dabei werden die gefundenen Informationen genutzt, um spezifische Antworten zu erstellen. Anstatt nur die Suchergebnisse aus den Wissensquellen zu pr\u00e4sentieren oder ausschlie\u00dflich die Trainingsdaten der KI-Modelle zu nutzen, kombiniert RAG die Vorteile beider Ans\u00e4tze, um kontextbezogene Antworten zu liefern.<\/p>\n\n\n\n Basierend auf einer Anfrage werden relevante Informationen aus den internen Datenquellen gesucht. Dazu werden die Informationen zun\u00e4chst aus den Quellsystemen in eine Vektordatenbank \u00fcbertragen. Dieser Prozess umfasst zwei zentrale Schritte: Zuerst werden die Informationen in kleinere Pakete zerlegt (Chunking), anschlie\u00dfend werden diese Pakete in Zahlenvektoren \u00fcbersetzt (Embedding). Diese numerischen Repr\u00e4sentationen erm\u00f6glichen es, effizient semantisch zur Anfrage passende Informationen zu finden.<\/p>\n\n\n\n Die gefundenen Informationen werden dann zusammen mit der urspr\u00fcnglichen Anfrage an das \u201eGehirn\u201c des Systems, das Large Language Model (LLM), weitergeleitet. Anders als die Informationen aus Trainingsdaten, die strukturell im KI-Modell gespeichert sind, werden die Daten aus der Wissensbasis dynamisch als Teil der User-Anfrage verarbeitet. Im letzten Schritt kann die KI die Antwort auf dieser Basis generieren.<\/p>\n\n\n\n Die Vorteile von RAG ergeben sich unmittelbar:<\/strong><\/p>\n\n\n\n \u2022 Pr\u00e4zision:<\/strong> Antworten basieren direkt auf domainspezifischen Quellen und sind dadurch h\u00f6chst relevant.<\/p>\n\n\n\n \u2022 Aktualit\u00e4t:<\/strong> Informationen aus bestehenden Datenquellen k\u00f6nnen sofort genutzt werden, ohne dass Anpassungen im KI-Modell erforderlich sind.<\/p>\n\n\n\n \u2022 Flexibilit\u00e4t:<\/strong> Neue Datenquellen k\u00f6nnen nahtlos eingebunden werden, sodass dynamisch auf sich ver\u00e4ndernde Anforderungen und Wissensbest\u00e4nde reagiert werden kann.<\/p>\n\n\n\n Um die Vorteile von RAG bei IT Sonix zu nutzen, wurde ein interner Chatbot entwickelt. Dieser greift auf Informationen aus dem internen Confluence-System zur\u00fcck, um kontextbezogene Antworten zu generieren. Die Daten werden \u00fcber die Confluence-API automatisiert abgerufen, mit Techniken wie Chunking und Embedding verarbeitet und in einer Vektordatenbank gespeichert. Dabei werden Metadaten wie Links zur urspr\u00fcnglichen Confluence-Seite hinzugef\u00fcgt, um die Quelle nachvollziehbar zu machen. Dies erm\u00f6glicht es, semantisch relevante Informationen schnell und pr\u00e4zise zu finden. Bei einer Anfrage wird die Vektordatenbank nach passenden Informationen durchsucht, die als Grundlage f\u00fcr die Antwort dienen. Diese Antwort wird dann mithilfe einer Open-Source-KI generiert, die IT Sonix selbst hostet, sodass interne Informationen das Unternehmen nicht verlassen. Zus\u00e4tzlich zur generierten Antwort stellt der Chatbot Links zu den relevanten Confluence-Seiten bereit, sodass Nutzende die Quellen direkt einsehen k\u00f6nnen. So macht der IT Sonix Chatbot Unternehmenswissen gezielt verf\u00fcgbar, gew\u00e4hrleistet Nachvollziehbarkeit und teilt gleichzeitig keinerlei Daten mit externen Systemen.<\/p>\n\n\n\n Obwohl RAG eine vielversprechende Technologie ist, gibt es Herausforderungen, die adressiert werden m\u00fcssen, um das volle Potenzial auszusch\u00f6pfen:<\/p>\n\n\n\n Sensitivit\u00e4t:<\/strong> Das Finden der passenden Informationen kann stark von der genauen Formulierung der User-Anfrage abh\u00e4ngen. Das kann dazu f\u00fchren, dass der relevante Kontext nicht gefunden wird. Verbesserungen wie Reranking-Algorithmen, kontextbezogene Erweiterungen der einzelnen Pakete (Chunks) oder eine zus\u00e4tzliche Verschlagwortung k\u00f6nnen helfen, dieses Problem zu l\u00f6sen.<\/p>\n\n\n\n Sicherheitsaspekte:<\/strong> Es m\u00fcssen Sicherheitsmechanismen f\u00fcr die Ausgaben der KI (Guardrails) und ein kluges Rechtemanagement etabliert werden, um firmengerechte Antworten sicherzustellen. Nutzende sollten nur auf Informationen zugreifen k\u00f6nnen, die f\u00fcr sie freigegeben sind. Das kann durch die Integration des Active Directory (AD) und entsprechende Metadaten f\u00fcr die Zugriffsrechte in der Wissensbasis umgesetzt werden. Gleichzeitig m\u00fcssen Prozesse f\u00fcr schnelle Aktualisierungen vorhanden sein, bspw. wenn User-Zugriffe gesperrt oder ge\u00e4ndert werden.<\/p>\n\n\n\n Stetige Weiterentwicklung:<\/strong> Die rasante Entwicklung im Bereich generativer KI und RAG bietet zahlreiche neue M\u00f6glichkeiten, erfordert jedoch auch kontinuierliche Evaluierung. Ans\u00e4tze wie agentisches RAG, das Reflexion, Planung und den Einsatz zus\u00e4tzlicher Tools wie Internetsuche oder das Erstellen von Visualisierungen und Grafiken integriert, erweitern die Funktionalit\u00e4t erheblich, m\u00fcssen aber verstanden und sinnvoll eingesetzt werden.<\/p>\n\n\n\n Trotz dieser Herausforderungen zeigt sich, dass RAG eine zukunftsweisende Technologie ist, die mit den richtigen Optimierungen und Sicherheitsma\u00dfnahmen einen enormen Mehrwert f\u00fcr Unternehmen bietet.<\/p>\n","protected":false},"excerpt":{"rendered":" Wie k\u00f6nnen Unternehmen ihr Wissen so zug\u00e4nglich machen, dass man effizient darauf zugreifen und es unkompliziert nutzen kann? Diese Frage ist f\u00fcr Unternehmen von zeitloser Bedeutung, insbesondere dann, wenn mit wachsender Gr\u00f6\u00dfe auch die Komplexit\u00e4t und Vielfalt des Firmenwissens zunimmt. K\u00fcnstliche Intelligenz (KI) hat sich seit dem Aufkommen von ChatGPT als leistungsstarkes Werkzeug etabliert, um […]<\/p>\n","protected":false},"author":4,"featured_media":621,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[6],"tags":[],"class_list":["post-620","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-kuenstliche-intelligenz"],"acf":[],"yoast_head":"\n![\"\"](\"https:\/\/test.itsonix.eu\/wp-content\/uploads\/2026\/05\/RAG-AI-ChatBot_DE-1024x622.jpg\" "\\"RAG-AI-ChatBot_DE\\"")
<\/figure>\n\n\n\nIT Sonix Chatbot<\/h3>\n\n\n\n
Beispiel IT Sonix Chatbot:<\/p>\n\n\n\n![\"\"](\"https:\/\/test.itsonix.eu\/wp-content\/uploads\/2026\/05\/grafik-ki-rag-1.png\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/test.itsonix.eu\/wp-content\/uploads\/2026\/05\/grafik-ki-2.png\")
<\/figure>\n\n\n\nHerausforderungen und Ausblick<\/h3>\n\n\n\n