KI Navigator with tour stop in Oldenburg

KI Navigator Tourstopp Oldenburg

Zu Gast bei der JUG Bremen/OL Open Knowledge in Oldenburg. Nach dem Impulsvortrag laden wir zu Erfahrungsaustausch und Networking ins DOAG-Bus-Bordbistro ein – bei frisch gebackener Pizza, kühlem Bier und alkoholfreien Getränken.

Ziel der Roadshow ist die KI Navigator 2024 – Die Konferenz zur Praxis der KI in IT, Wirtschaft und Gesellschaft. Nähere Informationen auf kinavigator.eu!

Timeline

• 16:00 Uhr | Einlass und Warm-up
  
  
• 17:00 Uhr | DOAG KI Community stellt sich vor.  
  
  
• 17:30 Uhr | Begrüßung der JUG Bremen/OL Open Knowledge
  ​​​​​​​
• 18:00 Uhr| Impulsvortrag von Tim Wüllner: Die Architektur für Sprachmodelle in der Praxis – Retrieval Augmented Generation
  
  
• Anschließend | Gespräche & Networking bei Pizza, Bier und alkoholfreien Getränken

Die Teilnahme ist kostenfrei. Die vorherige Registrierung (Anmeldung) ist erforderlich. 

----

Abstract: Die Architektur für Sprachmodelle in der Praxis – Retrieval Augmented Generation

Die Veröffentlichung von ChatGPT jährt sich nun bald zum zweiten Mal. Ein Ende des Hypes ist noch lange nicht abzusehen. Zu groß sind die Mehrwerte dieser Technologie, zu intuitiv ist der Umgang in Form eines Chats. Für das Jahr 2024 wurde erwartet, dass der Sprung vom explorativen Herumspielen mit Large Language Models (LLMs) zum produktiven Einsatz gewagt wird. Diese Prognose bewahrheitete sich und viele Unternehmen lagerten beispielsweise den Customer Support auf ChatBots aus. Dass dies nicht immer eine gute Entscheidung war, zeigten Fälle wie der des DPD-ChatBots, welcher anstelle nützlicher Antworten lieber Gedichte über den schlechten Service des eigenen Unternehmens verfasste. Auch die sogenannten Halluzinationen von LLMs führten immer wieder zu Versprechungen oder Preisnachlässen eines ChatBots, welche es in dieser Form nie gab. Eine Lösung, derartige Probleme zu mitigieren bietet die Retrieval Augmented Generation (RAG) Architektur. Durch ein vorgeschaltetes Retrieval, um relevante Informationen aus einer eigenen dynamischen Datenbasis hinzuziehen, können fundierte Antworten geliefert werden. Halluzinationen können vermieden und toxische Sprache durch weitere Mechanismen abgefangen werden. Anhand eines konkreten Beispiels möchte ich zeigen, wie ein RAG-System funktioniert, welche Vorteile es bietet, aber auch auf die noch ungelösten Herausforderungen eingehen.