Round Table KI & LLms am 23.05.2024: TALK TO YOUR DATA (ab 13:00 Uhr)
Der dominierende Anwendungsfall für Large-Language-Models scheint der Zugang zu mäßig strukturierten Daten von Unternehmen zu sein: "Wer kennt sich aus?" Ich suche nach Technologie A und bekomme Personen vorgeschlagen, die sich mit Technologie B auskennen, weil B technisch ähnlich zu A ist. Häufig kommt hier die Retrieval-Augmented-Generation (RAG) zum Einsatz.
Es gibt viele Spielräume in der Umsetzung, Nutzung und Reglementierung dieser neuen Klasse von Anwendungen: Neben Cloud-Strategie und Datenschutz-Fragen gilt es Medienkompetenz in der Breite herzustellen und Qualitätssicherung für Systeme zu etablieren, die nicht-deterministisch Antworten geben.
Einladung zum Gespräch
Erste Best-Practices kristallisieren sich heraus und das gibt Anlass für Austausch und Diskussion über Methoden, deren Grenzen und Erfahrungen aus der Praxis.
Diesen Gesprächen wollen wir mit unserem Round Table" KI & LLMs" einen Ort geben. Gemeinsam mit anderen Führungskräften und Innovationsverantwortlichen wollen wir in einem geschütztem Raum auf Augenhöhe über unsere Erfahrungen, Befürchtungen und über Chancen sprechen und dabei gemeinsam voneinander lernen:
1) Erfahrungsbericht REWE Knowledge Bots - Azure OpenAI-basierte Chatbots integriert in Microsoft Teams (Sophia Grazdanow & Daria Strunk aus dem dem DOIT-Innovation-Team der REWE digital)
2) Erfahrungsbericht "Grenzen von RAG" und aktuelle Entwicklungen (Dr. Frank Köhne | viadee Unternehmensberatung AG)
3) Moderierte Diskussion & Delphi (gemeinsam - moderiert von Tobias Goerke | viadee Unternehmensberatung AG)
Wir machen das Gesamtbild der anwesenden Personen auf diesen Technologie-Bereich und seine Nutzung im jeweiligen Unternehmenskontext sichtbar:
- In der Cloud oder nicht?
- Welche Feedback-Mechanismen sind im Einsatz und wie gut funktionieren sie?
- Welche Safe-Guards gibt es?
- Welche Begleitmaßnahmen braucht es und was gehört in Richtlinien?
- Wie lang dauert die Anbindung neuer Dokumente und wer bezahlt was?
- Wie steuere ich meine Investitionen in hoch-volatile Technologie, ohne vorher zu wissen, was die Nutzerin letztlich damit macht?
- Wo sind wir im Hype Cycle und was erwarten wir als nächstes?
- ...
Wir holen zu solchen und zu Euren eigenen Fragen jeweils im Workshop-Modus ein Stimmungsbild ein und diskutieren immer dann, wenn es eine Bandbreite bei den Antworten gibt. Anschließend gehen wir in den offenen Austausch. Eine "Fotokoll" der Ergebnisse stellen wir den Teilnehmenden im Nachgang zu.
Zeitplan:
13:00 Uhr Ankunft und Begrüßung
13:30 Uhr Erfahrungsbericht des REWE-Teams und Diskussion
14:15 Uhr Pause / Puffer
14:30 Uhr Erfahrungsbericht "Grenzen von RAG und aktuelle Entwicklungen"
15:15 Uhr Moderierte Diskussion & Benchmarking - Wie weit sind andere? Was ist uns wichtig und was nicht? Rund um die "Knackpunkte" bei der Realisierung von LLM-basierten Diensten und Innovationen
16:30 Uhr Übergang zu Snacks, Getränken und Networking.
Ort
viadee Unternehmensberatung AG
Sebrathweg 7
44149 Dortmund