
1

Erwerben Sie ein grundlegendes Verständnis für die Funktionsweise und Kernkonzepte moderner KI-Systeme.
Entwickeln Sie ein Bewusstsein für die aktuellen Limitationen und Herausforderungen von KI, um realistische Erwartungen zu setzen und Fehlanwendungen zu vermeiden.
Lernen Sie, wie Sie KI-Technologien wie Copilot und einfache Agenten sinnvoll in Ihrem beruflichen Umfeld identifizieren und einsetzen können.
Dieser Vortrag bietet Ihnen eine konzeptionelle Einführung, jedoch keine detaillierten Hands-on-Trainings.
2

Privat nutzen wir Chatbots oft für Themen, in denen wir selbst keine Experten sind. Die 80% "Beherrschung" des Themas durch den Chatbot übertrifft hier oft unser eigenes Wissen bei Weitem. Wir empfangen einen großen Mehrwert, und die fehlenden 20% fallen kaum ins Gewicht.
Im Unternehmen arbeiten wir oft auf Expertenniveau und verdienen unser Geld mit tiefem Fachwissen. Der Chatbot erreicht hier vielleicht nur 50% des Themas und liegt nur knapp über oder sogar unter unserer eigenen Expertise. Der Mehrwert ist geringer, und Fehler sind sofort offensichtlich.

3

Diese Schulung bietet Ihnen einen umfassenden Überblick über den Einsatz von KI-Assistenten wie Copilot und ChatGPT in Unternehmen. Wir beleuchten die Funktionsweise, praktische Anwendungen und Best Practices für effektive Nutzung.
Eine kurze Reise durch die Entwicklung der KI bis zu modernen Foundation Models.
Wie Sprachmodelle "denken", Token verarbeiten und mit Kontext umgehen.
Strategien für effektives Prompting, um präzise und nützliche Ergebnisse zu erzielen.
Der Einfluss von System Prompts und Herstelleranpassungen auf das Chatbot-Verhalten.
Wie externes Wissen in KI-Modelle integriert und durch Tools erweitert wird.
Praktische Anwendungsfälle, Unterschiede und synergetische Nutzung in Unternehmen.
Effiziente Verwaltung von Prompts und Aufbau erweiterter KI-Workflows.
4

5

Regelbasierte Systeme mit explizit programmierten Entscheidungsbäumen
Das Kernprinzip bestand darin, Wissen und Schlussfolgerungen durch eine Vielzahl von manuell erstellten Wenn-Dann-Regeln abzubilden.
Ein Highlight war IBM Watson, der das Quizspiel Jeopardy gegen menschliche Champions gewann. Dafür waren 90 Server, 16TB RAM und über 1.000 spezialisierte Softwareagenten nötig.
Trotz des großen Medienhypes konnte diese Technologie aufgrund des hohen Wartungsaufwands und der fehlenden Anpassungsfähigkeit nicht skaliert werden und blieb eine teure Nischenanwendung.
6

In dieser Ära verschob sich der Fokus von explizit programmierten Regeln hin zu Systemen, die Muster aus umfangreichen Trainingsdaten lernen. Statistische Modelle bildeten die Grundlage für diese neue Generation der künstlichen Intelligenz.
Anstatt jeden Schritt vorzugeben, wurden KI-Systeme darauf trainiert, selbstständig aus großen Datensätzen zu lernen und komplexe Beziehungen zu erkennen.
Die Entwicklung und Verfeinerung von Algorithmen wie Support Vector Machines (SVMs), Entscheidungsbäumen und ersten neuronalen Netzen prägten diese Periode.
ML-Techniken führten zu Fortschritten in Bereichen wie Spam-Filterung, Spracherkennung und einfachen Bilderkennungssystemen, die den Alltag erleichterten.
7

Neuronale Netze imitieren die Funktionsweise des menschlichen Gehirns. Statt starrer Regeln lernen sie aus Millionen von Beispielen - ähnlich wie ein Kind sprechen lernt.
8

Die Einführung der Transformer-Architektur im Jahr 2017 markierte einen Wendepunkt in der KI, insbesondere im Bereich der Sprachmodelle. Mit dem "Attention"-Mechanismus revolutionierten sie die Art und Weise, wie KI Sprache versteht und verarbeitet.
Dieser bahnbrechende Mechanismus ermöglicht es Modellen, sich auf die wichtigsten Teile der Eingabe zu konzentrieren, anstatt sequenziell zu arbeiten.
Im Gegensatz zu früheren Architekturen können Transformer Eingaben gleichzeitig verarbeiten, was Trainingszeiten drastisch verkürzt und die Skalierbarkeit verbessert.
Diese Fähigkeit führt zu einem wesentlich tieferen Verständnis von Beziehungen und Abhängigkeiten in langen Texten, entscheidend für komplexe Sprachaufgaben.
Die Transformer-Architektur ist die Basis für alle modernen Large Language Models (LLMs) wie ChatGPT und Copilot und hat die Ära der generativen KI eingeläutet.
9

Der Durchbruch moderner KI liegt im Transfer Learning: Statt für jede Aufgabe von null zu beginnen, werden universelle "Foundation Models" entwickelt, die grundlegendes Sprachverständnis besitzen.
Modelle lernen aus riesigen Textmengen (Wikipedia, Bücher, Websites) grundlegende Sprachstrukturen und Weltwissen durch Ausfüllen von Lückentexten
Training auf qualitativ hochwertigen Anweisungs-Antwort-Paaren. Das Modell lernt, Befehlen zu folgen.
Das Modell lernt sich an Master-Anwesiungen zu halten
10

11

Eingabe: "Der Vertrag läuft am"
Top-Token:
LLMs sind hochentwickelte Vervollständigungssysteme, die durch Training auf riesigen Textmengen menschenähnliche Sprachmuster gelernt haben.
12

Jedes Sprachmodell hat eine begrenzte Kapazität, um Informationen gleichzeitig zu verarbeiten. Diese Kapazität wird als Kontextfenster bezeichnet und in Tokens gemessen.
Das Modell kann eine bestimmte, feste Anzahl von Tokens miteinander in Beziehung setzen und verarbeiten. Dies ist sein "Arbeitsgedächtnis".
Wenn Sie eine Anfrage stellen, belegt diese Frage einen Teil des verfügbaren Kontextfensters mit ihren Tokens.
Das Modell generiert dann Wort für Wort (Token für Token) seine Antwort. Jedes neu generierte Token wird Teil des Kontextes.
Wird das Kontextfenster voll, bricht das Modell ab.
13

Die aktuelle Eingabe des Nutzers, der Auslöser der Antwort.
Antwort des Modells an den Endbenutzer
14

15

Kontext und Perspektive vorgeben
Klare Anweisungen mit Parametern
Ausgabeschema und Beispiele
Grenzen und Qualitätskriterien
Schlechter Prompt
"Fasse das zusammen"
Vage, ohne Kontext oder Struktur
Optimierter Prompt
"Rolle: Compliance-Officer.
Kontext: Interne Unternehmensrichtlinie zur IT-Sicherheit, adressiert an Geschäftsführung und Bereichsleiter.
Aufgabe: Erstelle eine prägnante Executive Summary mit Fokus auf Risiken und Verantwortlichkeiten.
Format:
• Titel | Version | Gültig ab | Verantwortlich
• 3–5 Kernpunkte à max. 25 Wörter, ohne Fachjargon.
Sprache: Deutsch, Ton: sachlich, Zielgruppe: Management.
Beispiel:
• Titel: IT-Sicherheitsrichtlinie v3.0 | Gültig ab: 01.03.2025 | Verantwortlich: CISO
• Zugriff nur über VPN (Schutz vor externen Angriffen).
• Jährliche Schulungspflicht (Erhöhung der Awareness).
Qualitätskriterium: max. 120 Wörter, vollständig, klar, management-tauglich."
16

Die Optimierung von Prompts ist ein kontinuierlicher Prozess, der sich auszahlt. Verfeinern Sie Ihre Strategien, um das volle Potenzial Ihrer KI-Tools zu nutzen.
Prompt-Richtlinien sind dynamisch und modellabhängig. Investieren Sie Zeit in Prompts für wiederkehrende Aufgaben und speichern Sie diese für zukünftige Nutzung.
Fokus auf die Ergebnisse, nicht nur auf die Logik. Ein effektiver Prompt ist nicht zwingend der, der sich am besten anhört, sondern der, der funktioniert.
Starten Sie nicht bei Null! Erklären Sie ChatGPT oder Copilot ihre Aufgaben und lassen Sie mehrere "erstelle drei unterschiedliche Prompts" Vorschläge für ihren Prompt generieren und verfeinern Sie diese iterativ.
17

– Ziel, Output-Form, Länge, Zielgruppe, Sprache.
– Rolle/Perspektive, Ton, Verantwortungsbereich.
– Geschäftsfall, Restriktionen, vorhandene Artefakte, Annahmen.
– Verb + Objekt + Kriterien. Keine Mehrfachaufgabe.
– Abschnittsüberschriften, Tabellenfelder, JSON-Schema oder Bullet-Format.
– 1 gutes Beispiel, 1 Negativbeispiel.
– Wortzahl, Verbotene Inhalte, Domain-Terminologie, Referenzdatum/Version.
– Bitte bei Unklarheit x Rückfragen stellen. Sonst Default y.
– „Gib 2 Varianten“ oder „Erst Gliederung, dann Ausarbeitung nach Freigabe“.
Am Ende deiner Antwort liefere eine Selbstprüfung gemäß:
– Korrektheit: alle Aussagen belegt, keine Widersprüche.
– Vollständigkeit: alle geforderten Punkte enthalten.
– Nachvollziehbarkeit: 2–4 Schritte, wie du zum Ergebnis kamst.
– Quellenpflicht: ≥90% Fakten mit Quelle inkl. genauer Fundstelle.
– Stilregeln: Format und Wortzahl wie vorgegeben (±10%).
18

Laden Sie diese als Datei für das Modell hoch, um präzisere Ergebnisse zu erzielen.
ACHTUNG: Hauptsächlich für die Optimierung von Prompts für Agenten gedacht
Wenn Du aufgefordert wirst, Prompts zu optimieren, antworte aus Deiner eigenen Perspektive. Erkläre, welche konkreten Formulierungen in diesem Prompt hinzugefügt oder gelöscht werden könnten, um das gewünschte Verhalten konsistenter hervorzurufen oder das unerwünschte Verhalten zu verhindern.
Hier ist ein Prompt: [PROMPT]
Das gewünschte Verhalten dieses Prompts ist, dass das Modell [GEWÜNSCHTES VERHALTEN AUSFÜHRT], aber stattdessen [NICHT GEWÜNSCHTES VERHALTEN AUSFÜHRT].
Während so viel wie möglich vom bestehenden Prompt unverändert bleibt: Welche minimalen Änderungen oder Ergänzungen würdest Du vornehmen, um das Modell dazu zu bringen, diese Schwächen künftig konsistenter zu vermeiden?
19

Guideline recherierchen
Auf Basis der Guideline aus einem einfachen Prompt "Analysiere die Nebenkostenabrechung" einen professionelleren Prompt generieren
20

21

Die "Chain-of-Thought" (Gedankenkette) ist eine Technik, bei der das Sprachmodell dazu angeregt wird, seine Lösungsschritte explizit zu formulieren. Es "hört" sich dabei selbst beim Denken zu und kommt so oft zu besseren Ergebnissen - es "verbraucht" aber auch viel mehr Token
Durch die Aufforderung "Gehe Schritt für Schritt vor" oder "Denke laut" wird das Modell gezwungen, seine internen Überlegungen zu externalisieren. Dies strukturiert den Denkprozess.
Die explizite Schrittfolge führt zu einer höheren Genauigkeit und Logik, besonders bei komplexen Problemen. Allerdings benötigt dies deutlich mehr Rechenleistung und Ausgabe.
Funktionen wie "Schnelle Antwort" vs. "Think deeper" in Copilot/ChatGPT spiegeln dies wieder.
22

Sprachmodelle sind primär darauf trainiert, Muster in Texten zu erkennen und Lückentexte auszufüllen. Dies führt zu einem tiefen Verständnis von Sprache und Konzepten, aber zu überraschenden Schwächen in der Mathematik, Zählen und ähnlichem.
Kann komplexe Texte zusammenfassen, übersetzen und kreative Inhalte generieren. Sie "versteht" Zusammenhänge und Konzepte sehr gut.
Fällt es schwer, präzise arithmetische Operationen durchzuführen oder korrekte Mengen zu zählen. Oft werden "halluzinierte" Zahlen oder Rechenfehler ausgegeben.
Beispiel: Wieviele "r" sind in Erdbeere
Das kleine Einmaleins ist auswendig gelernt (wie Mustererkennung bei der KI).
Man kann erklären, wie man große Zahlen schriftlich multipliziert (wie die KI Textkonzepte erklären kann).
Eine Multiplikation großer Zahlen im Kopf durchzuführen, gelingt nicht jedem (wie die KI mit komplexer Mathematik ringt).
23


24

Stell dir vor, ich lese Wörter nicht wie ein Mensch, sondern wie ein Roboter, der mit kleinen Bausteinen arbeitet. Diese Bausteine heißen Tokens. Ein Token kann ein Buchstabe sein, ein Teil eines Wortes oder manchmal sogar ein ganzes Wort.
Zum Beispiel:
["E", "rd", "bee", "re"] (Das ist nur ein Beispiel – wie genau es zerlegt wird, hängt von meiner inneren „Sprache“ ab.)Wenn ich dann zählen soll, wie oft ein Buchstabe vorkommt, muss ich diese Tokens erst wieder zusammensetzen und genau hinschauen. Manchmal mache ich dabei einen Fehler, weil ich mich zu sehr auf die Tokenstruktur verlasse und nicht wie ein Mensch einfach jeden Buchstaben einzeln anschaue.
25




26

Die aktuelle Eingabe des Nutzers, der Auslöser der Antwort.
Manche Token, z.b. interne Chain-of-Thought Token werden generiert aber nicht angezeigt.
(in manchen Systemen kann man das ein- und ausschalten)
Antwort des Modells an den Endbenutzer
27

28

Im Gegensatz zu einem reinen Sprachmodell kann man sich mit einem Chatbot unterhalten. Doch wie funktioniert diese vermeintliche Konversation eigentlich?
Das Chatbot-System agiert als Vermittler. Es empfängt die Nutzereingabe und fügt automatisch die gesamte bisherige Unterhaltung (Kontext) hinzu, um den Anschein einer fortlaufenden Konversation zu erwecken.
Jedes Sprachmodell hat eine maximale Kontextgröße. Wenn die Unterhaltung zu lang wird, beginnt das Chatbot-System, ältere Teile der Konversation zu "vergessen", um neue Informationen aufzunehmen.
Wenn eine Unterhaltung viele unterschiedliche Themen oder Gedankenstränge enthält, kann das Sprachmodell verwirrt werden. Es fällt ihm schwerer, den roten Faden zu behalten und kohärente Antworten zu generieren.
29

Verlauf der aktuellen Unterhaltung, begrenzt auf den Prompt-Kontext.
Die aktuelle Eingabe des Nutzers, der Auslöser der Antwort.
Manche Token, z.b. interne Chain-of-Thought Token werden generiert aber nicht angezeigt.
(in manchen Systemen kann man das ein- und ausschalten)
Antwort des Modells an den Endbenutzer
30

Sprachmodelle können nur eine begrenzte Menge an Daten gleichzeitig verarbeiten.
Dies umfasst stets Ihren aktuellen Prompt und die Antwort !
Das Modell selbst besitzt kein Gedächtnis.
Für fortlaufende Dialoge wird der gesamte Chatverlauf dem aktuellen Prompt vorangestellt.
Wird der Dialog zu lang, können irrelevante Informationen die Antwortqualität mindern.
Oft passt nicht der gesamte vorherige Dialog in den Kontext. Das System versucht dann den Dialog sinnvoll zu kürzen. In der Folge gehen Informationen verloren
31

Um die besten Ergebnisse aus Ihren Interaktionen mit KI-Chatbots herauszuholen, ist es entscheidend, den Dialog bewusst zu steuern. Hier sind bewährte Praktiken:
Beschränken Sie sich auf das Wesentliche, um den Kontext des Modells nicht zu überladen und die Relevanz der Antworten zu sichern.
Vermeiden Sie es, verschiedene Themen in einem Chat zu behandeln. Dies verhindert Verwirrung und verbessert die Kohärenz der KI-Antworten.
Wenn Sie unterschiedliche Gedankengänge verfolgen möchten, starten Sie einen neuen Chat. Eine Zusammenfassung des alten Dialogs kann in den neuen kopiert werden.
ChatGPT bietet dazu eine Funktion "Splitten" an.
Korrigieren Sie Fehler oder ändern Sie Anfragen in alten Prompts. Das Modell startet ab diesem Punkt neu und ignoriert nachfolgende Verläufe.
Nutzen Sie dies nach Rückfragen um wieder zur Hauptdiskussion zu kommen
Die ChatGPT Funktionen werden meist zeitnah auch in Copilot-Umgebungen übernommen.
32

Es ist bekannt, dass Sprachnetzwerke Informationen erfinden, die sich absolut plausibel anhören. Aber warum passiert das eigentlich?
Sprachnetzwerke werden darauf trainiert, Lückentexte zu vervollständigen. Das heißt, sie füllen Lücken immer mit "etwas" aus. Die Antwort "das weiß ich nicht" kommt in echten Texten sehr selten vor und kann daher nur schwer trainiert werden. Dies führt dazu, dass Halluzinationen wahrscheinlicher in Bereichen auftreten, in denen sich das Netzwerk schlechter auskennt – leider oft genau dort, wo berufliche Fachkenntnisse gefragt sind.
Prüfen Sie im Zweifel die Quellen oder stellen Sie Rückfragen. Sogar ein einfaches "Stimmt das wirklich?" kann Halluzinationen aufdecken.
Lassen Sie sich nicht täuschen, wenn das Netzwerk sehr sicher wirkt. Auch wenn es eine Antwort mit z.B. "Verstanden, ich habe eine Liste, die die wichtigsten 3 Punkte erstellt:", hat es sich zu diesem Zeitpunkt die Liste noch gar nicht ausgedacht. Es generiert immer nur ein Token nach dem anderen.
33

Dieses Set von Rückfragen hilft, KI-Halluzinationen zu identifizieren. Ziel ist, dass die KI selbst ihre Aussagen auf Fundiertheit prüft, bevor sie Ihnen eine Antwort gibt.
34


35

Das Systemprompt definiert, wer die KI ist – ein hilfsreicher Assistent, ein Produktivitätstool oder ein kreativer Partner
Bestimmt die Kommunikationsweise – von sachlich-präzise bis freundlich-ausführlich
Legt fest, was erlaubt ist und welche Sicherheitsvorkehrungen greifen
Kleine Unterschiede im Systemprompt erzeugen spürbar unterschiedliches Verhalten. Daher wirken ChatGPT und Copilot fundamental anders, obwohl beide auf denselben Large Language Modellen basieren. Das Systemprompt ist die unsichtbare Hand, die jede Interaktion formt.
36

Das Systemprompt ist die heimliche UX-Architektur jeder KI-Anwendung. Es formt Erwartungen, Interaktionsmuster und die wahrgenommene „Persönlichkeit" des Systems.
Variationen in Gefühl, Tempo, Zitierverhalten und Aktionsvorschlägen zwischen KI-Systemen stammen primär aus den Systemprompts, nicht aus der zugrundeliegenden Modelltechnologie.
Wer das Prompt-Framework kontrolliert, kontrolliert die Produktpersönlichkeit. Dies macht Prompt-Design zu einer strategischen Kernkompetenz für KI-Produkte.
37

Definiert Rolle, Regeln und Grenzen des Modells.
Zusätzliche Instruktionen für Arbeitsweise oder Stil.
Metadaten wie Datum, Uhrzeit und Spracheinstellungen.
Verlauf der aktuellen Unterhaltung, begrenzt auf den Prompt-Kontext.
Die aktuelle Eingabe des Nutzers, der Auslöser der Antwort.
Manche Token, z.b. interne Chain-of-Thought Token werden generiert aber nicht angezeigt.
(in manchen Systemen kann man das ein- und ausschalten)
Antwort des Modells an den Endbenutzer
38

39

Aktuelle Daten
Proprietäre (Unternehmens-) Daten
40

Das sogenannte "In-Context Learning" ermöglicht es KI-Modellen, sich temporär neues Wissen anzueignen, indem relevante Informationen direkt in den Prompt eingegeben werden. Dies ist eine effektive Methode, um die KI für spezifische Aufgaben oder mit aktuellen Daten zu versorgen, die nicht Teil ihres ursprünglichen Trainingsdatensatzes waren.
Texte, Daten oder Anweisungen können direkt in das Eingabefeld kopiert und vor der eigentlichen Frage platziert werden. Die KI nutzt diese Informationen dann als temporäre Wissensbasis für die aktuelle Anfrage.
Einige KI-Plattformen erlauben das Hochladen von Dokumenten (z.B. PDFs, Word-Dateien), deren Inhalt dann als erweiterter Kontext für die folgenden Interaktionen dient. So kann die KI auf unternehmensspezifische Richtlinien oder aktuelle Berichte zugreifen.
Allerdings stößt dieser Ansatz schnell an seine Grenzen, da die Länge des Kontextfensters der KI stark begrenzt ist. Nur eine bestimmte Menge an Informationen kann gleichzeitig verarbeitet werden. Bei umfangreichem oder hochaktuellem Wissen sind andere Integrationsmethoden effizienter.
41

Die Integration von spezifischem Unternehmenswissen in KI-Modelle ist entscheidend. Zwei Hauptansätze stehen zur Verfügung, doch sie unterscheiden sich stark in ihren Mechanismen und Herausforderungen.
Beim Fine-Tuning wird das Modell mit zusätzlichen Daten trainiert, um sein Verhalten an spezifische Aufgaben oder Wissensbereiche anzupassen.
Retrieval-Augmented Generation (RAG) ergänzt das Sprachmodell dynamisch mit relevanten Informationen aus externen Quellen, bevor es eine Antwort generiert.
Aus diesen Gründen hat sich In-Context Learning mittels RAG als präferierter Ansatz für die dynamische Integration von aktuellem Unternehmenswissen etabliert.
42

RAG erweitert KI-Modelle um externe Datenquellen. Statt nur auf Trainingsdaten zurückzugreifen, können aktuelle Informationen aus Datenbanken, Intranets oder Dokumentensammlungen abgerufen werden.
Das System analysiert Ihre Frage und identifiziert relevante Suchbegriffe.
Durchsucht das Web, Ihr Firmen-Intranet, Dokumentensammlungen oder Datenbanken nach passenden Informationen.
Fügt die gefundenen Informationen dem Kontext hinzu.
Das Modell erstellt eine Antwort basierend auf aktuellen, unternehmensinternen Daten.
43

Während RAG spezifische Details effizient aus externen Quellen abruft, erhält das Sprachmodell oft nur isolierte "Schnipsel". Diese Fragmente allein können die tiefere Bedeutung oder komplexere Zusammenhänge, die über ein Dokument hinausgehen, nur schwer erkennen. Es fehlt der übergeordnete Blick, um das Gesamtbild zu verstehen und umfassende Antworten zu synthetisieren.
44

Definiert Rolle, Regeln und Grenzen des Modells.
Zusätzliche Instruktionen für Arbeitsweise und Stil
Metadaten wie Datum, Uhrzeit und Spracheinstellungen.
Verlauf der aktuellen Unterhaltung, begrenzt auf den Prompt-Kontext.
Ergebnisse aus externen Retrieval-Systemen (z.B. Dokumentenabruf).
Die aktuelle Eingabe des Nutzers, der Auslöser der Antwort.
Manche Token, z.b. interne Chain-of-Thought Token werden generiert aber nicht angezeigt.
(in manchen Systemen kann man das ein- und ausschalten)
Antwort des Modells an den Endbenutzer
45

Dem Sprachmodell wird eine Liste verfügbarer Werkzeuge (z.B. Rechner, Kalender, API-Zugriffe) im Kontext präsentiert.
Basierend auf dem Nutzer-Prompt wählt das Modell das passende Tool und generiert einen Tool-Aufruf.
Das externe System führt den generierten Tool-Aufruf aus und erzeugt ein Ergebnis.
Das Ergebnis der Tool-Ausführung wird als neuer Text in den Kontext des Sprachmodells zurückgespeist.
Das Modell wird erneut aufgerufen und generiert unter Berücksichtigung des Tool-Ergebnisses die finale Antwort an den Nutzer.
Die Werkzeugnutzung ermöglicht es Sprachmodellen, über ihr ursprüngliches Wissen hinauszugehen und dynamisch mit externen Systemen zu interagieren. So können sie aktuelle Daten abrufen, Berechnungen durchführen oder Aktionen auslösen – ein entscheidender Schritt hin zu noch nützlicheren und leistungsfähigeren KI-Assistenten.
46

Führt präzise mathematische Operationen durch, um genaue numerische Ergebnisse zu liefern.
Ermöglicht den Zugriff auf aktuelle Informationen aus dem Internet, um Wissen dynamisch zu erweitern.
Führt Code aus, um Daten zu analysieren, Skripte zu automatisieren oder komplexe Logik anzuwenden.
Interagiert mit externen Diensten und Datenbanken, um spezifische Funktionen oder Daten abzurufen.
Diese Tools ermöglichen es KI-Modellen, Aufgaben zu übernehmen, die über ihr reines Sprachverständnis hinausgehen – von der Echtzeitdatenbeschaffung bis zur komplexen Datenanalyse.
47


48

Das Machine Connecting Protocol (MCP) ist ein offener Standard, der die nahtlose Kommunikation zwischen KI-Modellen und beliebigen externen Systemen ermöglicht.
Um ein System an die KI anzuschließen, ist lediglich ein passender MCP Server erforderlich, der als universelle Schnittstelle dient.
Für die meisten gängigen Unternehmenssysteme sind bereits fertige MCP Server verfügbar, was die Integration erheblich vereinfacht und beschleunigt.
Zum Beispiel https://mcpservers.org
MCP eliminiert die Komplexität proprietärer Schnittstellen und ebnet den Weg für eine standardisierte, effiziente und skalierbare KI-Integration in Ihre bestehende IT-Infrastruktur.
49

Definiert Rolle, Regeln und Grenzen des Modells.
Zusätzliche Instruktionen für Arbeitsweise oder Stil.
Metadaten wie Datum, Uhrzeit und Spracheinstellungen.
Verlauf der aktuellen Unterhaltung, begrenzt auf den Prompt-Kontext.
Persistente, gespeicherte Informationen über den Nutzer.
Liste integrierter Werkzeuge (z.B. Browser, Code-Interpreter).
Ergebnisse aus externen Retrieval-Systemen (z.B. Dokumentenabruf).
Die aktuelle Eingabe des Nutzers, der Auslöser der Antwort.
Interner Monolog des Modells der dem Endnutzer nicht angezeigt wird.
Antwort des Modells an den Endbenutzer
50

51

52

53

54

Satya Nadella, CEO vom Microsoft, teilt seine Top-Prompts. Hier auf Deutsch übersetzt.
"Basierend auf meinen früheren Interaktionen mit [Person], gib mir 5 Dinge, die wahrscheinlich für unser nächstes Meeting ganz oben auf der Agenda stehen."
Diese Methode ist genial, weil sie Ihre Gesprächshistorie nutzt, um vorherzusagen, worüber jemand im nächsten Meeting sprechen möchte. Nie mehr unangenehme "Also... worüber wollten Sie sprechen?"-Momente.
"Entwirf ein Projekt-Update basierend auf E-Mails, Chats und allen Meetings in [Serie]: KPIs vs. Ziele, Erfolge/Misserfolge, Risiken, Wettbewerberaktionen, plus wahrscheinliche schwierige Fragen und Antworten."
Anstatt sich auf geschönte Updates zu verlassen, zieht die KI Informationen aus der tatsächlichen Kommunikation, um Ihnen ein realistisches Bild zu vermitteln.
"Sind wir auf Kurs für den [Produkt]-Launch im November? Prüfe den Fortschritt der Entwicklung, die Ergebnisse des Pilotprogramms und die Risiken. Gib mir eine Wahrscheinlichkeit."
Dieser Prompt fordert eine konkrete Wahrscheinlichkeit und nicht nur ein vages "Ja, wir sind auf Kurs", was oft "wahrscheinlich nicht" bedeutet.
"Überprüfe meinen Kalender und meine E-Mails vom letzten Monat und erstelle 5 bis 7 Kategorien für Projekte, für die ich die meiste Zeit aufwende, mit Zeitanteil in Prozent und kurzen Beschreibungen."
Dies kann aufschlussreich sein für jeden, der sich ständig beschäftigt fühlt, aber nicht genau weiß, was er eigentlich erreicht.
"Überprüfe [ausgewählte E-Mail] + bereite mich auf das nächste Meeting in [Serie] vor, basierend auf früheren Diskussionen mit dem Manager und dem Team."
Verwandelt Ihre KI in einen Briefing-Assistenten, der den vollständigen Kontext laufender Gespräche kennt.
55

56

57

Diese erweiterten Funktionen transformieren ChatGPT von einem reinen Chatbot zu einem mächtigen Werkzeug für Informationsbeschaffung und Aufgabenautomatisierung.
Ermöglicht den Zugriff auf aktuelle Informationen aus dem Internet. ChatGPT kann aktiv online recherchieren, um Fragen zu beantworten oder Inhalte zu generieren, die über das ursprüngliche Trainingsdaten hinausgehen. Dies ist entscheidend für Genauigkeit und Relevanz bei dynamischen Themen.
Verwandelt ChatGPT in einen autonomen Agenten, der komplexe Aufgaben durch eine Abfolge von Schritten löst. Es plant, führt aus und passt sich an, um Ziele zu erreichen – von der Datenanalyse bis zur Steuerung externer Tools.
Während DeepResearch die Informationsbasis verbreitert, ermöglicht der Agent Mode die proaktive Ausführung und Verwaltung von Prozessen.
58

Kernbotschaft: Copilot für internes Wissen und sichere Zusammenarbeit, ChatGPT für externes Wissen und kreative Exploration.
59

Eine gemeinsame Wissensdatenbank für effektive Prompts schafft Konsistenz und beschleunigt die Anwendung von KI im Unternehmen.
Erfolgreiche Prompts an einem Ort sammeln, um Best Practices zugänglich zu machen und Doppelarbeit zu vermeiden.
Im Team Prompts optimieren und an spezifische Anwendungsfälle anpassen, um maximale Ergebnisse zu erzielen.
Eine engagierte Person oder Gruppe übernimmt die Pflege und Qualitätssicherung der Prompt-Bibliothek.
Durch Feedback und neue Erkenntnisse wird die Sammlung stetig verbessert und erweitert.
60

Agenten und Custom GPTs transformieren die Prompt-Kuration und den Wissenstransfer im Team zu einem zentralen und skalierbaren Prozess.
Komplexe Prompt-Ketten werden in wiederverwendbaren Agenten gebündelt, was die Anwendung für das Team deutlich vereinfacht und konsistent macht.
Agenten können mit unternehmensspezifischen Dokumenten und internen Richtlinien angereichert werden, um präzise und konforme Ergebnisse zu gewährleisten.
Einmal erstellte Agenten werden zentral verwaltet und skalierbar allen Teammitgliedern zur Verfügung gestellt, was die Adoption von Best Practices fördert.
61

62

Copilot Studio nutzt angebundenes Wissen (z. B. SharePoint, Dateien, Websites) über eine einmalige Suche pro Nutzerfrage.
Copilot Studio greift auf konfigurierte Wissensquellen zu und führt eine einzelne Suchabfrage für jede Nutzeranfrage durch.
Das Ergebnis dieser einmaligen Suche wird direkt in die generierte Antwort integriert, vergleichbar mit dem Entnehmen einer Information aus einem Ordner.
Copilot sucht nicht selbstständig mehrfach nach. Es stellt keine zusätzlichen Rückfragen an seine Wissensquelle, sondern antwortet nur mit dem, was aus der ersten Suche kommt.
Jede nachfolgende Frage eines Nutzers, auch eine Folgefrage, löst erneut eine neue, einzelne Suche in den angebundenen Wissensquellen aus.
63

Copilot Studio ist darauf ausgelegt, Fragen direkt zu beantworten, stößt jedoch an seine Grenzen, wenn es um mehrstufige Analysen und gezielte Dokumentenprüfung geht.
Copilot Studio sucht im Wissen ausschließlich auf Basis der initialen Nutzerfrage (z. B. „prüfe meine Abrechnung“), ohne eigenständig eine tiefere Analyse vorzunehmen.
Das hochgeladene Dokument wird (im Gegensatz zur Nutzereingabe) nicht genutzt, um gezielt innerhalb des Wissens nachzuschlagen. Stattdessen wird es einfach dem Kontext hinzugefügt.
Das Ergebnis sind oft allgemeine Hinweise aus dem Wissensspeicher, aber keine gezielte Prüfung oder Validierung einzelner Kostenpositionen im Kontext des bereitgestellten Dokuments.
Für eine echte Prüfung wären mehrere Schritte nötig (Positionen erkennen → passende Regeln suchen → vergleichen). Diese agentische Fähigkeit fehlt Copilot Studio in seiner aktuellen Form.
64

Im Gegensatz zur einmaligen Wissenssuche von Copilot Studio operieren agentische Abläufe in mehreren, intelligent miteinander verknüpften Schritten, um komplexere Aufgaben zu lösen.
Die KI identifiziert und isoliert alle relevanten Kostenpositionen aus der vorliegenden Abrechnung.
Für jede extrahierte Position werden im hinterlegten Unternehmenswissen die passenden Prüfungsregeln und Richtlinien gesucht.
Die extrahierten Daten werden mit den gefundenen Regeln verglichen und auf Korrektheit und Konformität überprüft.
Das Ergebnis ist eine zielgerichtete und detaillierte Analyse, die dem Nutzer konkrete Antworten und Handlungsempfehlungen liefert, anstatt nur allgemeiner Hinweise.
Für den Endnutzer bleibt die Anwendung einfach und intuitiv. Die Entwicklung solcher agentischen Systeme erfordert jedoch Spezialisten, da sie auf komplexere Frameworks wie LangChain, Semantic Kernel oder CrewAI aufbauen.
65

Agenten, die mit intelligenten Protokollierungs- und Schutzmechanismen ausgestattet sind, können weit über die reine Assistenz hinausgehen und sich als echte Co-Worker nahtlos in Geschäftsprozesse integrieren.
Jeder Schritt und jede Entscheidung des Agenten wird lückenlos protokolliert. Dies schafft Transparenz, ermöglicht eine einfache Fehleranalyse und gewährleistet die Auditierbarkeit aller Aktionen.
Festgelegte Schutzmechanismen und Richtlinien stellen sicher, dass der Agent stets innerhalb definierter Grenzen operiert. Dies verhindert unerwünschte Aktionen und gewährleistet die Einhaltung unternehmensinterner Regeln und externer Vorschriften.
Dank ihrer Fähigkeit, Logs zu generieren und Guardrails zu beachten, können Agenten direkt in bestehende Arbeitsabläufe eingebunden werden. Sie übernehmen automatisierte Teilprozesse und interagieren autonom mit anderen Systemen.
Im Gegensatz zu einem Chatbot, der primär assistiert, agiert ein echter Agent als proaktiver Co-Worker. Er führt eigenverantwortlich Aufgaben aus, trifft basierend auf Kontext Entscheidungen und entlastet menschliche Mitarbeiter.
66

Privat nutzen wir Chatbots oft für Themen, in denen wir selbst keine Experten sind. Die 80% "Beherrschung" des Themas durch den Chatbot übertrifft hier oft unser eigenes Wissen bei Weitem. Wir empfangen einen großen Mehrwert, und die fehlenden 20% fallen kaum ins Gewicht.
Im Unternehmen arbeiten wir oft auf Expertenniveau und verdienen unser Geld mit tiefem Fachwissen. Der Chatbot erreicht hier vielleicht nur 50% des Themas und liegt nur knapp über oder sogar unter unserer eigenen Expertise. Der Mehrwert ist geringer, und Fehler sind sofort offensichtlich.

67

68

Wir freuen uns auf Ihre Fragen und eine angeregte Diskussion.
69

KI-Assistenten im Unternehmen: Copilot & ChatGPT Schulung