Wie funktioniert der KI-Tutor?
- Der KI-Tutor Kim ist ein 24 Stunden am Tag verfügbarer Online-Chat auf der Lernplattform von Duden Learnattack und auf WhatsApp, der die Lernenden bei ihren schulischen Herausforderungen unterstützt. Der KI-Tutor hat Zugriff auf sämtliche Lerninhalte von Duden Learnattack und nutzt diese, um die Lernenden ans Ziel zu bringen.
- Dabei werden die Anfragen über eine vermittelnde und abgesicherte Zwischenschicht an ein sogenanntes „generatives KI-Sprachmodell" übertragen.
- Unser Hauptziel ist es, den Lernenden genaue und relevante Informationen zu liefern. Für den größtmöglichen Lernerfolg wird sichergestellt, dass die Interaktion mit den Lernenden sicher und positiv ist.
Wie funktioniert die Sicherheit von KI-Tutor Kim?
-
Durch die vermittelnde Zwischenschicht werden Anfragen von Lernenden nicht direkt an das KI-Sprachmodell übertragen, sondern zunächst gefiltert. Wir sorgen dafür, dass möglichst keine persönlichen Daten übertragen werden. Das können z. B. Personennamen, E-Mail-Adressen oder Bankverbindungen sein. Die Anonymisierung und Filterung funktioniert kontextabhängig, da es bei manchen Themen z. B. auch um historische Personen geht, deren Namen nicht anonymisiert werden.
- Wir verfügen über integrierte Feedback-Funktionen, sodass die Lernenden ihre Fragen oder Bedenken ganz einfach direkt an uns richten können.
-
Wir nutzen einen ethischen und verantwortungsvollen KI-Entwicklungsprozess, bei dem die Bedürfnisse der Lernenden an erster Stelle stehen.
- Wir verwenden Moderationstechnologie, um Interaktionen zu erkennen, die möglicherweise unpassend, unangemessen oder unsicher sind, und verhindern diese.
- Zur Sicherheit speichern wir die Gespräche anonymisiert bis zu einem Jahr, um bei problematischen Inhalten eingreifen zu können.
Wir bitten Sie daher unbedingt, keine persönlichen, privaten oder sensiblen Informationen mit Kim zu teilen!
Kann Kim Fehler machen?
Trotz unserer hohen Sicherheitsvorkehrungen kann es dazu kommen, dass der KI ein Fehler unterläuft. Folgende Gründe können dazu führen:
-
Verstehen von Fragen: Manchmal sind Fragen mehrdeutig oder komplex und es ist nicht ganz eindeutig, was gemeint ist. Dann kann die Antwort des Sprachmodells danebenliegen.
-
Grenzen des Wissens: Bei sehr spezifischen oder tiefgehenden Themen hat das Sprachmodell möglicherweise nicht genug Detailwissen, um eine vollständige Antwort zu geben.
-
Fehler in den Trainingsdaten: In den Trainingsdaten des Sprachmodells können Fehler enthalten gewesen sein. Im Schulkontext tritt dieses Problem jedoch sehr selten auf.
-
Sprachliche Feinheiten: Sprache kann sehr nuanciert sein. Die Interpretation kann manchmal von dem abweichen, was ein Mensch denken oder fühlen würde.
-
Sicherheit und Ethik: Um einen sicheren und ethischen Gesprächsrahmen zu garantieren, beantwortet die KI manche Fragen nicht.
Vertrauen Sie im Zweifelsfall den Lernvideos oder den Texten von Duden Learnattack!
Welche Technologie kommt zum Einsatz?
Zwischenschicht
Als Zwischenschicht, auch „Proxy" genannt, setzen wir auf die Technologie der Firma Ezri. Hier findet die Anonymisierung, die Filterung und das sogenannte „Prompting", d. h. die Handlungsanweisungen an die KI, zwischen den Lerninhalten von Duden Learnattack und dem KI-Sprachmodell statt.
KI-Sprachmodell
- Als Sprachmodell kommt das KI-Modell von ChatGPT zum Einsatz, basierend auf GPT-4 (Generative Pre-trained Transformer 4). Das Modell ist darauf ausgelegt, möglichst menschenähnliche, zusammenhängende und informative Texte zu generieren und auf eine Vielzahl von Anfragen in natürlicher Sprache zu reagieren.
- Weitere Informationen finden Sie auch in unseren Nutzungsbedingungen und in unserer Datenschutzerklärung.
