Künstliche Intelligenz

KI-Chatbot kommt jetzt in Berlins Schulen – warum das gefährlich ist

Lehrkräfte können interaktive Unterrichtsmaterialien und Lernszenarien mit KI erstellen und teilen.

Author - Sharone Treskow
Teilen
Ein KI-Chatbot kommt offiziell an Berliner Schulen. Was das wirklich bedeutet.
Ein KI-Chatbot kommt offiziell an Berliner Schulen. Was das wirklich bedeutet.Berliner Kurier/KI-generiert

Künstliche Intelligenz ist überall. Gegoogelt wird kaum noch, stattdessen wird lieber ChatGPT gefragt. Ob TikTok-Feed, Amazon-Vorschläge oder Navi-Route: KI lenkt längst unseren Alltag. Auch in Berlins Schulen wird jetzt ganz offiziell ein Chatbot eingeführt. Unsere Bildungssenatorin spricht von Fortschritt, doch dieser hat auch seinen Preis.

KI in der Schule? So funktioniert der neue Chatbot

Die Senatsverwaltung für Bildung, Jugend und Familie informiert: Der speziell für den pädagogischen Einsatz entwickelte KI-Chatbot AIS.chat steht ab sofort allen öffentlichen Schulen in Berlin kostenfrei zur Verfügung. Lehrkräfte erhalten damit über das Berliner Schulportal Zugang zu einer datenschutzkonformen Anwendung generativer Künstlicher Intelligenz für den Einsatz im Schulalltag und Unterricht.

Lehrer dürfen in Berlin jetzt mit KI Unterichtsmaterial erstellen (Symbolfoto).
Lehrer dürfen in Berlin jetzt mit KI Unterichtsmaterial erstellen (Symbolfoto).Frank Hoermann/Sven Simon/imago

Wie funktioniert das Ganze? Mit AIS.chat können Lehrkräfte unter anderem Unterrichtsmaterialien erstellen, Unterrichtsstunden vorbereiten, Texte analysieren sowie individuell anpassbare KI-Assistenten nutzen. Darüber hinaus können „Lernszenarien“ und „Dialogpartner“ erstellt und per Link oder QR-Code unkompliziert mit Schülerinnen und Schülern geteilt werden.

Lernszenarien ermöglichen Schülerinnen und Schülern eine interaktive und eigenständige Auseinandersetzung mit Lerninhalten. Dialogpartner simulieren Gespräche mit historischen oder fiktiven Personen und eröffnen neue Zugänge zu Unterrichtsthemen.

Bildungssenatorin überraschend fortschrittlich

„Der Umgang mit Künstlicher Intelligenz gehört zunehmend zum schulischen Alltag und zur Lebensrealität junger Menschen“, betont Katharina Günther-Wünsch, Senatorin für Bildung, Jugend und Familie. „Deshalb ist es wichtig, dass Schülerinnen und Schüler sowie Lehrkräfte den reflektierten und verantwortungsvollen Umgang mit KI frühzeitig erlernen und erproben können.“

Katharina Günther-Wünsch befürwortet den Fortschritt.
Katharina Günther-Wünsch befürwortet den Fortschritt.M. Popow/imago

Mit AIS.chat stelle man den Berliner Schulen erstmals eine datenschutzkonforme KI-Anwendung zur Verfügung, die pädagogisch sinnvoll im Unterricht eingesetzt werden kann. „Damit stärken wir digitale Bildung und unterstützen Lehrkräfte zugleich ganz praktisch im Schulalltag“, so Günther-Wünsch. „Berlin setzt damit ein klares Zeichen dafür, digitale Innovationen verantwortungsvoll und praxisnah in die Schule zu integrieren.“

Infobox image
Christian Ohde/Imago
Über AIS.chat
AIS.chat ist eine KI-Chatbot-Oberfläche, die an verschiedene Sprachmodelle (Large Language Models, LLMs) angebunden ist. AIS.chat ist über den datenschutzkonformen Anmeldedienst VIDIS an das Berliner Schulportal angebunden. Die zugrundeliegenden Sprachmodelle werden ausschließlich auf Servern innerhalb der EU gehostet. Daten, die bei der Arbeit in AIS.chat anfallen, werden nicht an Dritte weitergegeben oder für ein Training der LLMs verwendet.

Warum KI im Schulalltag nicht unproblematisch ist

Laut Kritikern ist KI im Schulalltag mit Vorsicht zu genießen. Wenn Schüler regelmäßig auf KI zurückgreifen, um Texte zu schreiben oder Aufgaben zu lösen, kann das dazu führen, dass grundlegende Fähigkeiten wie eigenes Formulieren, kritisches Denken oder Problemlösen weniger trainiert werden. Lernen könnte sich stärker in Richtung „Antwort abholen“ verschieben, statt Inhalte selbst zu erarbeiten.

Ein weiteres Problem: Auch entsprechende Chatbots liefern nicht immer korrekte oder neutrale Antworten, sondern können falsche Informationen („Halluzinationen“) oder einseitige Darstellungen produzieren. Gerade im Unterricht besteht die Gefahr, dass solche Inhalte ungeprüft übernommen werden. Besonders von jüngeren Schülern, die die Qualität schwer einschätzen können.

KI sollte trotz Vorsichtsmaßnahmen nicht unbedacht eingesetzt werden (Symbolfoto).
KI sollte trotz Vorsichtsmaßnahmen nicht unbedacht eingesetzt werden (Symbolfoto).Stefan Arend/imago

Außerdem bleiben der Datenschutz und der Umgang mit sensiblen Daten kritisch. Auch wenn Systeme wie AIS.chat laut Senat datenschutzkonform arbeiten sollen, bleibt die grundsätzliche Frage bestehen, welche Daten im Schulalltag entstehen und wie sie langfristig genutzt werden. Kritiker warnen, dass schon die Eingaben von Schülern persönliche Informationen enthalten können und der Umgang damit hohe Anforderungen an Transparenz und Kontrolle stellt.

Wie ist Ihre Meinung zu dem Thema? Schicken Sie uns einen Leserbrief per Mail an leser-bk@berlinerverlag.com.