KI Grundsätze
Unser Ziel ist es, Lehrkräfte zu unterstützen und allen Schüler:innen zu helfen, ihr Potenzial auszuschöpfen. Wir wissen um die potenziellen Vorteile von KI-Tools, sind uns aber auch der Verantwortung bewusst, Ihre Daten zu schützen. Wann immer wir also neue Funktionen hinzufügen, achten wir darauf, dass Ihre Daten sicher sind, besonders wenn es um KI geht.
Die Sanoma Gruppe (einschließlich itslearning) haben proaktiv einen strukturierten Governance-Prozess für die Verwendung von KI eingeführt. Das bedeutet, dass alle unsere KI Entwicklungen in der Entwurfsphase einen Bewertungsprozess durchlaufen, um sicherzustellen, dass die Vorteile von KI für die Nutzer:innen ebenso berücksichtigt werden wie ethische und datenschutzrechtliche Aspekte.

ETHISCHE KI

Bildung in einer neuen Ära



KI in itslearning
KI wird niemals die einzigartige Expertise, das Wissen oder die Kreativität von Pädagog:innen ersetzen. Stattdessen kann es als guter Verbündeter dienen, der die Lehr- und Lernerfahrungen verstärkt und bereichert.
Unser Team untersucht die Integration von generativer KI in unser Learning Management System (LMS), wobei der Schwerpunkt zunächst auf der Unterstützung von Lehrkräften bei der Erstellung von Inhalten und der Rationalisierung ihrer Arbeitsabläufe liegt. Obwohl wir vom Potenzial der generativen KI begeistert sind, legen wir großen Wert darauf, dass die Lehrkräfte die Kontrolle über die Inhalte behalten, bevor diese an Schüler:innen weitergeleitet werden.
Alle unsere KI-Entwicklungen durchlaufen in der Entwurfsphase einen Evaluierungsprozess. Hier berücksichtigen wir:
- Ethik und Richtlinien (intern, extern)
- Der KI-Rechtsakt
- Nutzerzentrierte Gestaltungsprinzipien
- Eine Folgenabschätzung zum Datenschutz
Dadurch wird sichergestellt, dass die Vorteile von KI für die Nutzer:innen ebenso berücksichtigt werden wie ethische und datenschutzrechtliche Aspekte. Dies ist Teil unseres Überprüfungsprozesses, bevor eine neue Funktion zur Entwicklung freigegeben werden kann.
In unseren Entwicklungsumgebungen testen wir aktiv KI-Technologien, um bestimmte Ziele zu erreichen. Nichtsdestotrotz bleibt der Schutz der Daten von Lehrkräften und Schüler:innen und die strikte Einhaltung der DSGVO-Grundsätze und Datenschutzstandards durch unsere KI-Partner unser größtes Anliegen. Seien Sie versichert, dass wir unseren Kund:innen diese Funktionen erst dann zur Verfügung stellen, wenn wir uns in diesen wichtigen Aspekten vollkommen sicher sind. Außerdem überlassen wir unseren Kund:innen die Entscheidung, welche Funktionen sie in ihrer Organisation implementieren möchten.

Das Umfragetool ist das erste seiner Art in itslearning, das KI nutzt. Pädagog:innen können einfach ein Umfragethema eingeben und beobachten, wie die KI eine Umfrage mit einer kurzen Einführung generiert. Dieses Tool wurde entwickelt, um Pädagog:innen zu helfen, wertvolle Zeit zu sparen.

Q2 2024

Hoch bewertet
KI Überlegungen und Bedenken
- Bedenken hinsichtlich der Genauigkeit von generativer KI, insbesondere Large Language Models (LMM) wie Chat GPT
- Das Blackbox-Problem - Wir können nicht vorhersagen, wie Deep-Learning-Systeme ihre Entscheidungen treffen. Wie können wir ohne Einblick in die Methodik der KI-Modelle sicher sein, dass sie unvoreingenommen und ethisch einwandfrei sind?
- Voreingenommenheit, Transparenz und Fairness - KI verfügt nur über eine begrenzte Fähigkeit zum kritischen Denken. Da Menschen nicht in der Lage sind, diese Prozesse anstelle von KI zu überprüfen, ist es unmöglich festzustellen, ob die Schlussfolgerungen fair gezogen wurden oder ob voreingenommenes, veraltetes oder problematisches Material die endgültige Entscheidung beeinflusst hat.
- Plagiat - Eines der meistdiskutierten Themen in KI der Bildung. Derzeit ist es unmöglich, Arbeiten, die mit generativen KI Modellen erstellt wurden, zuverlässig zu erkennen.
- Fehlinformationen - LLMs sind so konzipiert, dass sie Informationen anbieten, indem sie Datenbanken durchsuchen und auf der Grundlage der passendsten Ergebnisse und Wahrscheinlichkeiten fundierte Vermutungen anstellen. Je nach dem von Ihnen verwendeten Tool bieten LLMs in vielen Fällen keine Liste relevanter Quellen für Ihre eigene Überprüfung; stattdessen stellen sie ihre Ergebnisse als endgültig dar.
- Privatsphäre - KI-gestützte Tools sind sehr datenhungrig und benötigen große Mengen an Informationen, um effizient arbeiten zu können. Bei ihren Bemühungen, die Fähigkeiten von KI zu verbessern, können Schulen und Pädagog:innen diese Modelle unwissentlich mit scheinbar unbedeutenden Daten füttern, was potenzielle Risiken für den Datenschutz und unvorhergesehene Auswirkungen mit sich bringt.
- Auswirkungen auf die Umwelt - Da generative KI-Tools mit immer größeren Datensätzen trainiert werden und immer mehr Energie verbrauchen, stellt sich die Frage, welche Auswirkungen der Energieverbrauch auf die Umwelt hat.
Schlussfolgerung
KI hat das Potenzial, die Bildung zum Besseren zu verändern, indem sie das Lernen individueller gestaltet und Lehrkräften wertvolle Zeit spart. Aber sie bringt auch Überlegungen und ethische Herausforderungen mit sich. Bei itslearning folgen wir einem strukturierten Governance-Prozess, um die Risiken im Rahmen der sechs von Sanoma festgelegten ethischen KI-Grundsätze zu mindern:
- Relativ zu positiven Auswirkungen
- Menschliche Verantwortung
- Erklärbarkeit
- Transparenz
- Risiko- und Folgenabschätzung
- Beaufsichtigung
Wenn wir diese Dinge richtig angehen, kann KI einen großen Unterschied machen, ohne die Regeln zu verletzen. Wir berücksichtigen all diese Überlegungen bei unserer Produktentwicklung, und wir fordern unsere Kund:innen auf, dasselbe zu tun, wenn sie die Möglichkeiten von KI untersuchen.
