Erklärbarkeit und Menschliche Aufsicht bei KI-Systemen in der Bildung

Der Einsatz Künstlicher Intelligenz (KI) in der beruflichen Bildung bietet erhebliches Potenzial, ist jedoch mit ethischen und regulatorischen Herausforderungen verbunden. Dieser Beitrag analysiert die ethischen und regulatorischen Implikationen von KI in der beruflichen Bildung und präsentiert Str...

詳細記述

書誌詳細
出版年:TH Wildau Engineering and Natural Sciences Proceedings
主要な著者: André Bonne, Uwe Schaffranke
フォーマット: 論文
言語:英語
出版事項: TIB Open Publishing 2025-09-01
主題:
オンライン・アクセス:https://www.tib-op.org/ojs/index.php/th-wildau-ensp/article/view/2942
その他の書誌記述
要約:Der Einsatz Künstlicher Intelligenz (KI) in der beruflichen Bildung bietet erhebliches Potenzial, ist jedoch mit ethischen und regulatorischen Herausforderungen verbunden. Dieser Beitrag analysiert die ethischen und regulatorischen Implikationen von KI in der beruflichen Bildung und präsentiert Strategien zur Minimierung potenzieller Risiken. Anhand eines praxisorientierten Beispiels KFZ Elektromotor wird die Implementierung eines KI-Systems in einem beruflichen Bildungszentrum veranschaulicht. Es werden konkrete Lösungsansätze vorgestellt, um Data-Biases, Datenschutzverletzungen und andere ethische Bedenken zu adressieren. Durch die sorgfältige Selektion und Aufbereitung von Trainingsdaten sowie den Einsatz erklärbarer KI-Modelle wird die Entwicklung fairer, transparenter und zuverlässiger KI-Systeme in der Bildung gefördert. Der Beitrag betont die Notwendigkeit der Konformität mit ethischen Prinzipien bei der Entwicklung und Implementierung von KI-Systemen. Im Kontext des EU AI Acts wird insbesondere auf die Kategorie der hochrisikobehafteten KI-Systeme eingegangen, zu denen KI-Systeme in der beruflichen Bildung potenziell zählen können. Trotz der regulatorischen Herausforderungen werden Akteure ermutigt, KI zur Erstellung von Bildungsinhalten einzusetzen. Die implementierte Lösung sieht eine menschliche Aufsicht mit entsprechenden IT-Systemen und Richtlinien vor, die als Middleware und Vertrauensinstanz fungiert.
ISSN:2748-8829