Die Online-Ausgabe des KI-Stammtischs des Mittelstand-Digital Zentrums Ilmenau widmete sich diesen Monat den besonderen ethischen Fragestellungen, die bei der Entwicklung und der Nutzung von Künstlicher Intelligenz nicht außer Acht gelassen werden sollten. Als Expertin auf diesem Gebiet erläuterte Frau Prof. Dr. Christina Claß von der Ernst-Abbe-Hochschule Jena grundlegende ethische Anforderungen an KI-Systeme und wie ethische Aspekte bei Entwicklung und Einsatz von KI-Systemen beachtet werden können.
Der im Anschluss an ihren Impuls entstandene Austausch über die Notwendigkeit ethischer Überlegungen vor dem Hintergrund aktueller Entwicklungen von autonomen Waffensystemen hat einmal mehr gezeigt, wie wichtig verantwortungsvolle Technologieentwicklung ist. KI-Systeme beeinflussen bereits viele Lebensbereiche – von medizinischer Diagnose bis hin zur Entscheidungsfindung in Unternehmen. Doch ohne klare ethische Leitlinien können Vorurteile, Diskriminierung oder sogar gesellschaftliche Schäden entstehen. Ein bewusster und transparenter Umgang mit KI ist daher unerlässlich, um Fairness, Datenschutz und Menschenrechte zu gewährleisten.
Im Vordergrund der Diskussion stand zudem der Handlungsbedarf für Unternehmen, welcher sich aus den ersten in Kraft getretenen Vorschriften der Europäischen Verordnung zur Regulierung Künstlicher Intelligenz (KI-VO) am 2. Februar 2025 ergibt. Artikel 5 verbietet beispielsweise KI-Systeme, die durch manipulative oder unterschwellige Techniken das Verhalten von Menschen beeinflussen oder gezielt deren Schwächen – etwa aufgrund ihres Alters oder sozialer Umstände – ausnutzen. Ebenso ist das Social Scoring verboten, also die KI-gestützte Bewertung von Personen durch öffentliche Behörden basierend auf ihrem sozialen Verhalten oder persönlichen Merkmalen. Daneben schreibt Artikel 4 der KI-VO den Unternehmen vor, gezielte Maßnahmen zu ergreifen, um die KI-Kompetenz der Mitarbeitenden zu stärken, die „mit dem Betrieb und der Nutzung von KI-Systemen befasst sind“. Diese Kompetenz umfasst das notwendige Wissen, die Fähigkeiten sowie ein grundlegendes Verständnis für KI-Technologien mit dem Ziel, KI-Systeme fachgerecht einzusetzen und zugleich ein Bewusstsein für deren Chancen, Risiken und potenzielle Schäden zu schaffen. Unternehmen sind daher verpflichtet, ihre Mitarbeitenden entsprechend zu schulen.
Dabei sorgen die recht vagen Formulierungen besonders bei kleinen und mittleren Unternehmen für Verunsicherung über den konkreten Handlungsbedarf. ‚Welche konkreten Schulungen damit gemeint sein könnten‘ und ‚welche expliziten Kompetenzen ihre Mitarbeitenden erwerben sollten‘, sind nur einige Fragen, die aktuell diskutiert werden.
Was können Sie im ersten Schritt tun?
Unternehmen sollten zunächst eine umfassende Bestandsaufnahme durchführen, um festzustellen, welche KI-Systeme bereits genutzt werden oder künftig zum Einsatz kommen sollen. Selbst bei kleineren Anwendungen wie Microsoft Copilot oder OpenAIs ChatGPT ist es notwendig, dass die Mitarbeitenden über die erforderlichen KI-Kompetenzen verfügen. Zudem empfiehlt es sich, interne Richtlinien oder Leitfäden zu erstellen, die klare Standards für den Einsatz von KI-Systemen festlegen. Diese können als verbindlicher Rahmen dienen, um die Einhaltung der Verordnung sicherzustellen. Die Benennung eines internen oder externen KI-Beauftragten kann dabei unterstützen, die Maßnahmen zu koordinieren und als zentrale Ansprechperson für alle KI-relevanten Fragen zu fungieren.
Wie können wir Ihnen weiterhelfen?
Karsten Jahn betonte die kostenfreien Unterstützungsleistungen des Mittelstand-Digital Zentrums Ilmenau für kleine und mittlere Unternehmen. Als konkretes Ergebnis aus der Diskussion mit Ihnen und als Reaktion auf die in Kraft getretenen Teile der KI-Verordnung, bieten wir in Kooperation mit den Thüringer Industrie- und Handelskammern ein neues Format zur Auskunft und Orientierung an: Online-KI-Sprechtage. Melden Sie sich hier gern für den ersten Termin am 29. April 2025 von 10 bis 11 Uhr an.
Wir danken allen Teilnehmenden und besonders Frau Prof. Dr. Christina Claß für die wertvollen Impulse!
Bei Fragen zum Thema KI und Ethik wenden Sie sich gern an:
Karsten Jahn
KI-Trainer Modellfabrik Virtualisierung
Telefon: +49 3641 205-376
E-Mail: jahn@kompetenzzentrum-ilmenau.de
Bildquellen
- KI-und Ethik: leonardo.ai
