Interview mit Dympna O’Sullivan: KI-Politik und Geschlechterdiversität in der IT

Dympna O’Sullivan ist die akademische Leiterin des Digital Futures Research Hub an der TU (Technische Universität) Dublin. Bevor sie zur TU Dublin kam, arbeitete sie als Dozentin für Informatik an der Aston University in Birmingham und als Senior Lecturer für Gesundheitsinformatik an der City University of London. Nach ihrer Promotion arbeitete sie in der Forschungsgruppe Mobile Emergency Triage an der Universität von Ottawa. Sie besitzt einen BSc und einen PhD in Informatik vom University College Dublin. 

Ihre Forschung liegt im Bereich des Applied Social Computing und umfasst auch die Computerethik. Sie untersucht die gesellschaftlichen Auswirkungen neuer Technologien, darunter künstliche Intelligenz, algorithmische Entscheidungsfindung und die damit verbundenen Auswirkungen von KI auf Privatsphäre, Fairness, Transparenz und Befangenheit. Sie entwickelt Methoden für erklärbare KI, die darauf abzielen, die Verständlichkeit von KI-Systemen für Endnutzer zu verbessern. Ihre Forschung wird durch Governance und Gesetzgebung untermauert, um vertrauenswürdige KI zu gewährleisten.

Dympna O’Sullivan, Leiterin der Forschungsabteilung der TU Dublin

Was denken Sie über den EU-AI-Act? Sie haben erwähnt, dass Sie sehr für eine Regulierung sind. Könnten Sie das bitte näher erläutern?

Sicher, ja. Wir an Institutionen wie der TU Dublin unterstützen das EU-KI-Gesetz sehr und setzen uns für eine robustere Regulierung von KI im Allgemeinen ein. In der Tat waren wir eine der ersten Universitäten, die Inhalte zur KI-Ethik in ihre Lehrpläne aufgenommen haben. Wenn wir über KI-Ethik sprechen, geht es um Themen wie Fairness, Voreingenommenheit, Diskriminierung und Verantwortlichkeit. Es gibt zwar bestimmte Softwareentwicklungspraktiken, die dazu beitragen können, diese Risiken zu mindern, aber die Regulierung spielt eine entscheidende Rolle bei der Durchsetzung. Wir glauben an einen umfassenden Bildungsansatz, der sich darauf konzentriert, wie sich die entwickelte Software auf die Endnutzer auswirkt. Diese breitere Perspektive unterstreicht die Bedeutung der Regulierung bei der Abschwächung der Risiken, die mit den Auswirkungen der KI auf die Endnutzer verbunden sind. Es gibt immer wieder das Argument, dass Regulierung die Innovation hemmt, aber das glauben wir nicht. In vielen Hochrisikobereichen wie der Pharmazie gibt es trotz Regulierung zahlreiche Innovationen.

Es besteht der Eindruck, dass Vorschriften wie die Datenschutzgrundverordnung Innovationen behindern. Wie können Unternehmen Ihrer Meinung nach diese Herausforderung meistern und gleichzeitig die DSGVO einhalten?

Die DSGVO und das EU-KI-Gesetz sind miteinander verwoben und die EU hat die Notwendigkeit erkannt, Unternehmen besser auf die Einhaltung der DSGVO vorzubereiten. Im Rahmen des EU-KI-Gesetzes werden die einzelnen Mitgliedsstaaten Organisationen einrichten, die sogenannten Sandboxes, um Unternehmen bei der Vorbereitung auf die Einhaltung der Vorschriften zu unterstützen. Diese Sandkästen bringen politische Entscheidungsträger, Regierungsbeamte, Akademiker und die Industrie zusammen, um risikoreiche Anwendungen zu identifizieren, Dokumentationsanforderungen zu bestimmen und die Einhaltung der Vorschriften zu erleichtern. Diese Unterstützung ist vor allem für kleine und mittlere Unternehmen (KMU) wichtig, die nicht über die Ressourcen größerer Unternehmen verfügen, um komplexe Vorschriften effektiv zu bewältigen. KMU nehmen diese zusätzliche Belastung oft auf sich, wenn sie versuchen, die Rechtsvorschriften einzuhalten. Wenn Regierungen diese Art von weitreichender, weitverbreiteter Gesetzgebung einführen, müssen sie auch aktive Unterstützung leisten, um Unternehmen bei der Einhaltung zu helfen.

Wie sieht die TU die generative KI im akademischen Bereich?

Generative KI ist ein heißes Thema in der akademischen Welt, wobei sich die Bedenken vor allem um Themen wie Plagiate drehen. Meiner Meinung nach erfordert die Situation einen ausgewogenen und nuancierten Ansatz. Einige Einrichtungen haben zwar mit der Rückkehr zu traditionellen Prüfungen reagiert, aber dieser Ansatz ist für das Lernen der Studierenden nicht optimal, da sie dann nur eine Form der Bewertung hätten. Man kann das Werkzeug nicht schlagen und der Einsatz von Plagiatserkennungsprogrammen ist nur ein Katz-und-Maus-Spiel. Es geht nicht mehr nur darum, Aufsätze zu schreiben. Stattdessen sollten wir kreativer sein und Bewertungsmethoden erforschen, die sich an die sich entwickelnde Landschaft der KI-Technologie anpassen. Es geht darum, mit den Studierenden zusammenzuarbeiten und zu versuchen, zu verstehen und zu berücksichtigen, welche Arten von Kursarbeiten die Realitäten des 21. Jahrhunderts widerspiegeln. Ein besserer Ansatz besteht darin, gemeinsam mit den Studierenden neue Bewertungsmodelle zu entwickeln, um ihre Fortschritte zu verstehen.

Plagiate hat es ohnehin schon immer gegeben und wird es auch weiterhin geben.

Genau, genau. Dies ist nur ein neues Werkzeug, das den Menschen dies ermöglicht.

Wissen Sie etwas über die KI-Initiativen von Workday?

Ich weiß auf jeden Fall, dass sie in die KI-Politik involviert sind. Einer der Gründe, warum wir sehr gerne mit Workday zusammenarbeiten, ist, dass sie führend im Bereich der verantwortungsvollen KI sind und sich aktiv für eine KI-Regulierung einsetzen. Als globales Unternehmen sind sie besonders daran interessiert, mehr über die Harmonisierung der KI-Gesetzgebung zu erfahren. Es gibt den NIST-Rahmen in den USA auf der einen Seite und das KI-Gesetz der EU auf der anderen; einige Teile überschneiden sich, andere nicht. Aber wenn man vertrauenswürdige KI in großem Maßstab aufbauen will, braucht man eine Harmonisierung der Rechtsvorschriften in allen Ländern. Ich denke, das ist für multinationale Unternehmen wirklich wichtig. Workday ist ebenfalls sehr daran interessiert, KI in seine Produkte einzubringen und die Belegschaft zu vergrößern. Eines der Dinge, die wir diskutieren, ist ein AI Center of Excellence an der TU Dublin. Wir wollen es gemeinsam mit Workday ausbilden und betreiben und darüber diskutieren, wie KI menschliche Fähigkeiten ergänzen kann. Wir müssen anfangen, das zu quantifizieren. Was bedeutet es für ein KI-System, die menschlichen Fähigkeiten zu ergänzen? Ist es ein Werkzeug, ein Prozess oder etwas anderes? Wenn die Menschen mehr Zeit haben und kreativer sind, was werden sie dann damit anfangen? Workday ist sehr an diesem Thema interessiert und wir diskutieren über die Erweiterung menschlicher Fähigkeiten. Wie können wir das in 3D quantifizieren? Wie messen wir die Passgenauigkeit in der Beziehung zwischen Mensch und KI?

Die TU Dublin hat ein TrailblazHER-Programm, das die Vielfalt in der Technik fördert. Können Sie einige Einblicke in diese Initiative geben?

Sicher. Nun, was unsere Bemühungen angeht, mehr Frauen in die Technik an der Fakultät für Informatik einzubeziehen, so arbeiten wir schon seit geraumer Zeit an diesem Thema. Bevor ich auf einige unserer Initiativen eingehe, möchte ich zunächst auf ein Programm eingehen, das wir vor einigen Jahren gestartet haben. Wir haben von der irischen Hochschulbehörde umfangreiche Mittel erhalten, um die geschlechtsspezifischen Ungleichheiten in der Informatik zu beseitigen. Das Hauptziel bestand darin, Wege zur Lösung dieses Problems zu finden. Unser erster Schritt bestand darin, mit unseren Studentinnen in Kontakt zu treten. Wir wollten verstehen, warum sie sich für ein Informatikstudium entschieden haben und warum einige ihrer Kommilitoninnen dies nicht taten. Ein immer wiederkehrendes Thema, auf das wir stießen, war die Angst vor der Mathematik. Dies macht deutlich, dass wir mehr Frauen ermutigen müssen, sich für mathematische Fächer zu entscheiden.

Könnten Sie das näher erläutern?

Eine Anekdote, die besonders hervorsticht, stammt von einer Schülerin, die erzählte, dass sie sich an ihrem ersten Tag in einem Informatikkurs, in dem sie das einzige Mädchen war, überfordert fühlte. Trotz ihrer anfänglichen Befürchtungen blieb sie dabei. Diese Geschichte blieb bei mir hängen. Ich fand es erschreckend, wenn ich daran dachte, wie viele Menschen in dieser Situation tatsächlich weggelaufen wären. Geschichten wie diese unterstreichen, wie wichtig es ist, ein unterstützendes Netzwerk für Frauen in der Technik zu schaffen. Um dies zu erreichen, haben wir verschiedene Programme eingeführt, die darauf abzielen, Studentinnen zusammenzubringen, insbesondere in den Bereichen Informatik und Ingenieurwesen. Zu diesen Programmen gehören Mentoring-Initiativen und Outreach-Aktivitäten an Schulen, mit denen wir das Missverständnis ausräumen wollen, dass es bei der Arbeit im technischen Bereich nur um das Programmieren geht.

Unser TrailblazHER-Programm konzentriert sich auf drei Schlüsselkomponenten: Schulbesuch, universitäres Mentoring und Unterstützung für Unternehmerinnen. Es ist von entscheidender Bedeutung, den Bemühungen um Vielfalt und Eingliederung stets Priorität einzuräumen und zu erkennen, dass dies ein fortlaufender Prozess ist. Vielfältige Studenten und Arbeitskräfte sind nicht nur produktiver, sondern tragen auch zu einem reicheren Lern- und Arbeitsumfeld bei. Außerdem integrieren wir das Bewusstsein für Vielfalt in unseren Lehrplan. So arbeiten die Studenten im dritten Studienjahr in Projekten mit einem örtlichen Krankenhaus zusammen, das Menschen mit geistigen Behinderungen betreut. Diese praktische Erfahrung fördert das Einfühlungsvermögen und ermutigt die Studenten, bei der Entwicklung von Technologien unterschiedliche Perspektiven zu berücksichtigen.

Vielen Dank für das Interview!

workday.com

tudublin.ie