Trustworthy & Explainable AI, (Vertrauenswürdige und Erklärbare Künstliche Intelligenz), KI-Nachwuchsförderung, Austausch zwischen den Forschungsstandorten Deutschland und Frankreich

Berlin, 18. April 2024 – Welche Methoden gibt es, um KI-Systeme transparenter zu machen? Wie kann KI gesellschaftlich verantwortungsvoll und nach ethischen Grundsätzen eingesetzt werden? Wie können wir sicherstellen, dass KI-Systeme faire und unvoreingenommene Entscheidungen treffen? Mit diesen Fragen beschäftigt sich der Forschungsschwerpunkt Trustworthy and Explainable AI (Vertrauenswürdige und Erklärbare Künstliche Intelligenz). Ende April reisen 15 AI Grid-Mitglieder nach Paris, um sich zu diesen und weiteren aktuellen KI-Themen mit französischen Expert:innen auszutauschen.

Vom 24.-26. April 2024 findet die nächste Science & Innovation Tour vom AI Grid statt. In Paris erhalten 15 Nachwuchsforscher:innen die Möglichkeit, in die KI-Landschaft der französischen Hauptstadt einzutauchen und Expert:innen der renommiertesten französischen Forschungszentren sowie Unternehmen und Start-ups zu treffen. Der Fokus der Reise liegt auf den Themen Trustworthy & Explainable AI.

Wie wird KI transparent und vertrauenswürdig?

Vertrauenswürdige und Erklärbare Künstliche Intelligenz ist von hoher Relevanz: Während KI-Systeme immer tiefer in die Intimsphäre unseres Alltags vordringen und Entscheidungen treffen, die unser Leben beeinflussen, wächst die Notwendigkeit, diese Systeme zu verstehen und ihnen zu vertrauen. Die neue Generation von KI stellt uns vor grundlegende Fragen: Wie können wir verantwortungsvolle Technologien schaffen, die unsere ethischen Standards erfüllen? Wie können wir sicherstellen, dass Algorithmen nachvollziehbare Entscheidungen treffen? Und wie können wir ein Umfeld schaffen, in dem die Gesellschaft KI nicht nur akzeptiert, sondern auch aktiv mitgestaltet?

Diese und weitere Fragen adressiert die aktuelle Forschung im Bereich der Trustworthy & Explainable AI – ein Thema, das nicht nur für Expert:innen aus der Informatik von Bedeutung ist, sondern für jede und jeden von uns. Denn in einer Welt, in der KI-Entscheidungen über Kreditwürdigkeit, medizinische Diagnosen und sogar juristische Urteile treffen, müssen wir sicherstellen, dass Technologie unser Verbündeter bleibt und nicht zu einem undurchsichtigen Autor wird.

Auf der 2-tägigen Reise nach Paris tauschen sich führende Expert:innen aus Frankreich mit den deutschen KI-Forscher:innen aus. Ein Schwerpunkt bildet die Kooperation mit Inria und dem Open Science AI Lab Kyutai – einem Open Science AI Lab, das sich der Erforschung von Large Language Models (LLMs) widmet.

Ein weiteres Highlight ist die Kooperation mit der AXA Group im Rahmen des gemeinsamen Labors TRAIL – Trustworthy And Responsible AI Lab. Hier werden Forschungsbeiträge vorgestellt, darunter auch die Arbeit von Lea Eileen Brauner. Diese Sitzungen bieten den deutschen KI-Forschenden Gelegenheit, aktuelle Forschungsthemen und -ansätze kennenzulernen und sich über zukunftsweisende KI-Anwendungen auszutauschen.

Interview-Angebot: Wie Lea Eileen Brauner mit Hilfe von KI ein besseres Verständnis über seltene Erkrankungen erlangen will

Lea Eileen Brauner ist eine von den 15 AI Grid-Mitgliedern, die nach Paris reisen. Sie studiert Informatik mit dem Schwerpunkt Data Science an der Ostfalia in Wolfenbüttel bei Braunschweig und widmet sich dem maschinellen Lernen über mehrere Beschreibungsräume hinweg. Im herkömmlichen Maschinellen Lernen “lernen” die Verfahren normalerweise aus einer einzigen Datengrundlage (auch Beschreibungsraum genannt), aus welchen diese Verfahren ihre Informationen ziehen. Lea Eileen Brauner beschäftigt sich damit, Verfahren aus mehreren Beschreibungsräumen gleichzeitig lernen zu lassen, um global ähnliche Gruppen zu finden.

Sie hofft, mit ihrer Forschung ein besseres Verständnis über seltene Erkrankungen zu erlangen und schnellere Diagnosen zu ermöglichen. Da es sich bei den medizinischen Daten um sehr sensible Daten handelt und das Ziel nicht ist, Diagnosen durch KI zu ersetzen, sondern das Verständnis für diese Erkrankungen mit Hilfe der KI zu erweitern, ist die Nachvollziehbarkeit der Methoden von hoher Bedeutung.

Mögliche Diskussionsthemen mit Lea Eileen Brauner:

• Wieso ist es nötig, den aktuellen Diagnose-Findungsprozess für seltene Erkrankungen zu verbessern bzw. wo liegen die Defizite?
• Wie könnte die Identifizierung ähnlicher Gruppen von Patientinnen mit Hilfe von KI über verschiedene Beschreibungsräume hinweg dazu beitragen?
• Inwiefern soll das von Ihnen entwickelte System den Diagnose-Findungsprozess unterstützen? Soll es Diagnosen generieren?

Wir würden uns sehr freuen, wenn Sie Interesse an einem Gespräch mit Lea Eileen Brauner oder weiteren Wissenschaftler:innen vom AI Grid hätten.

Über AI Grid:

AI Grid ist eine Initiative, die junge KI-Talente mit etablierten KI-Expert:innen vernetzt. Das Projekt wird vom Bundesministerium für Bildung und Forschung gefördert und ist Teil des deutschen KI-Aktionsplans, um Innovation und Forschung im Bereich der künstlichen Intelligenz zu fördern.

AI Grid. Wir fördern KI-Talente.

Fachbegriffe:

Erklärbare KI (Explainable AI, XAI): Ein Ansatz in der Künstlichen Intelligenz, der darauf ausgerichtet ist, die Vorgänge und Entscheidungen von KI-Modellen klar und verständlich darzustellen. Ziel ist es, die oft als „Black Boxes“ wahrgenommenen komplexen KI-Systeme, insbesondere die auf tiefen neuronalen Netzwerken basieren, in nachvollziehbare Prozesse umzuwandeln.

Vertrauenswürdige KI (Trustworthy AI):  Ein umfassender Rahmen in der KI, der legale Konformität, ethische Ausrichtung und technische Zuverlässigkeit integriert. Vertrauenswürdige KI adressiert sieben Kernanforderungen: Menschliche Kontrolle, technische Sicherheit, Datenschutz, Transparenz, Vielfalt und Fairness, gesellschaftliches Wohlergehen und Verantwortlichkeit.