Kann künstliche Intelligenz anhand von Gehirnströmen das Geschlecht erkennen? Dieser spannenden Frage ist der Physiker Thomas Jochmann nachgegangen und hat überraschende Erkenntnisse gewonnen, die er Anna Hansen, Pressesprecherin vom AI Grid, mitgeteilt hat.
Seine Forschungsergebnisse zeigen, warum es notwendig ist, sich mit diesem Thema auseinanderzusetzen: Wie kann KI die medizinische Diagnostik zuverlässig verbessern? Und wie können wir sicherstellen, dass Algorithmen nachvollziehbare Entscheidungen treffen?
Im Gehirn arbeiten Milliarden von Nervenzellen zusammen, um unsere Sinneseindrücke, Gedanken und Gefühle zu koordinieren. Vor 100 Jahren, am 6. Juli 1924, gelang es dem Mediziner Hans Berger aus Jena erstmals, mit Hilfe der Elektroenzephalografie (EEG) die elektrische Aktivität von Nervenzellverbänden als Potenzialveränderungen auf der Kopfoberfläche eines Menschen messbar und sichtbar zu machen.
Seitdem hat sich das EEG in der modernen Medizin und Hirnforschung fest etabliert und wird zur Diagnose von Krankheiten wie Epilepsie, Schlafstörungen und anderen neurologischen Erkrankungen eingesetzt.
Die medizinische Auswertung der EEG-Aufzeichnungen erfordert eine aufwendige Arbeit von Spezialisten. Diese versuchen, anhand der aufgezeichneten Zickzackwellen Muster in den Datensätzen zu erkennen. Man geht davon aus, dass viele Informationen dem menschlichen Auge bisher verborgen bleiben und für die Diagnose nicht zur Verfügung stehen. Seit einigen Jahren versuchen Wissenschaftler daher, die riesigen Datenmengen mithilfe von Deep-Learning-Verfahren (künstliche Intelligenz) auszuwerten und bisher unentdeckte Informationen aufzudecken.
Analyse von Gehirnaktivität kann das Geschlecht bestimmen
Seit mehr als 50 Jahren gibt es Hinweise auf Geschlechtsunterschiede im EEG. Unter bestimmten Bedingungen und abhängig von der Zusammensetzung der Studiengruppen wurden statistische Unterschiede im EEG zwischen Männern und Frauen gefunden. So wie es statistische Unterschiede in der Körpergröße oder anderen biologischen Merkmalen gibt.
Ein niederländisches Team hat 2018 zudem festgestellt, dass sich das Geschlecht von Versuchspersonen durch die Analyse der Gehirnaktivität bestimmen lässt. Aber lässt sich der Unterschied zwischen Frauen- und Männergehirnen wirklich an den Zickzackwellen ablesen?
Der Wissenschaftler Thomas Jochmann ist der Frage nachgegangen, welche Art von Hirnaktivität sich bei Frauen und Männern unterscheidet. Der Diplom-Physiker ist Mitglied im AI-Grid, einer Initiative des Bundesforschungsministeriums, die talentierte Nachwuchswissenschaftler mit KI-Experten aus Wissenschaft und Wirtschaft vernetzt. In einer Forschungsarbeit hat der Wissenschaftler das Experiment der Niederländer nachgestellt und herausgefunden, dass die KI zwar Frauen und Männer anhand der EEG-Daten mit einer Genauigkeit von 81 Prozent identifiziert. Gleichzeitig entdeckte er aber auch, dass die KI dabei schummelt.
KI interpretiert keine Hirnströme, sondern Herzschläge
Thomas Jochmann: „Den Aha-Effekt hatte ich als Gastwissenschaftler an der Harvard Medical School. Dort habe ich mit Kollegen untersucht, welche Stellen in den EEG-Kurven für die Bestimmung der Geschlechtszugehörigkeit entscheidend sind. Dazu haben wir eine Methode entwickelt, die jene Zickzackmuster erkennt, die von der KI als wichtig bzw. geschlechtsspezifisch eingestuft werden. Diese Muster haben wir dann visualisiert und festgestellt, dass sie immer genau zeitgleich mit dem Herzschlag auftreten. Die Ergebnisse deuten darauf hin, dass die KI nicht Unterschiede in der Hirnfunktion aufdeckte, sondern Unterschiede im Körperbau ausnutzte. Obwohl das EEG an der Kopfhaut gemessen wird, erfasst es nicht nur die elektrische Aktivität des Gehirns, sondern wird auch von der Aktivität des Herzmuskels überlagert. Offensichtlich gibt es Geschlechtsunterschiede in der Ausbreitung der elektrischen Potentiale vom Herzen zur Kopfhaut.”
Wenn Verzerrungen in Black Boxes Ergebnisse verfälschen
Neuronale Netze seien eine Art „Black Box“, es sei oft schwer nachzuvollziehen, welche Berechnungen zu einer Entscheidung geführt haben, erklärt der Wissenschaftler und vergleicht seine Studienergebnisse mit dem „Wolf-Husky-Experiment“. In diesem Experiment wurde ein Bilderkennungssystem darauf trainiert, Huskys und Wölfe zu unterscheiden. Die Trainingsdaten zeigten Huskys immer in einer grünen Umgebung und Wölfe immer mit Schnee im Hintergrund. Der Klassifikator lernte also, Schnee mit Wölfen und Gras mit Huskys zu assoziieren, anstatt die Tiere selbst zu erkennen. Bei der Auswertung konnte das System nur zwischen Schnee und Gras, nicht aber zwischen den Tieren unterscheiden, was die Problematik unausgewogener Datensätze verdeutlicht.
Überprüfung von KI-Vorhersagen auf geschlechtsspezifische Verzerrungen
„Unsere Ergebnisse haben auch gezeigt, wie wichtig eine sorgfältige Vorbereitung und Auswahl der Daten ist, um sicherzustellen, dass die Algorithmen ihre Berechnungen mit relevanten und aussagekräftigen Merkmalen durchführen. Nicht erst durch unser Forschungsprojekt wissen wir, dass das Geschlecht ein versteckter Einflussfaktor in maschinellen Lernmodellen zur Diagnose von Krankheiten sein kann. Daher sollten KI-basierte Vorhersagen immer auf geschlechtsspezifische Verzerrungen überprüft werden, um sicherzustellen, dass sie fair und genau sind. Forscher sollten bei der Verwendung großer Datensätze darauf achten, Artefakte gründlich zu entfernen und Methoden einsetzen, um unzulässige Muster frühzeitig zu erkennen oder von vornherein auszuschließen“, sagt Thomas Jochmann, der an der Technischen Universität Ilmenau am Institut für Biomedizinische Technik und Informatik an neuen Methoden zum besseren Verständnis der Hirnaktivität forscht.
Thomas Jochmann ist Doktorand in Biomedizinischer Technik an der Technische Universität Ilmenau und Mitglied vom AI Grid.
Weitere Informationen:
Hier finden Sie den Forschungsartikel von Thomas Jochmann: Geschlechtsbezogene Muster im Elektroenzephalogramm und ihre Relevanz für Klassifikatoren des maschinellen Lernens:
