Inhalt
Künstliche Intelligenz, die auf algorithmischen Netzen beruht und sich durch maschinelles Lernen weiterentwickelt, hat sich in vielen Lebensbereichen rasch verbreitet. Neben ihren zahlreichen Vorteilen sind auch mögliche Probleme in den Mittelpunkt von Diskussionen und Sorgen gerückt. Eines davon ist die „KI-Voreingenommenheit“, englisch „AI Bias“.
Da KI-Systeme Muster in Daten mithilfe statistischer Analysen erkennen und lernen, können verzerrte, unvollständige, schief erhobene oder nicht repräsentative Daten dazu führen, dass sie einseitige oder voreingenommene Ergebnisse liefern. KI-Voreingenommenheit wird damit zu einer Bedrohung: Sie erschwert ethisches, faires und unparteiisches Handeln, kann Diskriminierung verstärken und Ergebnisse hervorbringen, die nicht mehr in unsere Zeit passen. Lässt sich das Potenzial der KI nutzen und die Technologie zugleich an Ethik und Gerechtigkeit ausrichten?
Was ist KI-Voreingenommenheit?
Von KI-Voreingenommenheit spricht man, wenn KI-Systeme in ihren Entscheidungen oder ihrem Verhalten diskriminierend oder voreingenommen agieren. Ihrem Wesen nach kann KI nicht auf die gewohnte menschliche Weise diskriminieren oder rassistisch handeln. Durch die Art, wie Algorithmen entwickelt werden, kann jedoch eine Verzerrung entstehen. KI-Voreingenommenheit kann aus Verzerrungen in den Trainingsdaten oder im Systemdesign stammen. Sie erschwert es KI-Systemen, fair und neutral zu sein, und rückt zugleich gesellschaftlich wichtige Themen wie Gerechtigkeit, Gleichberechtigung und den Kampf gegen Diskriminierung in den Vordergrund.
Anders als Menschen lernen KI-Systeme auf Basis von Daten. Dieses maschinelle Lernen unterscheidet sich vom menschlichen Urteilsvermögen: Es nutzt große Datensätze und verbessert so seine Lern- und Entscheidungsfähigkeit. Die verwendeten Datensätze können jedoch von menschlichen Schlussfolgerungen, Vorurteilen oder Diskriminierung geprägt sein, in denen sich gesellschaftliche und kulturelle Muster spiegeln, und diese als verzerrte Daten weitertragen. Werden etwa Daten verarbeitet, die Diskriminierung aufgrund von Geschlecht, Hautfarbe, ethnischer Herkunft oder sozioökonomischem Status enthalten, können KI-Systeme diese Vorurteile übernehmen, erlernen oder in ihren Schlussfolgerungen reproduzieren. Die Folge: Entscheidungen oder Verhalten der Systeme können, auch unbeabsichtigt, zu Diskriminierung oder Ungerechtigkeit führen.
Wie KI-Voreingenommenheit entsteht und welche Risiken sie birgt
Eine allgemeine künstliche Intelligenz (General AI), die ähnlich wie der menschliche Verstand arbeitet und ein sehr breites Spektrum an Entscheidungen, Emotionen und Urteilen abdecken kann, ist heute noch nicht im Einsatz. Die in vielen Bereichen genutzte schwache KI weckt jedoch die Sorge, dass sie anfällig für Vorurteile ist, wenn sie auf verzerrten Daten beruht. Auch der Technologieunternehmer Elon Musk äußert in Reden über die Zukunft der KI immer wieder Bedenken zur KI-Voreingenommenheit. Besonders aufschlussreich ist seine Aussage: „Künstliche Intelligenz kann das Denken der Menschen lenken. Da KI-Systeme mit Daten trainiert werden, können sie die Vorurteile in diesen Daten lernen und verstärken. Daraus entsteht das Risiko von KI-Systemen, die voreingenommene Ergebnisse liefern und voreingenommene Entscheidungen treffen.“
Eine Studie aus Dänemark ergab, dass sich politische Einstellungen mithilfe KI-gestützter Fotoanalyse mit einer Genauigkeit von 61 Prozent vorhersagen ließen. Laut der in Scientific Reports veröffentlichten Untersuchung konnte die KI die politische Ideologie von Menschen anhand ihrer Mimik mit einer Trefferquote von 61 Prozent bestimmen. Solche Studien mögen vielversprechend sein, um zu erforschen, ob KI Verhalten oder Denken aus der Körpersprache ableiten kann; von genauen oder zuverlässigen Prognosen kann jedoch keine Rede sein. Berücksichtigt man Einschränkungen wie die Repräsentativität der Stichproben und verzerrte Daten sowie Datenlücken oder Ungleichgewichte, die Vorurteile und Stereotype verstärken oder zu irreführenden Ergebnissen führen können, ist KI für solche Vorhersagen eine noch recht primitive Technologie. Menschliche Körpersprache ist eine äußerst komplexe, vielschichtige Form nonverbaler Kommunikation und beschränkt sich nicht auf Mimik oder Bewegungen. Sie ist stark kontextabhängig, komplex und dynamisch. Deshalb kann KI in diesem Bereich durch Verzerrungen in den Daten Vorurteile und Stereotype hervorbringen.
In der Praxis kann KI-Voreingenommenheit etwa in Einstellungsverfahren zu Diskriminierung aufgrund von Geschlecht oder Hautfarbe führen. Über Personalentscheidungen hinaus kann sich dieses Risiko auch in Vorauswahlsystemen anderer Bereiche zeigen: in Systemen zur Kriminalitätsprognose, in der Kriminologie, bei Profiling, das bestimmte Gruppen benachteiligen kann, bei Kreditanträgen oder bei Bewertungen in verschiedenen Bereichen, in denen Diskriminierung zwar nicht beabsichtigt ist, aber entstehen kann.
Faktoren für Voreingenommenheit und Stereotype in der KI
Um zu verstehen, welche Faktoren KI-Voreingenommenheit begünstigen, muss man wissen, wie Daten die Arbeitsweise von Algorithmen beeinflussen. Da KI-Systeme meist mit großen Datensätzen trainiert werden, ist die Auswahl der Trainingsdaten einer der wichtigsten Einflussfaktoren. Sind diese Datensätze von menschlichen Vorurteilen oder Diskriminierung geprägt, können Daten mit Diskriminierung aufgrund von Geschlecht, Hautfarbe oder ethnischer Herkunft dazu führen, dass KI-Systeme ähnliche Vorurteile erlernen und anwenden. Enthalten die Datensätze zudem unzureichende Informationen, Lücken oder Ungleichgewichte, steigt ebenfalls das Risiko von KI-Voreingenommenheit. Ist beispielsweise eine bestimmte soziale oder ethnische Gruppe im Datensatz unterrepräsentiert, können KI-Systeme Entscheidungen über diese Gruppe fehleranfälliger oder voreingenommener treffen. Verzerrte Stichproben sind ein weiterer Faktor, der die Fähigkeit der KI schwächt, objektive und faire Ergebnisse zu liefern. Sie entstehen, weil Datensätze die reale Welt, die sie abbilden sollen, nicht vollständig widerspiegeln. Auch voreingenommene Kennzeichnungen (Labeling) können KI-Voreingenommenheit verursachen. Werden in den Datensätzen ein bestimmtes Geschlecht oder eine bestimmte Hautfarbe mit negativen Labels verknüpft, können KI-Systeme ähnlich voreingenommene Entscheidungen treffen. So entstehen Stereotype in der Kommunikation. Stereotype mögen der KI schnelle Entscheidungen erleichtern, können aber zu verzerrtem Denken bis hin zu Diskriminierung führen. Als weitere Ursachen für Vorurteile und Stereotype in der KI sind Systemdesign und Algorithmenauswahl zu nennen. Da Design und Algorithmen eine zentrale Rolle bei der Verarbeitung der Datensätze spielen, fällt ihr Verzerrungspotenzial besonders ins Gewicht. So kann ein Algorithmus bei der Datenanalyse etwa eine bestimmte Gewichtungs- oder Bewertungsmethode verwenden, die zu einseitigen Ergebnissen führt.
Umgang mit KI-Voreingenommenheit
Damit KI weniger voreingenommen, fairer und neutraler wird, braucht es Maßnahmen wie die sorgfältige Auswahl und Ausbalancierung von Datensätzen sowie die Überwachung der Trainingsprozesse. Zudem lässt sich ein KI-Design entwickeln, das durch ethische Regeln und Vorschriften gestützt wird.
Mit KI-Voreingenommenheit umzugehen heißt, KI-Systeme ethisch und fair zu konzipieren, zu trainieren und zu bewerten. KI-Entwickler sollten Datensätze sorgfältig prüfen, voreingenommene oder diskriminierende Daten aufspüren und die nötigen Vorkehrungen treffen, damit das Modell diese Vorurteile nicht reproduziert. Dabei ist menschliche Kommunikation äußerst vielschichtig und vereint Widersprüche und mehrere Bedeutungsebenen; für die heutige KI, die analytisch noch auf einem primitiven Niveau arbeitet, ist das eine große Herausforderung. Im Hinblick auf die Weiterentwicklung kann das Thema jedoch durch wirksame Regulierung und konsequente Kontrollen auf eine neue Ebene gehoben werden.
Die Bewährungsprobe der KI in der menschlichen Kommunikation kann zugleich zu einer Auseinandersetzung des Menschen mit seinen eigenen Vorurteilen werden. Kommunikationsexperten können darauf hinwirken, dass Funktionsweise und Entscheidungsprozesse von KI-Systemen transparent erklärt werden. Sie können eine wichtige Rolle dabei spielen, Vielfalt und Teilhabe in den Trainingsdaten von KI-Systemen sicherzustellen. Künftig können Kommunikationsexperten Methoden entwickeln, um voreingenommene oder diskriminierende Daten zu erkennen und zu bereinigen, und so zu KI-Systemen beitragen, die gerechtere Ergebnisse liefern und Vorurteile abbauen. Möglich wird das, wenn Sanktionen greifen und das Bewusstsein dafür wächst, dass bei der Nutzung von KI-Systemen die Grundsätze von Gerechtigkeit und Gleichheit einzuhalten sind. Wer KI-Voreingenommenheit und ihr Zusammenspiel mit der Komplexität menschlicher Kommunikation versteht und hier einen fairen, unparteiischen Ansatz verfolgt, ebnet den Weg dafür, dass KI-Systeme der Gesellschaft künftig echten Nutzen bringen. Im Einklang mit dem übergeordneten Ziel einer menschlichen Kommunikation, die gesellschaftliche Vielfalt respektiert, wird auch die Weiterentwicklung der KI in den kommenden Jahren immer wichtiger.
Quellen: Auch das gelang KI: Sie konnte die politischen Ansichten von Menschen vorhersagen: https://www.ntv.com.tr/amp/teknoloji/yapay-zeka-bunu-da-basardi-insanlarin-siyasi-goruslerini-tahmin-edebildi,0jKFJDdqX0iZX4YB2JsRuQ *Zugriffsdatum: 24.06.2023 *
