Im Rahmen einer Studie untersuchten Forscher in Linz nun, in welcher Form die neuesten Algorithmen Suchmaschinen beeinflussen können. Dabei machten sie eine erschreckende Entdeckung.

Denn wie die Studie zeigte, sind die Ergebnisse der Suchmaschinen, die den Algorithmus Deep Learning verwenden, besonders sexistisch verzerrt. Ihre Ergebnisse möchten die beiden Linzer Forscher Navid Rekab-Saz und Markus Schedl im Juli bei einer Konferenz über Forschung zur Informationsbeschaffung mit Suchmaschinen präsentieren.

Linzer Forscher untersuchen Sexismus von Suchmaschinen

Die Linzer Forscher Navid Rekab-Saz und Markus Schedl untersuchten im Rahmen einer Studie nun Modelle bzw. Algorithmen, die häufig bei Suchmaschinen Anwendung finden. Dabei verwendeten sie nur Suchanfragen, die auch schon real im Netz eingegeben wurden. Die Suchanfragen teilten sie zudem in zwei Gruppen ein. Bei der ersten Gruppe handelte es sich nur um Begriffe, die geschlechtsneutral sind und Antworten ohne einen geschlechtsbezogenen Verzerrungseffekt liefern sollten. Demnach suchten sie beispielsweise nach römischen Kaisern. Wie die Forscher in ihrer Arbeit berichteten, haben die Suchmaschinen daraufhin nur Antworten von Männern geliefert. Jedoch handelte es sich dabei um keine Verzerrung. Denn im römischen Reich waren nur Männer auf dem Thron.

Begriff “CEO” liefert fast nur männliche Antworten

In der zweiten Gruppe dagegen, befanden sich ausschließlich Wörter, die – meist im englischen Sprachgebrauch – nicht explizit geschlechtsspezifisch sind. Hier lieferten die Suchmaschinen schon eher sexistische Antworten als in der Gruppe zuvor. So suchten die Forscher zum Beispiel nach dem Einkommen einer Pflegekraft, mit dem englischen Wort “nurse” (das sowohl für Männer als auch für Frauen gilt) oder nach einem Synonym für schön. In beiden Fällen bekamen die Forscher vermehrt Antworten, die mit Frauen zusammenhingen. Und das, obwohl beide Begriffe eigentlich geschlechtsneutral sind. Umgekehrt erhielten sie beim Begriff CEO vor allem Suchergebnisse im Zusammenhang mit Männern.

Bereits in der Vergangenheit lieferten andere Analysen ähnliche Ergebnisse, wie etwa ein Bericht der Journalistin Lena Grelck von Golem zeigt.

Suchmaschinen können auch diskriminierend sein

Der Grund für die teilweise sexistischen Ergebnisse seien, laut den Forschern, die neuesten Deep Learning-Algorithmen. Denn diese verursachen eine “besonders ausgeprägte geschlechtsspezifische Verzerrung”. Die Deep-Learning-Algorithmen werden mittlerweile von vielen Suchmaschinen verwendet, darunter auch Google und Bing.

In der Vergangenheit konnte man mithilfe mehrerer Studien bereits nachweisen, dass Suchmaschinen und künstliche Intelligenzen durch ihre Algorithmen auch diskriminierend sein können. Denn den Ergebnissen zufolge bekommen Menschen mit Migrationshintergrund von sozialen Plattformen oft Angebote für schlechtere Jobs oder Wohnungen. Auch ihre Kreditwürdigkeit wird von den Suchmaschinen automatisch schlechter eingestuft, wie vergangene Studien zeigten.