Timnit Gebru

:

Wie viel Ethik verträgt Google?

Im Dezember warf Google seine Techethikerin Timnit Gebru raus, Anlass war ein Forschungspapier. Ein Blick hinein zeigt, warum ihre Kritik für Google so unbequem ist.

Von Eva Wolfangel

148 Kommentare

Timnit Gebru: Timnit Gebru war bis 2020 Ethikforscherin bei Google.

Timnit Gebru war bis 2020 Ethikforscherin bei Google. © [M] Kimberly White; Johannes Eisele/Getty Images

Wie viel Ethik verträgt Google? – Seite 1

Dezember 2020. Sie habe gerade überraschend ihren Job verloren worden, twittert Timnit Gebru, eine der bekanntesten Ethikforscherinnen von Google. Binnen Stunden erregt der Vorfall große Aufmerksamkeit in der Techcommunity und erzeugt viel Solidarität für Gebru. Für viele schien klar zu sein: Die schwarze Forscherin Gebru ist mit ihrer Kritik zu unbequem geworden. Sie hatte bemängelt, dass sowohl die im Konzern selbst als auch anderswo entwickelte künstliche Intelligenzen Minderheiten rassistisch diskriminieren würden. Mehr als 2.500 Google-Mitarbeiterinnen und mehr als 4.000 Unterstützer aus der Wissenschaft brachten in einem Protestbrief ihre Solidarität mit Gebru zum Ausdruck.

Jeff Dean, der Chef von Googles Abteilung für künstliche Intelligenz, sah sich angesichts des Protests genötigt, eine E-Mail zu veröffentlichen, die er an Gebrus Team geschickt hatte. Darin erklärt er, Kern des Streits sei ein Forschungsartikel gewesen, den Gebru mit anderen verfasst hatte und dessen Veröffentlichung er untersagt habe, weil dieser aktuelle Forschung, vor allem solche mit anderslautenden Ergebnissen, zu wenig berücksichtigt habe. Daraufhin habe Gebru gedroht zu kündigen – und Google habe dies noch am gleichen Tag akzeptiert. Und doch steht noch immer der Vorwurf im Raum, Google habe die Gelegenheit genutzt, eine unbequeme Mitarbeiterin loszuwerden.

Kritik an der Gigantomanie

Ein genauerer Blick in das umstrittene Papier, das inzwischen veröffentlicht worden ist, zeigt, was Google möglicherweise an Gebrus Arbeit störte. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? lautet der Titel, also sinngemäß: "Über die Gefahren statistischer Papageien: Können Sprachmodelle zu groß sein?" Die Autorinnen argumentieren, dass der Trend zu immer größeren Modellen und immer mehr Trainingsdaten in der Computerlinguistik dazu führe, dass nicht nur massiv Ressourcen wie Strom für riesige Serverfarmen verbraucht würden. Sondern auch dazu, dass künstliche Intelligenz immer schlechter kontrollierbar werde und Minderheiten diskriminiert, ohne dass es den Entwicklerinnen und Entwicklern bewusst sei.

Wie brisant der Text noch immer zu sein scheint, zeigt sich daran, wie er nun publiziert wurde: Neben Gebrus Namen und denen externer Forscherinnen wie der Hauptautorin Emily Bender von der University of Washington tauchen keine beteiligten Google-Mitarbeiterinnen auf. Am Ende wird auf drei weitere Autorinnen verwiesen, deren Arbeitgeber sie genötigt habe, ihre Namen wieder zu entfernen. Lediglich ein Pseudonym weist auf die Forscherin Margaret Mitchell hin, die Googles Ethikteam zusammen mit Gebru geleitet hatte und inzwischen offenbar auch Ärger mit ihrem Arbeitgeber hat.

Um zu verstehen, was an dem Papier so kontrovers ist, muss man wissen, wie künstliche Intelligenz im Bereich Sprache lernt. Vereinfacht gesagt bekommen Softwaresysteme beim maschinellen Lernen zwei Zutaten vorgelegt, wenn sie von Forscherinnen und Forschern trainiert werden: Input- sowie gewünschte Output-Daten. Beim maschinellen Übersetzen werden ihnen beispielsweise große Mengen an Text eingefüttert, der in verschiedenen Sprachen vorliegt. Daraus lernen die Systeme dann selbst Zusammenhänge zwischen Sprachen und können künftige Übersetzungen vorhersagen.

Doch genau hier lauert auch eine Gefahr, betonen die Autorinnen: Große Datensätze, die auf Texten aus dem Internet basieren, würden "hegemoniale Standpunkte überrepräsentieren und Vorurteile kodieren, die möglicherweise marginalisierte Bevölkerungsgruppen benachteiligen". Das gilt natürlich auch für andere Texte: So trainieren Computerlinguisten beispielsweise auch mit annotierten alten Zeitungsartikeln, was dazu führt, dass deren Sprachmodelle eine Verzerrung hin zu einer "alten" Sprache haben. Das Training des Sprachmodells GPT-2 basiere hingegen auf Daten aus Reddit und dort verlinkten Quellen, schreiben Gebru und ihre Co-Autorinnen, doch 67 Prozent der Reddit-Nutzer in den USA seien männlich und 64 Prozent von ihnen zwischen 18 und 29. Bedeutet: Das sind beispielsweise keine repräsentativen Sprachdaten.

Es ist leicht denkbar, dass derartige Kritik vielen anderen Googlern nicht passt – etwa denen, die selbst an der Fortentwicklung großer Sprachmodelle des Konzerns mitarbeiten. Nur wenige Wochen, nachdem Googles KI-Chef Dean untersagt hatte, Gebrus Artikel über große Sprachmodelle unter dem Namen der Google-Mitarbeiterinnen zu publizieren, veröffentlichte Google Deep Mind, ein KI-Tochterunternehmen von Google, einen Rekord: ein riesiges Sprachmodell mit 1,6 Billionen Parametern. Grob gesagt ist das die Menge an Ausdifferenzierungsmöglichkeiten, die ein solches Netz hat, oder noch einfacher: die Menge an Kriterien aus den Daten, die die Computersysteme beim Lernen mitanalysieren. Diese sei anhand eines 750 Gigabyte großen Datensatzes mit Texten aus Wikipedia, Reddit und anderen Internetseiten trainiert worden – "zwei Größenordnungen größer als Wikipedia", wie Google-KI-Forscher stolz betonen.

Diese Präsentation passt gut in das Größer-besser-klüger-Paradigma, das im Rennen um die künstlichen Intelligenzen mit den besten Ergebnissen bereits seit Jahren im Gange ist. Was allerdings wohl weniger gut hier hinein gepasst hätte, wäre ein wissenschaftlicher Artikel, publiziert von Forscherinnen aus dem eigenen Haus, der genau diesen Größenwahn kritisiert.

"Die Schwester" – nicht "der Pfleger"

Dabei sind Gebru und ihre Mitstreiterinnen mit ihrer Kritik nicht allein. Auch Computerlinguist Dirk Hovy wurde schon vor Jahren darauf aufmerksam, wie Sprachmodelle Minderheiten diskriminieren. Der Informatiker von der Bocconi-Universität in Mailand war an der Studie von Gebru und ihren Mitstreiterinnen nicht beteiligt, sagt aber ebenfalls: "Wenn man mit Sprache arbeitet, lernen die Netze inhärente demographische Merkmale. Viele Daten, die wir haben, basieren auf Majoritätensprache." Will sagen: In der Art und Weise, wie Sprache verwendet wird, finden sich Hinweise auf die Herkunft von Sprecherinnen und Sprechern. Stammen die Texte, mit denen Softwaresysteme Sprache lernen, aus der Mehrheitsgesellschaft, lernen die Maschinen sie als normal kennen – und Minderheiten als Abweichung davon. Und genau das kann zu Diskriminierung führen.

In der Tat hat die Fachrichtung des maschinellen Lernens seit vielen Jahren das Problem der rassistischen und sexistischen Verzerrung. Das zeigt sich zum Beispiel in automatischen Übersetzungsprogrammen wie Google Translate, die beharrlich Rollenklischees verstärken, indem sie zum Beispiel Berufsbezeichnungen aus Sprachen, in denen diese ohne grammatikalisches Geschlecht verwendet werden, mit tradierter Geschlechtszuweisung in andere übersetzen. So macht Google Translate beispielsweise aus "the doctor and the nurse" im Deutschen immer "der Arzt und die Schwester", obwohl es ebenso gut "die Ärztin und der Pfleger" heißen könnte. Das passiert auch in Texten, in denen es sich für Menschen eindeutig erkennbar um eine Ärztin handelt, weil sie beispielsweise im Satz zuvor erwähnt wurde.

Es verwundert nicht, dass die Vorurteile, die in den Trainingsdaten stecken, von den lernenden Maschinen übernommen werden. Über viele Jahre haben Forscherinnen und Forscher versucht, diesen Bias, also die Verzerrung, zu eliminieren, indem sie bestimmte Teile oder Informationen aus den Daten entfernten. Das hilft aber nur bedingt, denn die Systeme des maschinellen Lernens sind so gut darin, Muster in Daten zu finden, dass sie die rassistischen oder sexistischen Zusammenhänge oft selbst wieder rekonstruierten.

Eine typische Reaktion von KI-Forschern und -Forscherinnen darauf ist, die Menge der Trainingsdaten zu erhöhen und ebenso die der Parameter in der Hoffnung, dass die Ergebnisse repräsentativer werden.

Wie wenig allerdings riesige Mengen an Parametern gegen menschliche Vorurteile im maschinellen Lernen helfen, hat zuletzt das Sprach-KI-Modell GPT-3 von OpenAI gezeigt. Dieses System kann auf Basis weniger vorgegebener Sätze unter anderem ganze neue Geschichten fortschreiben, die sowohl in Stil als auch Konsistenz viele Beobachter beeindruckten. Dafür wurde die Software dahinter mit 175 Milliarden Parametern trainiert – und wies trotzdem rassistische und sexistische Verzerrungen auf, wie die OpenAI-Forscherinnen selbst schreiben.

Das Risiko des Nachplapperns

Gebru und ihre Kolleginnen räumen ein, dass die riesigen Modelle zwar erfolgreich seien, wenn es um spezifische Anwendungsfälle ginge – dann produzieren sie durchaus gute und treffende Ergebnisse. Die gesellschaftlichen Nachteile überwiegen aber aus ihrer Sicht, da sie Sprache zwar erfolgreich imitieren, letztlich aber nicht verstehen. Da sie aber in der Lage sind, kongruente, also grammatikalisch weitgehend fehlerfreie, echt klingende Texte zu produzieren, kommen sie der Neigung des menschlichen Gehirns entgegen, Sinn in Sprache zu finden.

Das sieht Hovy ebenfalls als ein Problem an: "Die Modelle plappern etwas nach, das für uns wie kongruente Sprache aussieht." Das entstehe zwar aus den Daten auf Basis menschlicher Vorurteile, verstärke diese aber wiederum, sodass sich Rassismen und Sexismen weiter verfestigen – im maschinellen Lernen ebenso wie in unserer Kultur.

Aus ethischer Perspektive sei es wichtig, "den Nutzen ebenso wie die Risiken der Nachahmung von Menschen zu untersuchen", schreiben Gebru und ihre Kolleginnen. Sie schlagen vor, kleinere Modelle zu verwenden und ebenso kleinere Datensätze, um Zeit und Kapazitäten zu haben, diese zu kuratieren. So könnten Menschen beispielsweise überprüfen, ob die Daten repräsentativ sind.

Auch Joanna Bryson, Technikethikerin an der Hertie School of Governance plädiert für ein solches sorgfältiges Abwägen – gerade weil sie auch die Vorteile der großen Modelle von Google und anderen sieht. Schließlich verbesserten sie automatische Spracherkennung und Übersetzungen enorm, auch für Minderheitensprachen. "Wie messen wir diesen Vorteil, wenn dadurch acht Milliarden Menschen auch nur ein winziges bisschen weniger Missverständnisse haben?" Vielleicht sind die Kosten dann geringer als die Vorteile? Fragen wie diese, kritisiert Bryson, würden in dem Artikel zu wenig diskutiert – auch wenn sie erwähnt werden.

"Häufig nur eine Ausrede, um große Mengen an Daten zu sammeln"

Bryson hat aber noch eine prinzipiellere Kritik am Ansatz von Gebru und ihren Kolleginnen. "Viele denken, man muss nur die richtigen Trainingsdaten wählen, um Vorurteile aus dem maschinellen Lernen zu bekommen." Aber es sei keine Frage, die sich allein technisch lösen lasse, auch nicht mit kleineren Modellen und kuratierten Datensätzen: "Diese Vorurteile liegen in unserer Kultur, das sind wir." Bryson hatte 2017 mit Kolleginnen unter anderem aus der Hirnforschung gezeigt, dass in unserer Art zu denken ähnliche Verzerrungen vorliegen. "Wir müssen unsere Kultur ändern. Allerdings ist perfekte Fairness nicht möglich, da alle menschlichen Erfahrungen von der Vielfalt der Lebenswelten ausgehen, und es keine Möglichkeit gibt, alle Unterschiede auszugleichen."

Bryson sieht allerdings – ähnlich wie die Autorinnen – keine starke wissenschaftliche Evidenz, dass riesige Sprachmodelle entsprechend große Verbesserungen bringen – die von ihr erwähnten Vorteile für die Kommunikation seien nicht gewichtig genug, die Nachteile überwiegen. "Häufig sind sie nur eine Ausrede, um große Mengen an Daten zu sammeln für andere Zwecke wie Überwachungskapitalismus."

Viele dieser Streitigkeiten zeigen, dass um ein grundlegendes Verständnis um den Einfluss von Verzerrungen durch Daten in maschinellen Lernsystemen bis heute gerungen wird. Und erst recht um praxistaugliche Empfehlungen, wie es KI-Forscher denn besser machen könnten und sollten.

Wie frei forscht es sich bei Google?

Der Streit um das Papier und um Gebrus Person wirft aber auch ein Licht auf die Ethikabteilungen der großen US-Konzerne wie Google. Wie unabhängig sind sie wirklich? Immer wieder wurde gemutmaßt, dass Google letztlich nur das erforschen lässt, was marktwirtschaftlich gesehen Vorteile bringt. "In der Vergangenheit kam durchaus gute, unabhängige Forschung aus diesen Labors", sagt Hovy. Doch dass Google-Forscher ihre wissenschaftlichen Artikel zur Kontrolle im Unternehmen vorlegen müssen, sei besorgniserregend. "Das gibt es in der freien Forschung nicht."

Nach den aktuellen Vorfällen besteht der Verdacht, dass Forschungsergebnisse etwa aus der Ethikabteilung von Google nur dann gewünscht sind, wenn sie dem Unternehmen auch ins Konzept passen. Aus Gebrus Sicht unternimmt Google nicht genug gegen rassistische Voreingenommenheiten seiner Modelle. Womöglich wurde diese Position zu unbequem.

Ethik als Lippenbekenntnis, weil es ins Marketing passt? Informatiker Hovy kann am nun publizierten Artikel von Gebru und anderen keine Mängel in Bezug auf wissenschaftliche Standards erkennen, mit denen KI-Chef Dean die Ablehnung des Papers begründet hatte. Er habe durchaus den Eindruck, dass die Schlussfolgerung, nach der kleinere Modelle gesellschaftlich sinnvollere Ergebnisse liefern können, berechtigt ist: "Das ist alles gut belegt."

Das sehen manche anders. Forscher, die an sehr großen Sprachmodellen arbeiten, werfen Gebrus Artikel Einseitigkeit vor, weil er nicht auf die Vorteile großer Modelle eingehe. Das sei unfair, betont Microsoft-Research Forscher Bhaskar Mitra auf Twitter: Die gesamte Literatur über große Sprachmodelle erwähne "ausschließlich deren Vorteile und ignoriert potenzielle gesellschaftliche und ökologische Schäden".

Genau das ist zum Beispiel auch in dem Artikel der Fall, in dem die Deep-Mind-KI-Forscher von Google ihre neuesten Errungenschaften anpreisen. Von möglichen Nachteilen ihrer Arbeit ist darin nämlich nichts zu lesen. Und genauso wenig von dem Problem künstlicher Intelligenz mit gesellschaftlichen Stereotypen aus Internetartikeln.

Seitennavigation

Avatarbild von Simplicio Simplicio #1  —  vor 18 Stunden 40

Wer es mit Ethik ernst meint, der wird zwangsläufig anecken.

Ethik beschäftigt sich mit dem, was sein soll.

Gewünscht und auch geliefert wird häufig die Rechtfertigung des Faktischen.

Antworten  Melden  Empfehlen

- 9 Antworten verbergen

NewWave #1.1  —  vor 14 Stunden 17

Das stimmt wohl.

Aber viel spannender finde ich diesen Satz dazu:

Doch dass Google-Forscher ihre wissenschaftlichen Artikel zur Kontrolle im Unternehmen vorlegen müssen, sei besorgniserregend. "Das gibt es in der freien Forschung nicht."

Das ist purer Unsinn. Ich hätte während meiner Promotion kein einziges Paper veröffentlichen können das nicht über den Schreibtisch meines Professors gegangen ist. Und ob es veröffentlicht wurde war wie bei Google seine Entscheidung wenn sein Name (der des Instituts) mit drauf stand.

Ansonsten hätte ich wie bei Google auch meinen Hut nehmen können und gehen und es in eigenem Namen irgendwo einreichen. Wer mit drauf steht entscheidet ob es raus geht oder nicht, ganz egal ob es ein Thema ist das aneckt oder ob es um technische Themen geht.

Antwort auf #1 von Simplicio Antworten  Melden  Empfehlen

Kera #1.2  —  vor 14 Stunden 10

Damit wäre die Ethik schon das Problem: denn warum soll eigentlich Gebru darüber entscheiden dürfen, was "ethisch" erwünscht sein soll und was nicht? Was "sein soll", darüber entscheidet in einer Demokrstie das Volk durch Wahlen und nicht Frau Gebru in ihrem Hinterzimmerchen, um es dann bspw. über Vorgaben für Google oder im Duden ohne Legitimation in die Realität unzusetzen.

Antwort auf #1 von Simplicio Antworten  Melden  Empfehlen

Cancel Culture #1.3  —  vor 14 Stunden 3

Gewünscht und auch geliefert wird häufig die Rechtfertigung des Faktischen.

Und in diesem Sinne stellte sich Frau Gebru der normativen Kraft des Faktischen und hat ihre Kündigung angeboten, sollte sie ihre fertige Veröffentlichung noch mit aktuellerer Forschung ergänzen müssen, die die Aussage ihrer Veröffentlichung hätte verändern können. Daraufhin hat ihr Arbeitgeber ihr Angebot angenommen. Jemand der entbehrlich ist, kann in keinem Unternehmen der Welt mit Kündigung drohen, ohne eben diese zu erfahren. Der Protest dagegen, das ein Angebot angenommen wird, ist daher leicht bizarr. Dieser sollte sich besser dagegen richten, das Ethik entbehrlich ist.

Antwort auf #1 von Simplicio Antworten  Melden  Empfehlen

müsste Musik sein #1.4  —  vor 13 Stunden 4

Nicht besser sieht es übrigens diesbzgl in der EU aus. Diese hat auch vor kurzem erst ein Weißbuch in Sachen KI rausgegeben.

"Mit kritischen Fragen eines ausgedehnten Einsatzes künstlicher Intelligenz hält sich die EU-Kommission nicht auf. Hinter der Fassade der Kritiksimulation treibt sie die Agenda eines kommerzialisierten Überwachungssystems weiter voran.

Für Forschung und Entwicklung, die an den gesellschaftlichen Erfordernissen orientiert ist, ergibt sich eine Fülle von rechtlich-organisatorischen und wissenschaftlich-technischen Aufgaben. Darunter befinden sich auch solche, zu deren Bewältigung KI-Techniken – insbesondere des Maschinenlernens – durchaus hilfreich sein können.

Nicht zielführend ist dagegen die umgekehrte Vorgehensweise. Eine, die die EU-Kommission zu bevorzugen scheint: möglichst viele Daten aus möglichst vielen vernetzten Sensoren und Prozessoren zu sammeln, ganz pauschal KI-Techniken zu fördern und dann zu hoffen, dass möglichst viel Gutes dabei herauskommt. Das fängt schon damit an, dass man sich um eine systematische Antwort auf die Frage nach den ökologischen oder gar verfassungsrechtlichen Kosten dieses Ansatzes herumdrückt. Dabei ist deutlich, dass die Forschungsrealität, wie sie sich in den letzten Jahren herausgebildet hat, keinesfalls so offen nach allen Seiten ist, wie das Weißbuch Künstliche Intelligenz der Kommission suggeriert."

https://makroskop.eu/49-2020…

(leider hinter paywall)

Antwort auf #1 von Simplicio Antworten  Melden  Empfehlen

StephanSchulz #1.5  —  vor 12 Stunden

> Ich hätte während meiner Promotion kein einziges Paper veröffentlichen können das nicht über den Schreibtisch meines Professors gegangen ist.

Das ist weiß Gott zumindest in der Informatik nicht normal. Im Gegenteil - es war bei mir eher schwierig, überhaupt ein Feedback vom Professor zu bekommen (und nein, er stand dann auch nicht als Co-Autor auf dem Papier). Ein Professor hat in der Regel genug eigene Aufgaben, und freut sich über jede Veröffentlichung von Mitarbeitern seiner Gruppe.

Klar, wenn er genug Input liefert, um als Autor genannt zu werden, dann kann er natürlich (wie jeder andere Autor auch) entscheiden, ob das mit seinem Namen drauf raus geht.

Antwort auf #1.1 von NewWave Antworten  Melden  Empfehlen

Avatarbild von NomDeGuerre NomDeGuerre #1.6  —  vor 10 Stunden 4

Sie hat nicht entschieden, das gibt auch die Position gar nicht her.

Wann waren eigentlich die letzten Dudenwahlen?

Antwort auf #1.2 von Kera Antworten  Melden  Empfehlen

deep_franz #1.7  —  vor 7 Stunden 1

“Wann waren eigentlich die letzten Dudenwahlen?“

Gar nicht mal verkehrt. Der Duden bildet zeitversetzt aktuellen Sprachgebrauch ab. Man kann das z.B. darin sehen, wie Syntaxfehler durch stetige Wiederholung als korrekte Schreibweise in den Duden finden. Die “Wahl“ findet also tatsächlich stetig statt, allerdings gibt es keine Stimmengleichheit. Der größere Multiplikator bekommt das größere Gewicht.

Antwort auf #1.6 von NomDeGuerre Antworten  Melden  Empfehlen

Nightrider #1.8  —  vor 3 Stunden

Der Artikel war nach wissenschaftlichen Maßstäben völlig in Ordnung. Er wurde nur unterdrückt, weil er es gewagt hat, kritische Fragen zur technischen Entwicklung zu formulieren.

Wenn man mit dieser Kritik nicht umgehen kann, kann man sich auch die Ethik-Abteilung sparen. Dann stimmt was nicht mit der Unternehmenskultur Das ist sehr ärgerlich, denn grade bei der KI-Technik ist eine ethisch fundierte Kritik sehr wichtig.

Antwort auf #1.1 von NewWave Antworten  Melden  Empfehlen

Mal.nachgedacht #1.9  —  vor 3 Stunden

Das stimmt so nicht.

Wird denn nur Ethisches in unserer Demokratie umgesetzt?

Jedes kleinste Stück Ethik muss auch in unserer Gesellschaft erkämpft werden. Die Masse entscheidet nicht nach der Ethik, sondern aus dem Bauch heraus oder da, wo es am billigsten ist.

Egal, welche Partei ich wähle, egal, wer da im Bundestag sitzt:

Es gibt z. B. ein Tierschutzgesetz, aber es wird überhaupt nicht angewendet. Weiterhin leiden Millionen von Tieren in Ställen, bekommen Antibiotika, männlich Küken werden immer noch geschreddert, als wenn es sich da gar nicht um lebendige Tiere handeln würde.

Oder unser Grundgesetz, Artikel 2: "Eigentum verpflichtet. Sein Gebrauch soll zugleich dem Wohle der Allgemeinheit dienen..."

Wir erleben gerade eine ungeheure Verlagerung des Kapitals zugunsten der Großkapitalisten, die uns ihre Gesetze und ihre ihrem eigenem Profit dienende technischen Errungenschaften aufzwingen, die passende "Ethik" wird gleich mitgeliefert.

Wenn das eine Wissenschaftlerin, die ja unabhängig sein soll, durchschaut in einem gigantischen "Zukunfs"projekt, wird sie mundtot gemacht.

Gutachten werden in Auftrag gegeben und bezahlt, so lange, bis man ein Ergebnis hat, das einem selbst Vorteile bringt. Das ist doch ein Geheimnis.

Antwort auf #1.2 von Kera Antworten  Melden  Empfehlen

Miene Baya #2  —  vor 18 Stunden 5

"do no evil" als Unternehmensziel ist eben keine ergebnisoffene Forschung. Mit wachsender Verbreitung wird aus jeder noch so guten Intention leicht eine schlecht sitzende Zwangsjacke, die auch unerwünschte Ergebnisse produziert. Ethik ist eben nie konflikt- oder gar widerspruchsfrei und beinhaltet immer auch eine utilitaristische Komponente. Letzten Endes ist Google ein Wirtschaftsunternehmen.

Antworten  Melden  Empfehlen

- 8 Antworten verbergen

Sumu #2.1  —  vor 18 Stunden 33

Die Breite dessen was als "nicht Evil" durchgeht wird immer schmaler, Google wird in einen Konflikt klommen zwischen Forschung und Ideologie. Hier wurde ernsthaft gefordert aus Ideologiegründen maschinelles Lehren als Technologie effektiv zu eliminieren (resp, exakt jene Komponente die es stark macht), das ist mit der Idee ein Techkonzern zu sein und an erster Stelle zu forschen nicht vereinbar.

Antwort auf #2 von Miene Baya Antworten  Melden  Empfehlen

Dromedarius #2.2  —  vor 17 Stunden 10

Es ist aber auch ein Muster, was sich durch alle der großen 5 Big Tech Konzerne zieht: Es wird sehr viel Energie (auch tatsächlich in Form von Strom) eingesetzt um sehr komplizierte Probleme zu lösen, aber nur geringe Anstrengungen unternommen, um negative Folgen dieser technischen Entwicklung anzugehen.

Facebook ist da sicherlich das extreme Beispiel, was ungeheuren Aufwand in Verfügbarkeit, Geschwindigkeit und werberelevante Einschätzbarkeit steckt, aber nur sehr wenig Energie in redaktionelle Arbeit (was sollte wie und in welcher Form verarbeitet werden und wie wird das sicher gestellt). Da wird immer gerne damit argumentiert, dass das "technisch" nicht machbar ist, wo wir das zum Beispiel von jeder Zeitung trotz geringer Verbreitung erwarten.

Ja klar ist Ethik und Moral schwierig, das ist aber dass Bauen einer hochverfügbaren und sehr gut skalierten Suchmaschine und im Mittel mit sehr guten Antworten, eben auch.

Und es ist auch nicht alternativlos. Wolframalpha ist auch eine Frage-Antwort-Maschine mit sehr guten Antworten und die schafft es zum Beispiel ihre Antwort immer zu erklären (wie sie auf die Lösung gekommen ist und welche Alternativen bei der Interpretation der Frage in Rahmen des Systems es gegeben hätte). Google nutzt mittlerweile eine ähnliches Knowledge-Management (merken sie wenn sie 2+2 googlen), zeigt aber eben nicht den Lösungsweg noch die Interpretation der Frage an.

Ist zwar so einfacher verständlich, aber eben nur scheinbar alternativlos.

Antwort auf #2.1 von Sumu Antworten  Melden  Empfehlen

bitte belegen Sie Ihre ZONsur mit Quellen #2.3  —  vor 17 Stunden 10

Google hat "dont be evil" vor zweieinhalb Jahren als Leitsatz entfernt...

Antwort auf #2.1 von Sumu Antworten  Melden  Empfehlen

Mambomambo #2.4  —  vor 16 Stunden 6

"do no evil" ist seit ca. 2018 nicht mehr Bestandteil der Google Unternehmensgrundsätze.

Antwort auf #2 von Miene Baya Antworten  Melden  Empfehlen

sandor123 #2.5  —  vor 16 Stunden 2

"Hier wurde ernsthaft gefordert aus Ideologiegründen maschinelles Lehren als Technologie effektiv zu eliminieren (resp, exakt jene Komponente die es stark macht)"

Wieso soll es hier nur um "Ideologiegründe" gehen? Ideologisch scheint mir eher Ihre Behauptung, maschinelles Lernen solle hier effektiv eliminiert werden. Es geht doch darum, mit was für einer Textauswahl die Maschinen gefüttert werden bzw. was am Ende als akzeptbaler Output angesehen wird. Wenn ein Text, in dem zuvor von einer Ärtzin die Rede war, besagte "doctor" mit "Arzt" übersetzt wird, dann taugt die Übersetzung doch ganz offenbar nichts.

Antwort auf #2.1 von Sumu Antworten  Melden  Empfehlen

mStandpunkt #2.6  —  vor 16 Stunden

Ich kann mich des Gefühls nicht erwehren, dass Sie Beide (auch der Forist Sumu) sich hier im Relativieren versuchen.

Dabei sehe ich hier keinen Grund für Relativierungen.

Entweder ein U. steht zu seinen Maßstäben, oder eben nicht.

Antwort auf #2 von Miene Baya Antworten  Melden  Empfehlen

Miene Baya #2.7  —  vor 12 Stunden

deswegen sind Ethikforscher im Unternehmen ja auch inzwischen entbehrlich und besser anderswo aufgehoben.

Antwort auf #2.4 von Mambomambo Antworten  Melden  Empfehlen

Sumu #2.8  —  vor 4 Stunden 2

Und genau das hat Google getan. Google hat in dem Fall das was sie können und tun, das handhaben grosser Datenmengen und deren möglichst gute Auswertung gewählt und jemanden gehen lassen der etwas anderes wollte. Was die Ethikern vorgeschlagen hat würde das ganze Forschungsgebiet ad absurdum führen.

Maschinelles lernen ist stark weil die Maschine so viel mehr Daten durcharbeiten kann als es ein Mensch, oder eine kleine Gruppe könnte. Damit bekommt die KI einen grösseren Satz an Mustern und kann trotz schlechterer Auswertung (unkuratierterter Datensatz) ein mehr an Mustern erkennen. Diese Datenmengen jetzt wieder auf eine Grösse zurechtzustutzen die man mit einem Team überblicken und vorbereiten kann bedeutet die Kapazität des maschinellen Lernens soweit zurück zu drehen das die Leistungsfähigkeit der KI faktisch der KI Forschung vor der Erfindung des maschinellen Lernens entspricht.

Die Ethikerin hat Google faktisch vorgeschlagen ihre ganze Expertise in die Tonne zu kloppen weil die KI nicht ihrem Weltbild entsprechende Ergebnisse geliefert hat.

Antwort auf #2.6 von mStandpunkt Antworten  Melden  Empfehlen

Avatarbild von Barrelshifter Barrelshifter #3  —  vor 18 Stunden 84

Zitat: "So macht Google Translate beispielsweise aus "the doctor and the nurse" im Deutschen immer "der Arzt und die Schwester","

Dieses Beispiel ist schlecht gewählt. Je nach Datenbasis und Trainingstiefe, kann der google Übersetzer durch aus, im Kontext des restlichen Textes, das Geschlecht entsprechend anpassen.

Das Ausmerzen des generischen Maskulinum, ist hingengen eine eher ideologische Angelegenheit. Anderst gesagt: geht man devon aus, dass die google engine auf Basis einer breiten Datenlage übersetzt, bekommt man tatsächlich ein Abbild der Realität im Ergebnis widergespiegelt. Das dies mit manchen Weltsichten nicht vereinbar ist, darf dann gerne der Erhebungsgruppe der Datenbasis angelastet werden. Es wäre dann eine Form von Mehrheitsdiskriminierung. Ob das akzeptabel sein soll, darf diskutiert werden. Aber keinesfalls sollte dieser Umstand als akzeptiertes Normal betrachtet werden.

Antworten  Melden  Empfehlen

- 23 Antworten verbergen

Warnieweg #3.1  —  vor 18 Stunden 16

Nun, im Artikel wird doch eindeutig erklärt, dass die KI auch dann den Arzt männlich setzt, wenn aus dem Kontext eindeutig hervorgeht, dass eine Ärztin gemeint ist. Insofern sind Ihre Ausführungen ein perfektes Beispiel für die "eher ideologische Angelegenheit" "manche Weltsichten" zu retten.

Antwort auf #3 von Barrelshifter Antworten  Melden  Empfehlen

Miene Baya #3.2  —  vor 18 Stunden 8

Ethik hat immer auch eine normative Komponente.

Dieser kann eine KI, die auf vorhandenen Daten aufbaut, niemals gerecht werden.

Es sei denn, man gibt ihr einen normativen bias mit. Aber auch dieser ändert sich im Zeitablauf, die KI würde zwangsläufig hinterer hinken.

Antwort auf #3 von Barrelshifter Antworten  Melden  Empfehlen

Miene Baya #3.3  —  vor 17 Stunden 5

Eine eher sophistische Frage:

Müsste GoogleTrans die Übersetzung zwingend anpassen, wenn - aus späteren Texten - bekannt ist, dass die betreffende Person mittlerweile ihr Geschlecht geändert hat?

Antwort auf #3 von Barrelshifter Antworten  Melden  Empfehlen

coolerbub #3.4  —  vor 17 Stunden 7

Eben. Laut deutscher Grammatik korrekt wäre ja auch "Mein Arzt ist eine Frau."

Das ist ein einwandfreier Satz, an dem sich nun weiß Gott niemand aufhängen sollte.

Antwort auf #3 von Barrelshifter Antworten  Melden  Empfehlen

auchberliner #3.5  —  vor 17 Stunden 9

„ geht man devon aus, dass die google engine auf Basis einer breiten Datenlage übersetzt, bekommt man tatsächlich ein Abbild der Realität im Ergebnis widergespiegelt. Das dies mit manchen Weltsichten nicht vereinbar ist, darf dann gerne der Erhebungsgruppe der Datenbasis angelastet werden.“

Sie setzen hier implizit die Mehrheitsmeinung mit der Realität gleich.

Dass man auf so einer Argumentationsbasis Minderheitenmeinungen als „ideologisch“ abtut und Minderheitenschutz als „Mehrheitsdiskriminierung“ ablehnt, ist so nachvollziehbar wie unsinnig.

Was als „normal“ gilt, ist oftmals für verschiedene Menschen unterschiedlicher, als Sie sich das offensichtlich vorstellen können.

Antwort auf #3 von Barrelshifter Antworten  Melden  Empfehlen

M.Schæfer #3.6  —  vor 17 Stunden 4

Vielleicht ist der Übersetzer dann einfach verbesserungswürdig, statt, dass er jetzt Frauen hasst, weil alle Frauen hassen und er das übernommen hat.

Antwort auf #3.1 von Warnieweg Antworten  Melden  Empfehlen

Avatarbild von kartoffelsack kartoffelsack #3.7  —  vor 16 Stunden 5

"generischen Maskulinum"

Ich erkenne dieses Problem an, sehe aber dass das im Deutschen extrem schwierig ist zu lösen. Sternchen, Sprechpausen etc ist m.Mn. nach nichts was sich jemals durchsetzen wird.

Deshalb mein Vorschlag:

1. In der Gramatik hören wir auf von Geschlechtern zu sprechen. Diese Endungen haben praktisch nichts mit biologischem oder sozialem Geschlecht zu tun. Wir nennes es "Artikelform" und "erste Artikelform (früher: weiblich), zweite Artikelform (früher: männlich). Bessere Vorschläge für die Benamsung willkommen)

Damit hören wir auf, Kindern in der Grundschule einen vermeintlichen Zusammenhang zwischen Artikelform und Geschlecht einzutrichter.

Dieser erste Punkt könnte per Verordnung von der Kultusministerkonferenz erlassen werden. Außerhalb der Schulen werden diese grammatikalischen Begriffe sowieso kaum genutzt.

2. Wir hören auf "in" anzuhängen. Wenn das Geschlecht wichtig ist, sagen wir "weiblicher Hund" (statt Hündin). Ansonsten die Grundform. Der Hund, das Huhn, die Schlange.

3. Bei Berufsbezeichnungen werden nur noch die üblichen Formen benutzt. Auch wenn sie ein geschlechtsmerkmal behalten. Dann kann ich als Mann halt ne Ausbildung zur Krankenschwester machen.

Auch bei diesem Punkt könnte man viel über Verordung machen. Da die offiziellen Berufsbezeichnungen ja geregelt sind, ebenso wie die Verwendung in Stellenausschreibungen oder Tarifverträgen.

Antwort auf #3 von Barrelshifter Antworten  Melden  Empfehlen

dth #3.8  —  vor 16 Stunden 4

Naja, das tut sie teilweise. Das dürfte aber schlicht daran liegen, dass sie satzübergreifende Zusammenhänge häufig eben nicht nachvollziehen kann.

Die Bewertung im Artikel, dass die KI nur Muster repliziert, ohne diese zu verstehen, ist schon richtig. Die Frage ist halt, als wie dramatisch man das Problem bewertet.

Das generische Maskulinum ist in der Alltagssprache immer noch der Standard, also wird die KI es auch replizieren und darauf immer ausweichen, wenn sie andere Zusammenhänge nicht erfasst.

Die Übersetzung von Nurse zu Schwester statt zu Pfleger bildet natürlich einen historischen Sprachgebrauch und historische Rollen ab. Früher waren "Nurses" eben "Schwestern". Im Englischen hat der Begriff sich gewandelt in Deutschen wurde er ersetzt. Wobei kaum jemand von Krankenpflegerin redet. Man kann von einer derart begrenzten Technik wie der automatischen Sprachverarbeitung nicht erwarten, dass sie diese Probleme löst.

Die Frage ist, ob daraus wirklich ein ernsthaftes, gesellschaftliches Problem entsteht. Auch mit Alltagssprache generell haben KIs massive Probleme. Ich würde sagen, es ist trotz solcher Beschränkungen ein nützliches Tool.

Aufgrund der mit KI verbundenen Ängste haben Google und Co. sich halt Ethiker angelacht, die jetzt die Debatte befeuern.

Antwort auf #3.1 von Warnieweg Antworten  Melden  Empfehlen

Derax #3.9  —  vor 16 Stunden 1

Ne eigentlich nicht er meint ja nur die Anwendung beim generischen Maskulinum und geht auf das danach nicht ein.

Frag mich gerade ob auch krankenbruder/intensivbruder genutzt wird , :)

Antwort auf #3.1 von Warnieweg Antworten  Melden  Empfehlen

Naturrecht #3.10  —  vor 16 Stunden 3

Ich habe eben beim Google Translator folgendes eingegeben „My mum is a doctor“ zurück kam „Meine Mutter ist Ärztin.

Damit wäre belegt, dass zumindest der Google auch das Geschlecht anpassen kann ...

Antwort auf #3.1 von Warnieweg Antworten  Melden  Empfehlen

mStandpunkt #3.11  —  vor 16 Stunden 3

Zitat:

"Was als „normal“ gilt, ist oftmals für verschiedene Menschen unterschiedlicher, als Sie sich das offensichtlich vorstellen können."

Das stimmt wohl.

Und das ist dann auch genau der Grund warum man eine KI o. ä. nicht vor-geben sollte.

Der gerade aktuelle Trend das generische Maskulinum ausmerzen zu wollen ist m. E. nur ein zeitl. begrenzter Trend.

Der hört auch wieder auf.

Daher sollte sich die KI einfach an der Mehrheit der ihr bekannten Verwendungen beziehen, resp. Texte immer nur im Kontext behandeln.

Antwort auf #3.5 von auchberliner Antworten  Melden  Empfehlen

Avatarbild von Barrelshifter Barrelshifter #3.12  —  vor 16 Stunden 1

Ad hominem ist keine Grundlage für eine zivilisierte Diskussion.

Antwort auf #3.5 von auchberliner Antworten  Melden  Empfehlen

Avatarbild von Gelber Molch Gelber Molch #3.13  —  vor 15 Stunden 2

“Das Ausmerzen des generischen Maskulinum, ist hingengen eine eher ideologische Angelegenheit.“

Ideologisch ist, wenn Sie die Übersetzung „die Schwester“ für die korrekte Anwendung des generischen Maskulinums halten.

Antwort auf #3 von Barrelshifter Antworten  Melden  Empfehlen

auchberliner #3.14  —  vor 15 Stunden 3

„Ad hominem ist keine Grundlage für eine zivilisierte Diskussion.“

Das sehe ich genauso.

Ist dieser Vorwurf an mich Ihr Ersatz für Argumente?

Wo sehen Sie in meinem Kommentar einen Angriff auf ihre Person?

Und wie stehen Sie zu meinen inhaltlichen Argumenten?

Antwort auf #3.12 von Barrelshifter Antworten  Melden  Empfehlen

Avatarbild von Zauberer aus Oz Zauberer aus Oz #3.15  —  vor 15 Stunden 4

Selbst wenn das wahr wäre, wäre das noch kein Beweis für Diskriminierung. Lediglich für Inkompetenz. Siehe Hanlon's razor: https://en.wikipedia.org/wik…

Google Translate übersetzt "Mary is a doctor" korrekt mit "Mary ist Ärztin". "Peter is a nurse", dagegen, wird mit "Peter ist Krankenschwester" übersetzt. Wer hier "Diskriminierung" unterstellt, sollte auch in der Lage sein, ein Motiv zu nennen, warum Google schlechter zu sein wollen würde, als die (menschliche) Konkurrenz.

Antwort auf #3.1 von Warnieweg Antworten  Melden  Empfehlen

Avatarbild von Gelber Molch Gelber Molch #3.16  —  vor 13 Stunden 4

“Wer hier "Diskriminierung" unterstellt, sollte auch in der Lage sein, ein Motiv zu nennen, warum Google schlechter zu sein wollen würde, als die (menschliche) Konkurrenz.“

Niemand behauptet, dass Google absichtlich schlecht übersetzt, um eine Gruppe zu diskriminieren. Daher erübrigt sich die Frage nach einem Motiv.

Im Artikel geht es um Kritik an der Methodik, wie KI-Algorithmen trainiert werden, dass dadurch (ungewollt) Diskriminierungen entstehen können und Google sich mit dieser Kritik (zumindest öffentlich) nicht auseinandersetzen möchte.

Bei der fehlerhaften Übersetzung handelt es sich lediglich um ein relativ harmloses Beispiel zur Illustration der Mechanismen. In anderen Bereichen, wie z.B. der Personalrekrutierung, der Begutachtung von Versicherungs- oder Kreditrisiken usw. können derartige gelernte Vorurteile durchaus handfestere Auswirkungen haben.

Antwort auf #3.15 von Zauberer aus Oz Antworten  Melden  Empfehlen

Petrucciation #3.17  —  vor 13 Stunden 1

"Ad hominem ist keine Grundlage für eine zivilisierte Diskussion."

Sicher, dass Sie ad hominem meinen? Wo wird der Forist persönlich? Es wird doch klar nur auf die Argumentationsweise eingegangen, oder nicht?

Antwort auf #3.12 von Barrelshifter Antworten  Melden  Empfehlen

Nibbla #3.18  —  vor 12 Stunden

" google engine auf Basis einer breiten Datenlage übersetzt, bekommt man tatsächlich ein Abbild der Realität im Ergebnis widergespiegelt."

hier könnte ein Fehlschluss versteckt sein.

Antwort auf #3 von Barrelshifter Antworten  Melden  Empfehlen

StephanSchulz #3.19  —  vor 12 Stunden 1

> Aber auch dieser ändert sich im Zeitablauf, die KI würde zwangsläufig hinterer hinken.

Im Moment werden die KIs häufig mit alten Texten gefüttert, weil die oft mehrsprachig und gemeinfrei vorliegen. Da hängt die KI dem Zeitgeist wesentlich weiter hinterher.

Antwort auf #3.2 von Miene Baya Antworten  Melden  Empfehlen

Warnieweg #3.20  —  vor 11 Stunden

Genau darum geht es ja. Sich besser und präziser auszudrücken. Ob KI oder Mensch.

Antwort auf #3.6 von M.Schæfer Antworten  Melden  Empfehlen

Warnieweg #3.21  —  vor 11 Stunden

"dass zumindest der Google auch das Geschlecht anpassen kann"

Die Google bitte schön.

Antwort auf #3.10 von Naturrecht Antworten  Melden  Empfehlen

Avatarbild von Klaunwelt2020_06 Klaunwelt2020_06 #3.22  —  vor 11 Stunden 7

Nun braucht es nicht unbedingt künstliche Intelligenz, um seltsame Ergebnisse zu erzielen. Gestern etwa wurde ein Artikel veröffentlicht, der über eine Studie sprach, die von drei Männern veröffentlicht wurde, klar erkennbar an Namen wie Thomas oder Richard. In der Zeit stand das dann so: "die Autorinnen" - weil, das weiß man inzwischen, die Zeit bei gemischten Gruppen inzwischen abwechselnd den generischen und femininen Plural verwendet, um die 50:50 Demographie widerzuspiegeln und Geschlechtergerechtigkeit zu schaffen.

Daß das in die Hose gehen kann, wenn es sich um eine homogene Gruppe handelt, hätte man sich denken können, aber der Algorithmus der Prinzipien, der an dieser Stelle weder künstlich noch intelligent war, kannte keine Ausnahmen.

Und wie bei Google wurde auf meinen sarkasmusfreien Kommentar reagiert: er wurde nicht veröffentlicht.

Antwort auf #3 von Barrelshifter Antworten  Melden  Empfehlen

Avatarbild von Zauberer aus Oz Zauberer aus Oz #3.23  —  vor 3 Stunden

Wenn es sowohl an der Motivation, als an realen Auswirkungen fehlt, wo soll dann die Diskriminierung sein? "Peter ist Krankenschwester" ist schlicht falsch. Wenn ein Mensch, wider besseren Wissens, das so sagen würde, könnte man meinen, er hätte Subjektiv etwas gegen Peter, oder gegen Krankenschwester. Aber welche Nachteile hat irgendeine(r) von den Beiden?

Bei Vorhersagen, die bei Stellenbesetzungen oder Kreditvergabe eine Rolle spielen, mögen Sie Recht haben. Wenn die Praxis, aus der die AI lernt, selbst diskriminierend war, wird die AI diese Diskriminierung auch so lernen. Und es ist eine philosophische Frage, ob das ein Problem der diskriminierenden Gesellschaft oder der AI ist.

Aber dafür sind die Ärztin und der Pfleger ganz ungeeignete Beispiele. Darauf hat sich Barrelshifter in seinem/ihrem Kommentar bezogen. Haben Sie ein Beispiel, wo Googles AI echte, materielle Nachteile für jemanden verursacht hat?

Antwort auf #3.16 von Gelber Molch Antworten  Melden  Empfehlen

frimoe #4  —  vor 18 Stunden 9

Ich weiß schon, warum ich Google-Software meide, so gut es geht. Ich trau dem Konzern nicht mehr.

Antworten  Melden  Empfehlen

- 9 Antworten verbergen

GoaSkin #4.1  —  vor 18 Stunden 5

Ist doch auch ganz einfach: Suchen mit fireball.de, Karten auf here.com und Sailfish OS auf dem Smartphone.

Antwort auf #4 von frimoe Antworten  Melden  Empfehlen

Bernd16 #4.2  —  vor 17 Stunden 5

" Ich trau dem Konzern nicht mehr."

Warum? Weil Google so spricht, wie die Mehrheit der zum Training angebotenen Texte? Was lesen Sie sonst so? Was haben Sie gegen die Mehrheit?

Ich meide Google ja auch - aber sicher nicht aus diesem Grund.

Antwort auf #4 von frimoe Antworten  Melden  Empfehlen

Kein_Spass #4.3  —  vor 17 Stunden 2

Sollte jeder so machen. Nur praktikabel ist das leider nicht wirklich. Es sei denn man kann auf viele Dienste verzichten, an die man sich im Alltag so gewöhnt hat. Die Konsequenz aus dem was Snowden und Co. so aufgedeckt haben, hätte ja eigentlich sein sollen, dass man europäische Ersatzdienste anbietet. Die gibt es nur leider nicht. Könnte man fördern, z.B. eine Alternative zu Windows. Ist bislang aber auch nicht passiert. Darum nutzt der Otto-Normal-Verbraucher halt das, was der Markt anbietet und was praktikabel ist.

Antwort auf #4.1 von GoaSkin Antworten  Melden  Empfehlen

Turnmutter #4.4  —  vor 17 Stunden

Google steht eigentlich schon lange auf der Seite des antipopulistischen, demokratischen Lagers. Das hat man ja in den USA gesehen. Auch in Europa hilft Google jetzt mit, rückwärtsgewandte Webinhalte in den Hintergrund zu drängen. Auch Dean wird die Sprachkritik früher oder später akzeptieren müssen, zumal in seinem Unternehmen längst die Moderne Einzug gehalten hat.

Antwort auf #4 von frimoe Antworten  Melden  Empfehlen

Voggl242 #4.5  —  vor 16 Stunden 1

Auch gut duckduck.go und Beave als Browser.

Antwort auf #4.1 von GoaSkin Antworten  Melden  Empfehlen

Riikkoseven #4.6  —  vor 15 Stunden 1

Ich benutze ecosia, schadet nicht und ich finde immer was ich brauche. Bereits 7k Suchanfragen, yey

Antwort auf #4.1 von GoaSkin Antworten  Melden  Empfehlen

jotwidee #4.7  —  vor 14 Stunden 1

duckduck.go ist nicht halb so gut wie google. Ich habe entnervt aufgegeben.

Antwort auf #4.5 von Voggl242 Antworten  Melden  Empfehlen

Adiletten_Alman #4.8  —  vor 13 Stunden 3

Letztlich ist es eine Frage der Gewöhnung und die Frage inwieweit sie gewisse Umstände in Kauf nehmen, um die Bequemlichkeit nicht mit Ihren Daten zu bezahlen.

Sie können Google Produkte relativ einfach mit Frontends zur Anonymisierung umgehen, eine gute #9.2  —  vor 15 StundenAuswahl an (OpenSource-)Alternativen findet sich hier: https://www.projekte.hu-berl…

1

Die Maschinen handeln diskriminierend, aber nicht rassistisch. Dies würde Intention voraussetzen. Und sie tun dies nicht notwendiger Weise aufgrund von "rassistische[n] und sexistische[n] Handlungs- und Äußerungsformen" in der Gesellschaft, sondern aufgrund davon dass die Mehrheit sich so äußert. Wenn z.b ein regionaler Dialekt missverstanden wird, ist das nicht das böse Verhalten der Mehrheit, aber immer noch diskriminierend (und auch falsch, da der Dialekt ja auch Teil der Sprache ist).

Was ich damit sagen möchte ist, dass an dem Aliegen von Frau Gebru schon etwas dran ist. Aber man deshalb nicht zum gesellschaftlichen Rundum-Schlag ausholen muss.

#9 von Hans-Georg Georg

Antworten  Melden

Empfehlen

Da Moritz

#9.3  —  vor 15 Stunden

Das sind mehr oder weniger komplexe Algorithmen. Von super intelligenten Maschinen kann da überhaupt keine Rede sein

#9 von Hans-Georg Georg

Antworten  Melden

Empfehlen

Ieldra

#10  —  vor 18 Stunden

18

Dass sich ein Übersetzungsprogramm am Sprachgebrauch der Mehrheit orientiert, ist nicht problematisch. Es ist normal. Woran soll es sich denn sonst orientieren?

Allerdings gehören Verzerrungen irgendwelcher Art, die sich aus der Auswahl der Quellen ergeben, in die wissenschaftlichen Abhandlungen, egal, wie man sie letztendlich bewertet. Es ist generell gute Wissenschaft, die Begrenzungen der eigenen Modelle zu erwähnen, und schlechte Wissenschaft, sie zu verschweigen.

Im übrigen liegt das Kernproblem darin, dass die KI in anderen Anwendungen automatisierte Einzelfallentscheidungen trifft. Da gibt es - im Gegensatz zum automatischen Übersetzen - echtes Diskriminierungspotential. Daran etwas zu ändern, ist aber schwierig. Die KI reproduziert Stereotype, aber wenn man wieder Menschen entscheiden lässt, kommen deren Vorurteile zum Tragen.

Ich kann nur schlussfolgern, dass es sinnlos ist, am Symptomen herumzudoktern. Joanna Bryson hat Recht: erst muss sich die Kultur ändern, nur kann man die eben nicht einfach vorschreiben.

Antworten  Melden

Empfehlen

- 3 Antworten verbergen

Avatarbild von M Silenus

M Silenus

#10.1  —  vor 17 Stunden

5

Überraschung: Auf möglichst breiter Basis trainierte Übersetzungsprogramme benutzen Alltagssprachgebrauch nicht von Aktivisten aufgezwungenen Neusprech.

#10 von Ieldra

Antworten  Melden

Empfehlen

Avatarbild von zukunftcom

zukunftcom

#10.2  —  vor 15 Stunden

1

Nur weil etwas normal ist, bedeutet das nicht, dass es auch unproblematisch ist. Viele tausend Jahre war es für Menschen normal, sich im Krieg gegenseitig umzubringen. Das möchte ich trotzdem gerne vermeiden.

Die Kultur wir sich bei den BigTech Firmen nur ändern, wenn ihnen die Kunden weglaufen. Daher mein Vorschlag zur Vermarktung von yacy.net: https://searchlab.eu/t/busin…

#10 von Ieldra

Antworten  Melden

Empfehlen

Da Moritz

#10.3  —  vor 12 Stunden

Ist heute ebenso normal...Jemen, Nordkaukasus, Syrien etc

#10.2 von zukunftcom

Antworten  Melden

Empfehlen

Thought

#11  —  vor 18 Stunden

8

Wenn sie gekündigt wurde weil ihre Ergebnisse Google zu unbequem wurden, warum hat Google dann überhaupt eine Ethikerin für dieses Thema eingestellt?

Wenn eine Mitarbeiterin fordert, dass ein definierter Unternehmens-Prozess für sie alleine nicht gelten soll und ansonsten mit der Kündigung droht müsste ich als Vorgesetzter nicht lange über eine Entscheidung nachdenken.

Ansonsten ein sehr informativer Artikel der gut aktuelle Probleme im Bereich Machine Learning aufzeigt. Bei allem was damit zu tun hat Menschen zu kategorisieren sollte man von künstlicher Intelligenz absehen.

Antworten  Melden

Empfehlen

- 8 Antworten verbergen

Bernd16

#11.1  —  vor 17 Stunden

5

"Wenn sie gekündigt wurde weil ihre Ergebnisse Google zu unbequem wurden, warum hat Google dann überhaupt eine Ethikerin für dieses Thema eingestellt?"

Ich habe gelesen, dass Sie die Kündigung angeboten hat und Google hat einfach angenommen. Das würde ich jetzt nicht als gekündigt ansehen.

Ansonsten bin ich bei Ihnen. Anscheinend haben Maschinen, die von Menschen lernen, das gleiche Problem wie Menschen, die von (der Mehrheit) anderen Menschen lernen.

Wenn man nachdenkt, eigentlich ganz logisch.

#11 von Thought

Antworten  Melden

Empfehlen

Sperrdichnicht

#11.2  —  vor 17 Stunden

1

"Wenn eine Mitarbeiterin fordert, dass ein definierter Unternehmens-Prozess für sie alleine nicht gelten soll und ansonsten mit der Kündigung droht müsste ich als Vorgesetzter nicht lange über eine Entscheidung nachdenken."

Wenn es sich bei der Mitarbeiterin um eine Person of Color handelt, dann müssen Sie heutzutage offenbar leider doch etwas länger nachdenken. Denn wie Sie in diesem Fall schön erkennen können, geht das Verhalten der Mitarbeiterin in der öffentlichen Diskussion völlig unter.

#11 von Thought

Antworten  Melden

Empfehlen

Avatarbild von M Silenus

M Silenus

#11.3  —  vor 17 Stunden

5

Gebru hatte ihrerseits mit Kündigung gedroht, sollte ihr nicht mitgeteilt werden, welche Kollegen einen von ihr verfassten Bericht für nicht veröffentlichbar hielten.

Dem wollte Google nicht nachkommen, zu Recht m.A.n. - diese wären an den öffentlichen Pranger gestellt worden. Also hat man ihrer Drohung entsprochen.

Siehe:

https://www.businessinsider.…

#11 von Thought

Antworten  Melden

Empfehlen

earth99

#11.4  —  vor 17 Stunden

3

Der Artikel erwähnt, dass sie nicht gekündigt wurde. Google hat ihre Kündigung akzeptiert.

#11 von Thought

Antworten  Melden

Empfehlen

Avatarbild von klaurot

klaurot

#11.5  —  vor 16 Stunden

1

Wenn sie gekündigt wurde weil ihre Ergebnisse Google zu unbequem wurden, warum hat Google dann überhaupt eine Ethikerin für dieses Thema eingestellt?

*

Eben! Die Frage ist, ob es ethisch vertretbar ist, eine Mitarbeiterin zu entlassen, weil sie in einer Fachfrage eine andere Ansicht hat als es das Unternehmen für wünschenswert hält. Bei der Lösung dieses ethischen Problems hilft KI offensichtlich nicht weiter.

Im Übrigen ist die Drohung mit einer Kündigung tatsächlich und rechtlich keine Kündigung, nicht einmal ein Angebot für eine Kündigung, das allerdings auch nicht erforderlich ist, weil eine Kündigung eine einseitige Willenserklärung ist, die weder angeboten noch angenommen werden muss. Sie wird einfach erklärt - und aus. Ob die Kündigung berechtigt ist, ist eine andere -rechtliche - Frage. Die Erklärung der Kündigung erfolgte hier unzweifelhaft durch das Unternehmen und nicht etwa durch die Mitarbeiterin, auch wenn das Unternehmen aus nahe liegenden Gründen einen anderen Eindruck erzeugen möchte, wobei KI freilich ebenfalls nicht hilfreich ist. Vielleicht sollte sich das Unternehmen mit dem Arbeitsrecht vertraut machen, welches auf juristischer Intelligenz beruht, bevor es sich an der künstlichen Intelligenz versucht. Jedenfalls lässt der vorliegende Sachverhalt nicht erwarten, dass die künstliche Intelligenz juristischer Intelligenz in naher Zukunft den Rang ablaufen könnte, und was aus der Sicht eines Juristen ganz beruhigend ist.

#11 von Thought

Antworten  Melden

Empfehlen

dth

#11.6  —  vor 16 Stunden

Nun, KI generiert Ängste und einige provokative Einzelbeispiele haben auch den Vorwurf des Rassismus darauf gelenkt. In der Debatte geht es in den USA heiß her, daher wurden Google und Co. nervös und mussten irgendwie demonstrieren, dass man die Bedenken ernst nimmt. Also hat man Ethiker eingestellt.

Nun bedroht eben eine davon durch ihre Thesen das eigene Business und hat freundlicherweise mit der Kündigung gedroht und man hat diese angenommen.

#11 von Thought

Antworten  Melden

Empfehlen

mStandpunkt

#11.7  —  vor 15 Stunden

1

Bestimmte Positionen werden in U. nur besetzt weil es der GG, die BerufsG, o. ä. so vorschreiben, oder weil sie schlicht eine Feigenblattfunktion haben.

Da man auf diesen Posten verzichten kann wurde das auch so umgesetzt.

#11 von Thought

Antworten  Melden

Empfehlen

Schinkenjoe

#11.8  —  vor 3 Stunden

Inhaltliche Vorgaben der KI-Abteilung an die Ethikabteilung sind eine Abweichung vom wohldefinierten Unternehmensprozess und nur möglich durch eine hierarchische Entscheidung. Die Kündingung war die einzige Möglichkeit auf dieses Abweichen aufmerksam zu machen.

#11 von Thought

Antworten  Melden

Empfehlen

maxidimeno

#12  —  vor 18 Stunden

4

Naja hegemoniale Strukturen werden durch einen logischerweise immer positivistisch agierenden Alghorythmus verstärkt. Das ist ein systemisches Problem und betrifft ja nicht nur Merkmale wie Religionszugehörigkeit, Hautfarbe etc. Selbst wenn sie das alles wieder rauscodieren werden am Ende trotzdem Machtstrukturen dadurch immer verfestigt.

Antworten  Melden

Empfehlen

Magermilchbande

#12.1  —  vor 17 Stunden

1

Genau, wie bringe ich einer Maschine Kritik und Reflexion bei?

Anstelle von YouTube empfehle ich invidio.synopta.org bzw. andere Invidious-Instanzen, anstelle von Googles Chrome Brave Browser oder LibreWolf, anstelle der Google-Suche die privatisierte Suche durch startpage.com oder searx.com. Google Maps kann mit OpenStreetMaps ersetzt werden. Sie büßen dadurch keine inhaltliche Qualität ein, haben aber Zugriff auf alles, bei maximaler Privatsspäre.

Analog dazu können Sie Instagram mit bibliogram.art umgehen, Twitter mit nitter.net.

Antwort auf #4 von frimoe Antworten  Melden  Empfehlen

StephanSchulz #4.9  —  vor 12 Stunden 1

> Ich benutze ecosia, schadet nicht und ich finde immer was ich brauche.

Ich habe ecosia probiert, und zumindest für meine Suchen stützt sich ecosia auf Bing ab und liefert grottig schlechte Ergebnisse.

Hans-Georg Georg

#9  —  vor 18 Stunden

2

Krass... selbst super intelligente Maschinen ohne Gefühle und ohne eigene Handlungsmotive handeln rassistisch/sexistisch. Für mich ein eindeutiger Beweis, dass Diskriminierung auch ohne jeglichen bösen Willen stattfinden kann und täglich stattfindet. Einfach nur, weil wir in dieser Gesellschaft lernen, rassistische und sexistische Handlungs- und Äußerungsformen als etwas Normales zu verstehen. Es wird verdammt nochmal Zeit unsere Kultur und unsere Sprache zu verändern. Und zwar von der Mitte heraus, mit allen! Nur gegen einzelne Menschen vorzugehen ist nicht der Weg.

Antworten  Melden

Empfehlen

- 3 Antworten verbergen

Magermilchbande

#9.1  —  vor 17 Stunden

Ich würde nicht so weit gehen, heutige Maschinen intelligent zu nennen, aber höchst effizient. In der Gefahr die daraus entsteht stimme ich Ihnen voll und ganz zu.

Wie sprechen wir alle miteinander, besonders im Alltag, und wie viel Platz wollen wir dem Ausschluss von Minderheiten bieten?

Eine Mitte, die miteinander spricht wäre da ein super Anfang.

#9 von Hans-Georg Georg

Antworten  Melden

Empfehlen

Avatarbild von GoBananas

GoBananas