Die Forscherin Meredith Whittaker sagt, die größte Gefahr für KI sei nicht das "Bewusstsein", sondern die Unternehmen, die sie kontrollieren

von Wilfred Chan, Fast Company

Die ehemalige Googlerin und jetzige Präsidentin von Signal erklärt, warum sie Geoffrey Hintons Alarmismus für eine Ablenkung von dringenderen Bedrohungen hält.

Der KI-Pionier Geoffrey Hinton, ein 75-jähriger Informatiker, der als "Pate der KI" bekannt ist, hat diese Woche für Aufsehen gesorgt, nachdem er von Google zurückgetreten war, um davor zu warnen, dass die KI den Menschen bald an Intelligenz übertreffen und lernen könnte, die Menschheit selbst zu vernichten. 

Doch Hintons Warnungen sind zwar düster, gehen aber am Thema vorbei, sagt Meredith Whittaker, eine prominente KI-Forscherin, die 2019 bei Google entlassen wurde, weil sie Mitarbeiter gegen den Deal des Unternehmens mit dem Pentagon zur Entwicklung von Bildverarbeitungstechnologie für Militärdrohnen organisiert hatte. Jetzt ist Whittaker Präsidentin der Signal Foundation und erklärt Fast Company, warum Hintons Alarmismus von dringenderen Bedrohungen ablenkt und wie sich Arbeitnehmer von innen heraus gegen die Gefahren der Technologie wehren können. (Hinton hat auf die Bitte von Fast Company um eine Stellungnahme nicht reagiert). 

Dieses Interview wurde aus Gründen der Übersichtlichkeit gekürzt und bearbeitet.

Fast Company: Beginnen wir mit Ihrer Reaktion auf die große Medientour von Geoffrey Hinton, der Google verlassen hat, um vor KI zu warnen. Was halten Sie bisher davon?

Meredith Whittaker: Es ist enttäuschend, diese herbstliche Erlösungstour von jemandem zu sehen, der nicht wirklich aufgetaucht ist, als Leute wie Timnit [Gebru] und Meg [Mitchell] und andere in einem viel früheren Stadium ihrer Karriere echte Risiken eingingen, um zu versuchen, einige der gefährlichsten Impulse der Konzerne zu stoppen, die die Technologien kontrollieren, die wir künstliche Intelligenz nennen. 

Es ist also ein bisschen so, als ob man den Kuchen haben und ihn auch noch essen könnte: Man bekommt den Glanz der Reue, aber ich habe keine Solidarität oder Aktionen gesehen, wenn Menschen wirklich versuchen, sich zu organisieren und etwas gegen die Schäden zu tun, die jetzt passieren.

FC: Sie haben 2017 begonnen, sich innerhalb von Google zu organisieren, um sich gegen Project Maven zu wehren, einen Vertrag, den das Unternehmen unterzeichnet hat, um Bildverarbeitungstechnologie für US-Militärdrohnen zu entwickeln. Haben Sie damit gerechnet, dass Sie rausgeworfen werden, weil Sie Ihre Meinung gesagt haben?

MW: Das hatte ich so nicht geplant. Aber nachdem unser Brief gegen Project Maven aufflog, war mir klar, dass ich, wenn ich die Geschichte richtig verstehe, irgendwann rausgeschmissen werden würde. Man kann sich nicht so mit dem Geld anlegen, ohne rausgeschmissen zu werden. 

FC: Kannten Sie Geoffrey Hinton, als Sie bei Google waren?

MW: Nicht gut, aber wir waren in denselben Konferenzen, manchmal im selben Raum. 

FC: Und hat er Sie in irgendeiner Weise unterstützt, als Sie sich organisierten?

MW: Ich habe nicht gesehen, dass er zu einer der Kundgebungen oder zu den Aktionen oder zu irgendeiner Arbeit erschienen ist. Und als es dann brenzlig wurde, als Google anfing, die Handschuhe auszuziehen und eine gewerkschaftsfeindliche Firma anheuerte, habe ich nicht gesehen, dass er rauskam und sie unterstützte. 

Aber die Wirksamkeit von Bedenken hängt davon ab, ob die Menschen, die sie äußern, sicher sein können. Wenn Sie sich also nicht zu Wort melden, wenn ich und Meg gefeuert werden, wenn Sie sich nicht zu Wort melden, wenn gegen andere Vergeltung geübt wird, wenn Forschung unterdrückt wird, dann unterstützen Sie stillschweigend ein Umfeld, das Menschen dafür bestraft, dass sie Bedenken äußern.(Anmerkung der Redaktion: Whittaker behauptet zwar, sie sei von Google aus ihrem Job gedrängt worden, aber das Unternehmen behauptet, sie habe sich dafür entschieden, zu gehen).

FC: Es gibt auch ein Muster, auf das Sie hingewiesen haben: Viele der Menschen, die für ihre Äußerungen bestraft werden, sind Frauen.

MW: Frauen und insbesondere Frauen, die nicht weiß sind. Und das gilt nicht nur für Google, sondern auch für den Bereich, in dem über künstliche Intelligenz diskutiert wird. Die Leute, die sich am frühesten und mit den fundiertesten und materiell-spezifischen Bedenken geäußert haben, waren in der Regel Frauen, insbesondere Schwarze Frauen und Frauen of Color. Ich denke, es ist einfach bemerkenswert, wer leicht zu ignorieren scheint und wessen Anliegen als "endlich hören wir mal zu" hochgehalten wird: "Nun, endlich hören wir es vom Vater, also muss es wahr sein."

FC: Auf CNN hat Hinton kürzlich die Bedenken von Timnit Gebru heruntergespielt - die Google 2020 gefeuert hat, weil sie sich weigerte, eine Arbeit über die Schäden von KI für marginalisierte Menschen zurückzuziehen - und gesagt, ihre Ideen seien nicht so "existenziell ernst" wie seine eigenen. Was halten Sie davon?

MW: Ich finde es verblüffend, dass jemand behauptet, dass die Schäden [durch künstliche Intelligenz], die jetzt auftreten - und die am stärksten von Menschen empfunden werden, die historisch gesehen in der Minderheit sind -, nicht existenziell sind: Schwarze Menschen, Frauen, Behinderte, prekär Beschäftigte usw. - dass diese Schäden nicht existenziell sind.

Was ich dabei höre, ist: "Die sind für mich nicht existenziell. Ich habe Millionen von Dollar, ich bin in viele, viele KI-Startups investiert, und nichts davon hat Auswirkungen auf meine Existenz. Aber was meine Existenz beeinflussen könnte, wäre, wenn eine Science-Fiction-Fantasie wahr würde und KI tatsächlich superintelligent wäre, und plötzlich wären Männer wie ich nicht mehr die mächtigsten Wesen der Welt, und das würde mein Geschäft beeinflussen." 

FC: Wir sollten uns also keine Sorgen machen, dass die KI zum Leben erwacht und die Menschheit auslöscht?

MW: Ich glaube nicht, dass es Beweise dafür gibt, dass große maschinelle Lernmodelle - die auf riesigen Mengen von Überwachungsdaten und einer konzentrierten Computerinfrastruktur beruhen, die nur von einer Handvoll Unternehmen kontrolliert wird - den Funken des Bewusstseins haben. 

Wir können immer noch die Server ausstecken, die Rechenzentren können überflutet werden, wenn das Klima sich verschlechtert, uns kann das Wasser zur Kühlung der Rechenzentren ausgehen, die Überwachungsleitungen können schmelzen, wenn das Klima unbeständiger und unwirtlicher wird. 

Ich glaube, wir müssen untersuchen, was hier passiert, nämlich dass wir, wenn wir mit einem System konfrontiert werden, das sich als zuhörender, eifriger Gesprächspartner präsentiert, der uns zuhört und auf uns reagiert, in eine Art Trance gegenüber diesen Systemen verfallen und fast schon kontrafaktisch eine Art Wunscherfüllung betreiben: Wir denken, dass sie menschlich sind und dass es jemanden gibt, der uns zuhört. Es ist, wie wenn man als Kind Geistergeschichten erzählt, etwas mit viel emotionalem Gewicht, und plötzlich sind alle erschrocken und reagieren darauf. Und es wird schwer, es nicht zu glauben.

FC: Was Sie gerade gesagt haben - die Idee, dass wir in eine Art Trance verfallen - lenkt uns von den tatsächlichen Bedrohungen wie dem Klimawandel oder den Gefahren für marginalisierte Menschen ab.

MW: Ja, ich denke, es lenkt uns von der Realität ab, die viel schwieriger zu lösen ist als Kriegsspiel-Hypothesen über eine Sache, die größtenteils erfunden ist. Und vor allem lenkt es uns von der Tatsache ab, dass es sich um Technologien handelt, die von einer Handvoll Konzerne kontrolliert werden, die letztlich die Entscheidungen darüber treffen, welche Technologien hergestellt werden, was sie tun und wem sie dienen. Und wenn wir die Interessen dieser Konzerne verfolgen, haben wir ein ziemlich gutes Gespür dafür, wer sie nutzen wird, wie sie genutzt werden und wo wir uns wehren können, um die tatsächlichen Schäden zu verhindern, die heute auftreten und wahrscheinlich auftreten werden. 

FC: Geoffrey Hinton sagte auch auf CNN: "Ich denke, es ist einfacher, seine Bedenken zu äußern, wenn man das Unternehmen vorher verlässt."

MW: Wenn Sie persönliche Bequemlichkeit als Maßstab nehmen, dann haben Sie nicht Unrecht. Aber ich glaube nicht, dass es effektiver ist. Das ist einer der Gründe, warum ich und so viele andere sich der gewerkschaftlichen Organisierung zuwenden. Denn es gibt eine Menge Macht und die Möglichkeit, seine Arbeitskraft kollektiv zurückzuhalten und sich als die Menschen zusammenzuschließen, die letztendlich dafür sorgen, dass diese Unternehmen funktionieren oder nicht, und zu sagen: "Wir werden das nicht tun." Ohne Menschen, die das tun, wird es nicht passieren.