Ein Menschenfreund namens Musk? Von Hinton zum effektiven Altruismus

Leute, lasst uns weiter über mein Gespräch mit Zhou Hengxing, dem Autor von „Die Altman-Biografie“, sprechen. Wir kamen auf Hinton zu sprechen, den wir gerade diskutiert haben, und er und Altman haben eine gewisse Schnittmenge. Hinton hat kürzlich kritisiert, dass Altman sich mehr um Profit als um KI-Sicherheit kümmert. Wie sehen Sie diesen Trade-off zwischen Profit und Sicherheit? Ich denke, das ist ein Konflikt zwischen zwei Wertesystemen. Hinton kommt aus der akademischen Welt, die besonders einigen Universitäten in Kalifornien ähnelt. Viele dort sind von liberalen Linken beeinflusst und stammen aus der Generation, die sich für Umweltschutz und gegen Krieg eingesetzt hat. Die akademische Welt hat ein Problem: Ihr fehlt es an Verständnis für das Geschäftliche. Aus der Perspektive des Startup-Ökosystems ist der größte Wettbewerb für ein Unternehmen und einen Unternehmer, dass man zuerst im Wettbewerb überleben muss. Für Altman sollte er sich auch bewusst sein, dass das Thema Sicherheit sehr wichtig ist, einschließlich seiner damaligen Zusage an Ilya, 20 % der Rechenleistung für Superalignment bereitzustellen – sogenanntes Superalignment bedeutet, die emotionalen Werte der KI mit denen der Menschen in Einklang zu bringen. Aber später war wahrscheinlich der Wettbewerb mit Google und Anthropic zu intensiv, sodass er alle Ressourcen in den Ausbau großer Modelle stecken musste, weshalb der Widerspruch später immer größer wurde. Eigentlich sind beide Punkte verständlich. Ich verstehe Altman, denn als CEO muss er zuerst den Wettbewerb gewinnen und diesen Krieg gewinnen – der Druck in dieser Hinsicht dürfte am größten sein. Ob Sicherheit für ihn ein Thema ist? Ich denke definitiv ja, aber vielleicht nicht mit so hoher Priorität wie bei Hinton. Musk denkt auch oft über Sicherheit nach, zumindest sagt er, dass er sich große Sorgen um die Zukunft der Menschheit macht und schnell regulieren will. Aber ich habe in meinem Buch auch geschrieben, dass er während seiner Zeit bei OpenAI, besonders 2018, mit einigen Äußerungen eindeutig ein effektiver Beschleuniger war. Damals kritisierte er das Team ständig, sie seien zu langsam, sie sollten schneller sein und früher veröffentlichen. Das ist eindeutig dasselbe wie bei Altman: Aus der Perspektive eines Kapitalisten und CEO treibt er das Team an, so schnell wie möglich zu sein, damit niemand aufholt. Aber nachdem er OpenAI verlassen hatte, begann er über Sicherheitsfragen zu sprechen – ich denke, das ist eher eine Wettbewerbsstrategie. In dem Buch gibt es ein Kapitel über die Religion im Silicon Valley. Eigentlich habe ich schon lange vor diesem Buch über sie geschrieben, und es ist tatsächlich wie eine Religion. Aber Sie wissen auch, dass historische Religionskriege nicht wegen der Religion selbst geführt wurden, sondern wegen der realen Interessen, die auf dem Spiel standen – sie haben nur einen Grund gefunden. Deshalb können sich Ihre Positionen ändern. Wie bei Musk: Er sagt, MacAskill von der Universität Oxford passe sehr zu meiner Philosophie, meine Philosophie sei ihm sehr ähnlich. Aber Sie haben gerade auch gesagt, dass er eigentlich auch ein Beschleuniger ist, was ihn Peter Thiel und diesen Leuten ziemlich ähnlich macht. Es ist also eine ziemlich flexible Moralvorstellung. Wenn wir uns viele von Musks sogenannten Theorien und Blueprints ansehen, gibt es tatsächlich Veränderungen. Es ist nicht so, wie er sagt, dass er schon an der Universität daran dachte, Elektroautos zu bauen, grüne Energie zu nutzen und ins All zu fliegen – das ist eigentlich eine später entstandene, zusammenhängende Erzähllogik. Nach dieser Logik ist sein ultimatives Ziel der Mars, Elektroautos dienen dem Transport auf dem Mars, Raketen sind der Zwischentransport von der Erde zum Mars, X war damals als Kommunikation auf dem Mars gedacht, und die Boring Company gräbt große Tunnel – aber davon hört man jetzt praktisch nichts mehr, das gilt als gescheitert. Außerdem gibt es noch die Gehirn-Computer-Schnittstelle. Er hat tatsächlich eine ganze Logik, in der seine Ideale und Überzeugungen stecken, aber vieles dient auch dem Geschichtenerzählen. Was seinen effektiven Altruismus (EA) betrifft, so wird in den USA sowohl in der Technologieberichterstattung als auch in der politischen Berichterstattung viel darüber geschrieben. Einer der Punkte heißt Longtermism, der Langfristigkeit. Peter Singer war der erste, der über effektiven Altruismus sprach. In seinem Aufsatz „Famine, Affluence, and Morality“ sagte er, dass die Verpflichtung, einen verhungernden Menschen vor der Tür zu retten, dieselbe sei wie die, einen Flüchtling Tausende von Kilometern entfernt in Afrika zu retten. Das heißt, der Wert eines Menschenlebens ist ein abstrakter Durchschnittswert. Er hat den Menschen mathematisiert, sodass der Wert eines heutigen Menschen dem eines Menschen in zehntausend Jahren entspricht. Deshalb sagt Musk oft, wir könnten zum Mars fliegen, und wie viele Kinder ich haben möchte – ihr dürft nicht als sexuelle Minderheit keine Kinder bekommen, sonst wird unsere Zivilisation untergehen – er will den Wohlstand der zukünftigen menschlichen Bevölkerung sichern, die dann vielleicht eine interplanetare Spezies ist. Wenn wir diesen Wert rückwärts ableiten, ist das ein ziemlich sozialingenieurmäßiger Gedanke. Ich erinnere mich, dass ich bei meinem ersten Treffen mit Musk überrascht war, als er sagte, er habe die Bevölkerung Chinas berechnet und glaube, dass die Bevölkerungsstruktur schnell zusammenbrechen würde, wenn China weiterhin die Ein-Kind-Politik verfolge. Ich war sehr beeindruckt und fragte, woher er das wisse, und er sagte, er habe es berechnet. Das war 2013, damals hat er das schon berechnet. Er ist sehr gut darin, mit mathematisch-logischen Mitteln zu arbeiten, ziemlich kühl – das heißt, ich argumentiere auch mit mathematischer Logik und mische nicht zu viele emotionale Dinge hinein. Deshalb kann er die linken Dinge in Kalifornien nicht ausstehen, die seiner Meinung nach zu viele absurde Werte beimischen. In den letzten Jahren gibt es auch dieses „woke mind virus“, über das er ständig spricht – wahrscheinlich auch, weil sein Sohn zu einer Tochter geworden ist. Später habe ich mit Musk per E-Mail kommuniziert. Hauptsächlich habe ich ihm englische Artikel geschickt, die wir geschrieben haben, über chinesische Elektroautos und das chinesische Raumfahrtprogramm. Manchmal war er ziemlich interessiert und kommentierte ein paar Sätze. Ich erinnere mich, dass ich ihm einmal einen Artikel über den Start des Beidou-Satelliten geschickt habe, und er sagte: „Glückwunsch zu Beidou.“ Ich habe ihm auch einmal einen Artikel über den Mondrover Chang’e geschickt, und er sagte ebenfalls Glückwunsch. Dann fragte ich ihn, ob er glaubt, dass China vor Ihnen zum Mars fliegen wird. Er sagte: „Game on, lass uns ein Wettrennen machen.“ Sie sehen also: Von Hinton über Altman bis Musk – oberflächlich geht es um KI-Sicherheit, aber darunter dreht sich alles um Wettbewerb, Interessen und eine Erzählung, die sich je nach Position anpassen lässt.