Musk, l'homme bienveillant qui aime son prochain ? De Hinton à l'altruisme efficace

Tout le monde, continuons notre conversation avec Zhou Hengxing, l'auteur de « La Biographie d'Altman ». Nous avons parlé de Hinton, dont nous venons de discuter, et qui a aussi un certain degré d'interaction avec Altman. Hinton a récemment critiqué Altman en disant qu'il se soucie davantage du profit que de la sécurité de l'IA. Comment voyez-vous ce compromis entre profit et sécurité ? Je pense qu'il s'agit d'un conflit entre deux systèmes de valeurs. Hinton est issu du monde académique, qui ressemble beaucoup à certaines universités californiennes ; beaucoup de gens y sont influencés par la gauche libérale, issus de la génération qui s'est formée autour de la protection de l'environnement et de l'opposition à la guerre. Le monde académique a un problème : il manque de compréhension du monde des affaires. Du point de vue de l'écosystème entrepreneurial, la plus grande concurrence pour une entreprise et pour un entrepreneur, c'est qu'il faut d'abord survivre à la compétition. Pour Altman, il devrait aussi être conscient que la question de la sécurité est très importante, y compris lorsqu'il avait promis à Ilya d'allouer 20 % de la puissance de calcul pour la super-alignement, c'est-à-dire aligner les valeurs émotionnelles de l'IA sur celles de l'humanité. Mais ensuite, il est très probable que, face à une concurrence trop féroce avec Google et Anthropic, il ait dû investir toutes les ressources dans le développement de grands modèles, ce qui a fait que les contradictions se sont ensuite aggravées. En fait, ces deux points sont compréhensibles. Je comprends Altman, car en tant que PDG, il doit d'abord gagner la compétition, gagner cette guerre, et la pression à cet égard doit être la plus forte. La sécurité est-elle quelque chose qu'il prend en compte ? Je pense que oui, certainement, mais peut-être pas avec une priorité aussi élevée que Hinton. Musk aussi pense souvent à la sécurité, du moins comme il le dit : je m'inquiète tellement pour l'avenir de l'humanité, il faut vite réguler. Mais dans mon livre, j'écris aussi que, pendant sa période chez OpenAI, surtout en 2018, certains de ses propos montrent clairement qu'il était un accélérationniste efficace. À l'époque, il critiquait constamment l'équipe en disant que vous êtes trop lents, il faut accélérer, publier plus tôt ; c'est manifestement la même chose qu'Altman, c'est-à-dire pousser l'équipe du point de vue d'un capitaliste et d'un PDG pour qu'elle aille vite, pour que les autres ne prennent pas de l'avance. Mais après avoir quitté OpenAI, il a commencé à parler de sécurité ; je pense que c'est davantage une stratégie de concurrence. Il y a un chapitre dans le livre qui parle de la religion de la Silicon Valley. En fait, avant même d'écrire ce livre, bien plus tôt, j'avais déjà écrit sur eux, et cela ressemble vraiment à une religion. Mais vous savez aussi que les guerres de religion dans l'histoire n'étaient pas non plus menées pour la religion elle-même, mais pour les intérêts concrets en jeu, en trouvant simplement une justification ; donc les positions peuvent changer. Comme Musk, qui dit que MacAskill, de l'université d'Oxford, correspond bien à ma philosophie, que ma philosophie est très proche de la sienne ; mais vous venez aussi de dire qu'il est en fait aussi un accélérationniste, ce qui ressemble pas mal à Peter Thiel et à ces gens-là ; c'est donc en fait une morale assez flexible. Si nous regardons beaucoup des soi-disant théories et des plans décrits par Musk, il y a en fait des changements ; ce n'est pas comme il le dit, qu'il aurait pensé dès l'université à faire des véhicules électriques, de l'énergie verte, de l'espace ; c'est en fait une logique narrative qui s'est formée ensuite. Selon cette logique, son objectif ultime est d'aller sur Mars ; les véhicules électriques servent au transport sur Mars, les fusées servent de transport intermédiaire de la Terre à Mars, X était conçu à l'époque comme la communication sur Mars, et il y a aussi le Boring Company qui creuse de grands tunnels — mais cela ne fait pratiquement plus parler de lui maintenant, c'est un échec — et aussi les interfaces cerveau-machine. Il a effectivement toute une logique, avec ses idéaux et ses convictions, mais beaucoup de choses servent en fait à raconter une histoire. À propos de son altruisme efficace (EA), aux États-Unis, que ce soit dans les reportages technologiques ou politiques, on écrit beaucoup là-dessus. L'un des points s'appelle le Longtermism, le long-termisme. Peter Singer est le premier à avoir parlé d'altruisme efficace ; dans son article « Famine, richesse et morale », il dit que l'obligation de sauver une personne qui meurt de faim devant sa porte est la même que celle de sauver un réfugié africain à des milliers de kilomètres. C'est-à-dire que la valeur de la vie humaine est une moyenne abstraite ; il mathématise les gens, de sorte que la valeur des personnes actuelles est la même que celle des personnes dans dix mille ans. C'est pourquoi Musk dit souvent que nous pouvons aller sur Mars, y compris combien d'enfants je veux avoir, ne soyez surtout pas des minorités sexuelles qui ne font pas d'enfants, sinon notre civilisation va s'effondrer — il veut garantir la prospérité future de la population humaine, qui pourrait déjà être une espèce interplanétaire ; en déduisant cette valeur, c'est une idée assez d'ingénierie sociale. Je me souviens que la première fois que j'ai rencontré Musk, ce qui m'a surpris, c'est qu'il avait calculé la population chinoise et pensait que si la Chine continuait la politique de l'enfant unique, un seul enfant par famille, la structure démographique s'effondrerait rapidement, qu'elle s'effondrerait. J'ai été très impressionné ; je lui ai demandé comment il le savait, et il a dit que c'était calculé. C'était en 2013, il calculait déjà cela. Il est très doué pour la logique mathématique, assez froid, c'est-à-dire qu'il dit que je parle aussi de logique mathématique, sans trop y mêler d'émotions. C'est pourquoi il supporte mal les choses de la gauche californienne, qui mêlent trop de valeurs qu'il trouve absurdes ; ces dernières années, il y a aussi le « woke mind virus », il en parle tout le temps, et c'est aussi parce que son fils est devenu sa fille. Ensuite, j'ai maintenu des échanges par e-mail avec Musk ; surtout, je lui envoyais des articles en anglais que nous écrivions, sur les véhicules électriques chinois, l'espace chinois ; parfois cela l'intéressait et il commentait brièvement. Je me souviens qu'une fois, lors du lancement du satellite Beidou, je lui ai envoyé un article, et il a dit « félicitations pour Beidou ». Je lui ai aussi envoyé un article sur le rover lunaire chinois Chang'e, il a aussi félicité, puis je lui ai demandé : pensez-vous que la Chine arrivera sur Mars avant vous ? Il a répondu « game on », faisons la course. Donc vous voyez, de Hinton à Altman puis à Musk, en apparence ils se disputent sur la sécurité de l'IA, mais en dessous, tout tourne autour de la concurrence, des intérêts et d'un récit ajustable selon les positions.