¿El humanitario Musk ama a los demás? De Hinton al altruismo efectivo

Todos, sigamos hablando de mi conversación con Zhou Hengxing, autor de "La biografía de Altman". Hablamos de Hinton, que mencionamos antes, y que también tiene cierto grado de intersección con Altman. Hinton criticó recientemente que Altman se preocupa más por las ganancias que por la seguridad de la IA. ¿Cómo ves esta disyuntiva entre ganancias y seguridad? Creo que es un conflicto entre dos sistemas de valores. Hinton viene del ámbito académico, que se parece mucho a algunas universidades de California; muchas personas allí están influenciadas por la izquierda liberal, y crecieron en la generación que protegía el medio ambiente y se oponía a la guerra. El ámbito académico tiene un problema: carece de comprensión sobre los negocios. Y desde la perspectiva del ecosistema emprendedor, la mayor competencia para una empresa y para los emprendedores es que primero tienes que sobrevivir en la competencia. Para Altman, él también debería darse cuenta de que el tema de la seguridad es muy importante, incluido que en su momento prometió a Ilya que daría un 20% de la potencia de cálculo para hacer la "superalineación", es decir, hacer que los valores emocionales de la IA coincidan con los de la humanidad. Pero después es muy probable que, debido a la competencia demasiado feroz con Google y con Anthropic, tuviera que invertir todos los recursos en agrandar el modelo, por lo que la contradicción posterior se hizo cada vez mayor. En realidad, ambos puntos son comprensibles. Entiendo a Altman, porque como CEO, primero tiene que ganar la competencia, ganar esta guerra; la presión en ese sentido debería ser la mayor. ¿Acaso no considera la seguridad? Creo que definitivamente también, pero quizá no la pone en una prioridad tan alta como Hinton. Musk también piensa a menudo en la seguridad, al menos como él dice: "Me preocupa mucho el futuro de la humanidad, hay que regularlo cuanto antes". Pero en el libro también escribo que, desde su etapa en OpenAI, especialmente en 2018, algunos de sus comentarios muestran claramente que era un aceleracionista eficaz. En aquel entonces criticaba constantemente al equipo diciendo que eran demasiado lentos, que debían ir más rápido, que debían lanzar antes; esto es obviamente igual que Altman, es decir, desde la perspectiva de un capitalista, de un CEO, empujar al equipo a ir lo más rápido posible para que otros no los alcancen. Pero después de salir de OpenAI empezó a hablar de temas de seguridad; creo que esto es más bien una estrategia competitiva. Hay un capítulo en el libro que menciona la religión en Silicon Valley. En realidad, mucho antes de escribir este libro, ya había escrito sobre ellos, y ciertamente era como una religión. Pero también sabes que las guerras religiosas de la historia no fueron por la religión en sí, sino por los intereses involucrados en la realidad, solo que buscaron una razón, así que tu postura puede cambiar. Como Musk, que dice que MacAskill, de la Universidad de Oxford, encaja mucho con mi filosofía, que mi filosofía se parece mucho a la suya; pero tú acabas de decir que él en realidad también es aceleracionista, lo cual se parece bastante a gente como Peter Thiel, así que en realidad es una visión moral bastante flexible. Si miramos muchas de las llamadas teorías y planos que describe Musk, en realidad cambian, no es como él dice, que desde la universidad ya pensaba en hacer vehículos eléctricos, energía verde, espacio; en realidad es toda una lógica narrativa que se formó después. Según esa lógica, su objetivo final es ir a Marte, el vehículo eléctrico es para el transporte en Marte, el cohete es el transporte intermedio de la Tierra a Marte, X era la comunicación en Marte que se imaginaba en aquel entonces, y también está Boring Company, que cava grandes túneles —aunque ahora básicamente no se oye nada de eso, se puede considerar un fracaso—, además de las interfaces cerebro-computadora. Ciertamente tiene toda una lógica, dentro de la cual están sus ideales y perseverancia, pero también muchas cosas que en realidad son para contar una historia. Sobre su altruismo eficaz (EA), en Estados Unidos, tanto los reportajes tecnológicos como los políticos escriben mucho sobre esto. Uno de los puntos se llama Longtermism, largoplacismo. Peter Singer fue el primero en hablar del altruismo eficaz; en su artículo "Hambruna, abundancia y moralidad" dice que la obligación de rescatar a una persona que se muere de hambre en la puerta es la misma que la de rescatar a un refugiado africano a miles de kilómetros. Es decir, el valor de la vida humana es un promedio abstracto; matematiza a las personas, de modo que el valor de las personas actuales es igual al de las personas dentro de diez mil años. Por eso Musk dice a menudo que podemos ir a Marte, incluido cuántos hijos quiero tener, "ustedes no sean minorías sexuales y no tengan hijos, nuestra civilización se va a destruir" —quiere garantizar la prosperidad de la población humana futura, que quizá ya sea una especie interplanetaria; si deducimos hacia atrás este valor, es una idea bastante de ingeniería social. Recuerdo que la primera vez que vi a Musk, me sorprendió que dijo que había calculado la población de China y pensaba que si China seguía aplicando el control de natalidad, con solo un hijo por familia, la estructura demográfica colapsaría pronto, haría collapse. Me impresionó mucho; le dije: "¿Cómo lo sabes?", y él dijo: "Lo calculé". Eso fue en 2013; ya calculaba eso en aquel entonces. Es muy bueno usando la lógica matemática, bastante frío, es decir, yo también hablo de lógica matemática, no mezclo demasiadas emociones. Por eso le disgustan mucho las cosas de la izquierda de California, que mezclan demasiados valores que él considera absurdos; en estos años también está eso del "virus de la mente despierta" (woke mind virus), hablando de eso todo el día, también porque su hijo se convirtió en hija. Después mantuve comunicación por correo con Musk; principalmente le enviaba algunos artículos en inglés que escribíamos sobre vehículos eléctricos chinos, el espacio chino; a veces le interesaba bastante y comentaba algunas cosas. Recuerdo que una vez, durante el lanzamiento del satélite Beidou, le envié un artículo y él dijo: "Felicidades por Beidou". También le envié uno sobre el vehículo lunar Chang'e, y también felicitó; luego le pregunté si creía que China llegaría a Marte antes que ustedes, y dijo: "game on, vamos a competir". Así que ves, desde Hinton hasta Altman y luego Musk, en apariencia discuten sobre la seguridad de la IA, pero debajo de todo giran la competencia, los intereses y un conjunto de narrativas que se ajustan según la postura.