인자애인 머스크? 힌턴에서 효과적 이타주의까지

여러분, 계속해서 《올트먼 전기》의 저자 저우헝싱과의 대화를 이어가겠습니다. 우리는 방금 논의했던 힌턴에 대해 이야기했는데, 그는 올트먼과 어느 정도 교류가 있습니다. 힌턴은 최근 올트먼이 AI 안전보다 이익을 더 중시한다고 비판했는데, 이러한 이익과 안전 사이의 선택을 어떻게 보십니까? 저는 이것이 두 가지 가치관 사이의 충돌이라고 생각합니다. 힌턴은 학계에 속해 있는데, 학계는 특히 캘리포니아의 일부 대학들처럼 많은 사람들이 자유주의 좌파의 영향을 받아 환경 보호와 반전 세대에서 성장했습니다. 학계에는 상업에 대한 인식이 부족하다는 문제가 있습니다. 반면 창업 생태계의 관점에서 보면, 회사와 창업자에게 가장 큰 경쟁은 경쟁에서 살아남는 것입니다. 올트먼의 경우, 그는 안전 문제가 매우 중요하다는 것을 인식했을 것입니다. 당시 그는 일리아에게 슈퍼 정렬을 위해 20%의 컴퓨팅 파워를 주겠다고 약속했는데, 슈퍼 정렬이란 AI의 감정과 가치관을 인간과 일치시키는 것을 말합니다. 그러나 이후 구글, 앤트로픽과의 경쟁이 너무 치열해져서 모든 자원을 대형 모델 개발에 투입해야 했고, 그래서 이후 갈등이 커진 것입니다. 사실 이 두 가지 점 모두 이해할 수 있습니다. 저는 올트먼을 이해합니다. CEO로서 그는 먼저 경쟁에서 이기고 이 전쟁에서 승리해야 하며, 이에 대한 압박이 가장 클 것입니다. 그가 안전을 고려하지 않았을까요? 분명히 고려했을 것이지만, 힌턴처럼 안전을 그렇게 높은 우선순위에 두지는 않았을 것입니다. 머스크도 종종 안전을 고려합니다. 적어도 그가 말하는 것은 인류의 미래가 걱정된다, 빨리 규제해야 한다는 것입니다. 하지만 제 책에서도 썼듯이, 그가 OpenAI에 있던 시절, 특히 2018년에 그의 발언 중 일부는 분명히 효과적인 가속주의자였습니다. 당시 그는 팀을 비판하며 "너희는 너무 느려, 더 빨리 해, 일찍 출시해"라고 했는데, 이는 분명히 올트먼과 같습니다. 자본가이자 CEO의 관점에서 팀을 최대한 빠르게 몰아붙여 다른 사람이 따라잡지 못하게 하려는 것입니다. 그러나 그가 OpenAI를 떠난 후 안전 문제를 이야기하기 시작한 것은 경쟁 전략에 더 가깝다고 생각합니다. 책에는 실리콘밸리의 종교에 관한 장이 있습니다. 사실 이 책을 쓰기 전에도 오래전에 그들을 썼는데, 정말 종교와 같았습니다. 하지만 아시다시피 역사상의 종교 전쟁도 종교 자체를 위한 것이 아니라 현실의 이해관계 때문이었고, 단지 이유를 찾았을 뿐입니다. 그래서 입장은 바뀔 수 있습니다. 머스크처럼 그는 옥스퍼드 대학의 맥아스킬이 내 철학과 매우 일치한다고 말했지만, 방금 말씀하신 것처럼 그는 사실 가속주의자이며 피터 틸 같은 사람들과 비슷합니다. 그래서 사실상 유연한 도덕관입니다. 머스크의 많은 소위 이론과 청사진을 보면 실제로 변화가 있습니다. 그가 말한 것처럼 대학 때부터 전기차, 녹색 에너지, 우주를 생각한 것이 아니라 나중에 형성된 일련의 스토리텔링 논리입니다. 이 논리에 따르면 그의 궁극적 목표는 화성에 가는 것이고, 전기차는 화성에서의 운송을 위한 것이며, 로켓은 지구에서 화성으로 가는 중간 운송 수단이고, X는 당시 화성에서의 통신을 상상한 것이며, 보링 컴퍼니는 큰 터널을 파는 것인데 지금은 거의 소식이 없고 실패한 것으로 보입니다. 또한 뇌-컴퓨터 인터페이스도 있습니다. 그는 확실히 일련의 논리를 가지고 있으며 그 안에 이상과 고집이 있지만, 많은 부분이 사실 스토리텔링을 위한 것입니다. 그의 효과적 이타주의(EA)에 대해 미국에서는 기술 보도든 시사 보도든 많이 씁니다. 그중 하나가 장기주의(Longtermism)입니다. 피터 싱어는 효과적 이타주의를 처음 말한 사람으로, 《기근, 부유, 도덕》에서 문 앞에 굶어 죽은 사람이 있으면 구해야 하는 의무와 수천 리 밖 아프리카 난민을 구하는 의무가 같다고 했습니다. 즉 인간 생명의 가치는 추상적 평균값이며, 그는 인간을 수학화했습니다. 그래서 현재 인간의 가치와 1만 년 후 인간의 가치가 같습니다. 그래서 머스크가 자주 화성에 갈 수 있다고 말하고, 아이를 얼마나 낳을 것인지, 성소수자가 아이를 낳지 않으면 문명이 멸망한다고 말하는 것입니다. 그는 미래 인류 인구의 번영을 보장하려 하며, 이는 이미 행성 간 종이 될 수 있습니다. 이 가치관을 역추론하면 꽤 사회공학적 사고입니다. 처음 머스크를 만났을 때 놀라웠던 것은 그가 중국 인구를 계산해서 중국이 계속 산아제한을 해서 집집마다 한 명만 낳으면 인구 구조가 곧 붕괴할 것이라고 생각했다는 점입니다. 저는 "어떻게 아세요?"라고 물었고 그는 "내가 계산했어요"라고 했습니다. 그때는 2013년이었고 그는 이미 이것을 계산했습니다. 그는 수리 논리로 매우 냉철하게 말하는 것을 잘합니다. 즉 나도 수리 논리로 말하며 감정을 많이 섞지 않습니다. 그래서 그는 캘리포니아의 좌파적인 것들을 매우 싫어합니다. 너무 많은 가치관이 섞여 있다고 생각하며, 최근 몇 년간 '웨이크 마인드 바이러스' 같은 것도 그렇습니다. 그의 아들이 딸이 된 것도 이유일 것입니다. 나중에 머스크와 이메일 교류를 유지했는데, 주로 우리가 쓴 영어 기사를 보내주면 중국의 전기차, 중국의 우주에 대해 때때로 관심을 보이고 몇 마디 코멘트를 했습니다. 베이더우 위성 발사 때 기사를 보냈더니 "베이더우 축하해"라고 했습니다. 창어 달 탐사선 기사도 보냈더니 축하한다고 했고, 중국이你们보다 먼저 화성에 갈 것 같냐고 물었더니 "게임 온, 경쟁해보자"라고 했습니다. 보시다시피 힌턴에서 올트먼, 다시 머스크까지 표면적으로는 AI 안전을争하지만, 밑으로는 경쟁, 이익, 그리고 입장에 따라 조정 가능한 서사가 돌고 있습니다.