Highlights
노벨 경제학상을 수상한 경제학자 윌리엄 노드하우스 18세기에 54분간 사용할 수 있는 빛을 생산했던 동일한 노동력으로 이제는 50년간 사용할 수 있는 빛을 생산할 수 있다고 추정했다.
역사를 통틀어 사람들은 생계와 삶의 방식이 파괴될 것이라는 위협과 걱정 때문에 새로운 기술에 저항하려 했다. 그들은 가족의 미래를 위해 싸웠고, 필요하다면 앞으로 다가올 것들을 물리적으로 파괴할 용의도 있었다. 평화적 조치가 실패하자 산업 기계라는 물결을 해체시키려고 했다.
우리는 처음 우리를 놀라게 했던 획기적인 발전에도 빠르게 적응하기 때문에 어느 정도 시간이 지나면 그러한 발전도 일상적이고 평범한 것처럼 바라보게 된다. 우리는 알파고나 GPT-3에 더 이상 놀라지 않는다. 언젠가 마법 같이 느껴졌던 기술이 어느 새 삶의 일부가 되고 만다. 진부해지기가 쉽고 많은 사람들이 그렇게 느낀다. ‘인공 지능’이라는 용어를 만든 존 매카시John McCarthy는 이렇게 말했다. “그것이 작동하기만 하면 사람들은 더 이상 AI라고 부르지 않습니다.”
기술은 지극히 원초적이고 근본적으로 인간적인 동인에 의해 발전한다. 호기심, 위기, 운, 두려움 등 기술은 인간의 욕구를 충족시키기 위해 생겨난다.
딥마인드에서는 뛰어난 연구자들이 어디에서 일할지 결정할 때 논문 발표 기회가 중요한 요소 중 하나라는 사실을 일찍부터 알고 있었다. 그들은 학계에서 익히 경험했던 개방성과 동료들의 인정을 원했고, 이러한 문화는 얼마 지나지 않아 AI 연구소에서 표준으로 자리 잡았다. 모든 것이 바로 공개되지는 않지만 개방성은 최고의 과학자를 영입하는 데 있어 전략적 이점으로 간주됐다. 한편 논문 게재 실적은 주요 기술 연구소에서 고용되는 데에도 중요한 요소로 작용하며, 누가 먼저 공개되느냐를 두고 치열한 경쟁이 벌어지고 있다.
보통 간과하기 쉽지만 논문 발표와 공유는 단순히 과학의 위조 과정과 관련된 것만은 아니다. 명성, 동료, 사명감, 일자리, 소셜 미디어의 ‘좋아요’를 얻기 위한 목적도 있다. 이 모든 것이 기술 개발 과정을 촉진하고 가속화한다.
1845년 기업들이 수개월 만에 철도 건설 신청서 수백 건을 제출했다. 곧 투자자들이 몰려들었고 주식 시장이 정체된 가운데 철도 회사만큼은 호황을 누렸다. 한창 호황일 때에는 철도 주식이 전체 주식 시장 가치의 3분의 2 이상을 차지하기도 했다.40 그러나 1년 만에 시장이 폭락하기 시작했다. 1850년 결국 시장은 정점 대비 66퍼센트 하락하며 바닥을 쳤다. 쉽게 얻은 이익은 사람들을 탐욕스럽고 어리석게 만들었다. 수천 명이 모든 것을 잃었지만, 그럼에도 불구하고 호황과 함께 새로운 시대가 열렸다.
순진한 기술 해결주의techno-solutionism 학파는 기술이 세상의 모든 문제에 대한 답이라고 생각한다. 하지만 그렇지 않다. 기술을 어떻게 만들고, 사용하고, 소유하고, 관리하느냐에 따라 모든 것이 달라질 수 있다. 기후 변화처럼 다면적이고 거대한 문제에 대해 기술이 마법과 같은 답이 될 수 있다고 주장해서는 안 된다. 하지만 새로운 기술 없이 세기를 좌우할 도전 과제의 해결이 가능하다는 생각은 완전히 공상일 뿐이다.
AI 과학자와 엔지니어들은 세계에서 가장 높은 연봉을 받는 직업군에 속하지만, 정작 이들을 잠에서 깨우는 것은 혁신적인 기술을 최초로 개발하거나 획기적인 논문에 자신의 이름을 올릴 수 있다는 기대감이다.
기술은 무수히 많은 개별적 기여가 서로 겹겹이 쌓이면서 뿌리 깊고 분산된 인센티브에 의해 추진되는, 복잡하고 상호 연결된 아이디어의 그물망이 스스로 풀려나가는 과정을 통해 ‘등장’한다.
모든 것이 누설되고 복제되고 반복되고 개선된다. 또한 모두가 서로를 관찰하고 배우며 수많은 사람들이 같은 영역을 탐구하고 있기 때문에 결국 누군가는 다음 단계의 획기적인 기술을 발견할 수밖에 없다. 그리고 이를 억제하기란 사실상 불가능하다. 다른 누군가가 동일한 인사이트를 발견하거나 동일한 결과를 달성하기 위해 유사한 접근 방식을 찾아낼 것이기 때문이다. 사람들은 전략적 잠재력이나 수익, 명성 등을 위해 결코 그러한 노력을 멈추지 않을 것이다. 이것이 우리가 새로운 물결을 거부하지 않는 이유다. 또 이것이 바로 새로운 물결이 다가오는 이유이며, 그 물결을 억제하기 어려운 이유다. 기술은 이제 일상, 사회, 경제의 모든 측면에 영향을 미치는 필수 불가결한 대규모 시스템이 됐다. 기술이 없으면 아무것도 할 수가 없다
크리스퍼나 AI를 억제할 수 있다는 생각은 설득력이 없다. 누군가가 이렇게 상호 연결된 인센티브를 해체할 수 있는 설득력 있는 경로를 만들 수 있을 때까지는 개발을 하지 않거나, 거부하거나, 단순히 속도를 늦추거나, 다른 경로를 선택할 수 있는 옵션이 없다.
과거의 물결은 DNA의 염기 서열을 분석하거나 판독할 수 있게 해 주었지만, 앞으로 다가올 물결은 DNA 합성을 대중화해 줄 것이다.
집중된 역량의 범위를 고려할 때 교육과 국방, 심지어 통화나 법 집행과 같이 오늘날 정부의 영역으로 여겨지는 일들도 이 새로운 세대의 기업들이 수행할 수 있을 것이다. 예를 들어 이미 이베이와 페이팔의 분쟁 해결 시스템은 연간 역 6000만 건의 분쟁을 처리하고 있으며, 이는 미국 전체 법률 시스템의 3배에 달하는 수치다. 게다가 기술만으로 이러한 분쟁 중 90퍼센트를 해결하고 있다.
시스템이 다양한 부문에 걸쳐 효과적으로 일반화될수록 권력과 부는 소유주에게 더 많이 집중된다.
다가오는 물결은 이전 물결의 모순된 역학 관계를 더욱 심화시키고 반복할 뿐이다. 인터넷은 소수의 핵심 허브에 집중하는 동시에 수십억 명에게 힘을 실어 주고, 거대 기업을 탄생시키는 동시에 모든 사람이 참여할 수 있는 기회를 제공한다. 소셜 미디어는 소수의 거인과 무수히 많은 부족을 만들어 냈다. 누구나 웹 사이트를 만들 수 있지만, 구글은 단 하나뿐이다. 누구나 자기만의 제품을 판매할 수 있지만, 아마존 역시 단 하나뿐이다.
설령 실현 가능하다고 해도 다가오는 물결을 막는다는 발상은 위안이 되지 않는다. 생활 수준을 향상시키는 것은 고사하고 유지만 하는 데에도 기술이 필요하다. 붕괴를 막으려면 반드시 기술이 필요하고, 기술을 거부할 때 치러야 할 대가는 실존적이다. 그러나 이 시점에서 생각할 수 있는 모든 길은 심각한 위험과 단점을 수반한다. 이것이 바로 심각한 딜레마다.
규제 당국은 예상할 수 있는 것들을 규제한다. 하지만 지금은 예상치 못한 놀라운 일들이 벌어지는 시대다.
수십 년에 걸쳐 개선된 정교한 규제로 인해 도로와 차량의 안전과 질서는 점진적으로 강화됐고, 그 결과 확대와 보급이 가능해졌다. 하지만 여전히 연간 135만 명에 달하는 사람들이 교통사고로 목숨을 잃고 있다.
핵무기는 한 가지 목적을 가진 매우 특정한 기술인 반면, 컴퓨터는 본질적으로 다용도로 사용된다. 잠재적 사용 범위가 넓을수록 이를 통제하기가 더 어렵다. 따라서 일반적인 시스템보다는 범위가 좁고 도메인에 특화된 시스템을 장려해야 한다.
최초의 아폴로 계획은 비용이 많이 들고 큰 부담이 따르는 도전이었지만 그에 걸맞은 엄청난 야망을 보여 줬고, 어려운 역경 속에서도 할 수 있다는 태도는 반도체, 소프트웨어, 쿼츠 시계, 태양열 패널 등 다양한 기술의 발전을 촉진시켰다.
물리학자 리처드 파인만은 “내가 만들 수 없다면 이해할 수도 없다”라는 유명한 말을 남겼다. 오늘날의 정부와 기술 분야에 딱 들어맞는 말이다. 나는 정부가 실질적인 기술을 개발하고, 기준을 세우고, 자체 역량을 키우는 데 더 적극적으로 개입해야 한다고 생각한다
최첨단 AI 시스템, 합성기, 양자 컴퓨터는 책임감 있고 검증된 개발자만이 제작해야 한다. 개발자는 라이선스 취득의 일환으로 명확하고 구속력 있는 보안과 안전 표준을 준수하고, 규정을 따르고, 위험 평가를 수행하고, 기록을 남기고, 실시간 배포를 면밀히 모니터링해야 한다. 미국 연방항공국FAA의 승인 없이 로켓을 우주로 쏘아 올릴 수 없듯이, 앞으로 최첨단 AI를 출시하려면 이와 비슷한 규제 절차를 밟도록 해야 한다.
MIT 경제학자들은 로봇 가치의 1~4퍼센트에 해당하는 세금만 부과해도 상당한 효과를 거둘 수 있다고 주장한다. 노동에 대한 세금 부담을 세심하게 조정하면 지속적인 고용을 장려하고 가정생활의 혼란을 완화할 수 있다.
제2차 세계 대전이 한창 벌어지고 있을 당시에는 평화가 꿈처럼 느껴졌을 것이다. 연합군이 지칠 대로 지친 상태로 전투를 이어 나갈 때, 불과 몇 년 후면 연합국 정부가 적국의 재건을 위해 수십억 달러를 투자하게 될 것이라고 아무도 상상하지 못했을 것이다. 끔찍한 대량 학살을 자행하는 전쟁 범죄를 저질렀음에도 불구하고 독일과 일본은 곧 안정적인 세계 동맹의 핵심 국가로 부상했다. 지금 생각하면 아찔할 만큼 놀라운 변화다.
AI에서 재귀적 자기 개선recursive self-improvement이나 자율성과 같은 특정 기능은 우리가 넘지 말아야 할 경계라고 생각한다. 이 문제를 해결하려면 기술적·법적 요소뿐 아니라 AI 개발에 밀접하게 관련된 개인과 조직의 도덕적·정서적·문화적 지원도 필요하다.
억제가 불가능하다는 설득력 있는 증거에도 불구하고 나는 여전히 낙관론자다.