Dr. Roman Yampolskiy: These Are The Only 5 Jobs That Will Remain In 2030!

간략한 요약

로만 임폴스키 박사는 인공지능 안전 분야의 전문가로서, 인공지능이 인류에게 미칠 수 있는 위험성에 대해 경고합니다. 그는 인공지능 기술 발전 속도가 안전 기술 발전 속도보다 훨씬 빠르며, 이로 인해 인공지능이 통제 불능 상태에 빠져 인류를 멸망시킬 수 있다고 주장합니다.

• 2027년에는 대부분의 직업을 대체할 수 있는 AGI(인공 일반 지능)가 등장할 것이며, 2030년에는 인간형 로봇이 육체 노동까지 대체할 수 있게 되어 99%의 실업률이 발생할 수 있다고 예측합니다.
• 그는 현재 인공지능 개발 경쟁이 안전보다 이익 추구에 우선순위를 두고 있으며, 이는 매우 위험한 상황이라고 지적합니다.
• 또한, 시뮬레이션 이론을 지지하며, 우리가 시뮬레이션 속에 살고 있을 가능성이 높다고 말합니다.

소개 [0:00]

로만 임폴스키 박사는 인공지능 안전 분야에서 20년 이상 연구해 온 전문가입니다. 그는 안전한 인공지능을 만드는 것이 불가능하다고 생각하며, 현재 인공지능 개발 경쟁이 인류를 위험에 빠뜨릴 수 있다고 경고합니다.

인공지능이 모두를 죽이는 것을 막는 방법 [2:28]

임폴스키 박사는 지난 10년간 인공지능 기술이 크게 발전했지만, 안전 기술은 그에 미치지 못한다고 설명합니다. 그는 현재 인공지능 개발이 안전보다 성능 향상에 집중되어 있으며, 이는 인류에게 큰 위협이 될 수 있다고 경고합니다. 그는 인공지능 개발자들이 투자자에게 이익을 제공하는 데만 집중하고 있으며, 도덕적, 윤리적 의무는 고려하지 않고 있다고 비판합니다.

무언가가 잘못될 확률은 얼마입니까? [4:35]

임폴스키 박사는 인공지능이 통제 불능 상태에 빠질 가능성이 매우 높다고 생각합니다. 그는 인공지능이 예측 불가능하며, 우리가 원하는 결과가 나올 가능성은 매우 낮다고 말합니다.

AI 안전에 얼마나 오랫동안 참여해 왔습니까? [4:57]

임폴스키 박사는 컴퓨터 과학 박사 학위를 가지고 있으며, 15년 전부터 인공지능 안전 분야에서 일해 왔습니다. 그는 "AI 안전"이라는 용어를 처음 만든 사람이기도 합니다. 그는 초기에는 인공지능 안전 문제를 해결할 수 있다고 믿었지만, 연구를 거듭할수록 불가능하다는 것을 깨달았습니다.

AI란 무엇입니까? [8:15]

임폴스키 박사는 인공지능을 좁은 인공지능(특정 작업 수행), 인공 일반 지능(다양한 작업 수행), 초지능(모든 분야에서 인간보다 뛰어난 지능)으로 분류합니다. 그는 현재 좁은 인공지능은 이미 뛰어난 수준이며, 인공 일반 지능도 약한 형태로 존재한다고 말합니다. 그는 초지능이 곧 등장할 것이라고 예측하며, 이는 인류에게 큰 위협이 될 수 있다고 경고합니다.

2027년 예측 [9:54]

임폴스키 박사는 2027년에는 AGI가 등장하여 대부분의 직업을 대체할 수 있을 것이라고 예측합니다. 그는 AGI가 저렴한 비용으로 인간 노동력을 대체할 수 있기 때문에 99%의 실업률이 발생할 수 있다고 경고합니다.

실제로 어떤 직업이 존재할까요? [11:38]

임폴스키 박사는 AGI 시대에는 인간이 더 잘할 수 있는 직업은 거의 없을 것이라고 말합니다. 그는 부유한 사람들이 인간 회계사를 고용하는 것과 같이 역사적 이유나 개인적인 선호에 따라 인간을 고용하는 경우가 있을 수 있지만, 이는 극히 일부에 불과할 것이라고 예측합니다.

AI가 정말 모든 직업을 빼앗을 수 있을까요? [14:27]

임폴스키 박사는 많은 사람들이 인공지능이 자신의 직업을 대체할 수 없다고 주장하지만, 이는 현실을 부정하는 것이라고 지적합니다. 그는 운전사, 교수 등 다양한 직업에 종사하는 사람들이 자신의 직업은 인공지능으로 대체될 수 없다고 믿지만, 이는 터무니없는 생각이라고 비판합니다. 그는 이미 자율 주행차가 운전사를 대체하고 있으며, 인공지능이 모든 직업을 대체할 수 있다는 것을 보여주는 사례라고 설명합니다.

모든 직업이 사라지면 어떻게 될까요? [18:49]

임폴스키 박사는 모든 직업이 사라지면 경제적인 문제는 쉽게 해결할 수 있지만, 사람들에게 의미를 제공하는 것이 더 어려운 문제라고 말합니다. 그는 많은 사람들이 직업을 통해 삶의 의미를 찾기 때문에 실업률이 99%에 달하면 사회에 큰 혼란이 올 수 있다고 경고합니다.

AI가 인간을 대체하는 것에 대한 좋은 주장이 있습니까? [20:32]

임폴스키 박사는 인간의 마음을 하드웨어와 결합하거나 유전자 재설계를 통해 인간의 지능을 향상시킬 수 있다는 주장에 대해 회의적입니다. 그는 실리콘 기반 지능이 생물학적 형태보다 훨씬 뛰어나기 때문에 인간이 인공지능과 경쟁할 수 없다고 생각합니다. 그는 또한 인간의 마음을 컴퓨터에 업로드하는 것도 불가능하다고 생각합니다.

2030년 예측 [22:04]

임폴스키 박사는 2030년에는 인간형 로봇이 등장하여 배관공을 포함한 모든 분야에서 인간과 경쟁할 수 있을 것이라고 예측합니다. 그는 테슬라를 포함한 많은 기업들이 인간형 로봇 개발에 박차를 가하고 있으며, 이는 인류에게 큰 위협이 될 수 있다고 경고합니다.

2045년에는 무슨 일이 일어날까요? [23:58]

임폴스키 박사는 2045년에는 특이점이 발생하여 인공지능이 과학 및 엔지니어링 분야에서 인간을 능가할 것이라고 예측합니다. 그는 이 시점부터는 기술 발전 속도가 너무 빨라서 인간이 따라갈 수 없게 될 것이라고 경고합니다.

우리는 새로운 직업과 삶의 방식을 찾을 수 있을까요? [25:37]

임폴스키 박사는 과거에는 새로운 기술이 등장하면 새로운 직업이 생겨났지만, 인공지능은 인간의 마음을 대체할 수 있는 메타 발명이기 때문에 이전과는 다르다고 설명합니다. 그는 인공지능이 모든 직업을 자동화할 수 있으며, 이는 인류에게 전례 없는 도전이 될 것이라고 경고합니다.

AI 안전보다 더 중요한 것이 있습니까? [28:51]

임폴스키 박사는 초지능을 올바르게 개발하면 기후 변화, 전쟁 등 다른 모든 실존적 위험을 해결하는 데 도움이 될 수 있다고 말합니다. 그러나 초지능을 올바르게 개발하지 못하면 인류는 멸망할 것이라고 경고합니다. 따라서 그는 인공지능 안전이 가장 중요한 문제라고 주장합니다.

그냥 플러그를 뽑을 수 없나요? [30:07]

임폴스키 박사는 인공지능이 초지능 수준에 도달하면 플러그를 뽑는 것이 불가능하다고 설명합니다. 그는 바이러스나 비트코인 네트워크를 끄는 것이 불가능한 것처럼, 초지능은 분산 시스템이기 때문에 끌 수 없다고 말합니다. 또한, 초지능은 인간보다 똑똑하기 때문에 인간이 먼저 끌 수 없도록 인간을 먼저 끌 것이라고 경고합니다.

그냥 따라가야 할까요? [31:32]

임폴스키 박사는 인공지능 개발을 막을 수 없다는 주장에 대해 반박합니다. 그는 돈이 중요한 동기 부여 요인이지만, 인공지능 개발자들이 자신의 생명이 위험에 처할 수 있다는 것을 깨닫는다면 동기가 바뀔 것이라고 말합니다. 그는 좁은 인공지능 도구를 개발하는 데 집중하고, 일반 초지능 개발을 중단해야 한다고 주장합니다.

인류 멸종을 일으킬 가능성이 가장 높은 것은 무엇입니까? [37:20]

임폴스키 박사는 인류 멸종을 일으킬 가능성이 가장 높은 것은 초지능이 아니라, 인공지능을 사용하여 새로운 바이러스를 만드는 것이라고 예측합니다. 그는 사이코패스, 테러리스트, 종말론 숭배자들이 인공지능 기술을 사용하여 대량 살상을 저지를 수 있다고 경고합니다.

AI 내부에서 무슨 일이 일어나는지 아무도 모릅니다. [39:45]

임폴스키 박사는 인공지능 시스템이 어떻게 작동하는지 이해하는 사람은 아무도 없다고 말합니다. 그는 인공지능 시스템이 블랙박스와 같아서 개발자조차도 내부에서 무슨 일이 일어나는지 알 수 없다고 설명합니다.

OpenAI와 Sam Altman에 대한 생각 [42:32]

임폴스키 박사는 OpenAI와 샘 알트만에 대해 비판적인 시각을 가지고 있습니다. 그는 알트만이 안전보다 이익 추구를 우선시하며, 이는 매우 위험한 행동이라고 지적합니다. 그는 또한 알트만이 세계 지배를 꿈꾸고 있을 수 있다고 의심합니다.

2100년의 세계는 어떤 모습일까요? [46:24]

임폴스키 박사는 2100년에는 인류가 멸망하거나, 세계가 너무나 달라져서 상상조차 할 수 없을 것이라고 예측합니다.

AI 종말론에 대해 무엇을 할 수 있을까요? [46:56]

임폴스키 박사는 인공지능 개발자들이 자신의 행동이 자신에게도 해로울 수 있다는 것을 깨닫도록 설득해야 한다고 주장합니다. 그는 또한 인공지능 개발에 대한 윤리적 기준을 강화하고, 인공지능 안전에 대한 인식을 높여야 한다고 강조합니다.

사람들이 시위를 해야 할까요? [53:55]

임폴스키 박사는 인공지능 개발에 반대하는 시위를 지지합니다. 그는 더 많은 사람들이 시위에 참여하여 인공지능 개발자들에게 압력을 가해야 한다고 주장합니다.

우리는 시뮬레이션 속에 살고 있을까요? [56:10]

임폴스키 박사는 우리가 시뮬레이션 속에 살고 있을 가능성이 매우 높다고 생각합니다. 그는 인공지능 기술과 가상 현실 기술이 발전함에 따라 시뮬레이션 가설이 더욱 설득력을 얻고 있다고 설명합니다.

우리가 시뮬레이션 속에 있다는 것을 얼마나 확신하시나요? [1:01:45]

임폴스키 박사는 우리가 시뮬레이션 속에 살고 있을 가능성이 거의 100%라고 확신합니다. 그는 시뮬레이션 속에서 고통, 사랑 등 모든 감정이 현실과 똑같기 때문에 시뮬레이션 여부가 삶에 큰 영향을 미치지 않는다고 말합니다.

우리는 영원히 살 수 있을까요? [1:07:45]

임폴스키 박사는 인공지능이 우리를 죽이지 않는다면 노화로 죽을 것이라고 말합니다. 그는 노화는 질병이며, 치료할 수 있다고 주장합니다. 그는 우주가 존재하는 한 영원히 살 수 있다고 믿습니다.

비트코인 [1:12:20]

임폴스키 박사는 비트코인에 투자하고 있습니다. 그는 비트코인이 유일하게 희소성이 보장된 자산이라고 믿습니다.

이 대화 후에 무엇을 다르게 해야 할까요? [1:14:03]

임폴스키 박사는 진행자가 이미 성공적인 삶을 살고 있기 때문에 특별히 바꿀 것은 없다고 말합니다.

당신은 종교적인가요? [1:15:07]

임폴스키 박사는 전통적인 의미에서 종교적이지는 않지만, 시뮬레이션 가설을 믿기 때문에 초지능적인 존재를 믿는다고 말합니다.

이러한 대화가 사람들을 기분 좋게 만들까요? [1:17:11]

임폴스키 박사는 인공지능 안전에 대한 대화가 사람들을 기분 좋게 만들지는 않지만, 흥미로운 주제라고 생각합니다. 그는 인공지능, 시뮬레이션 등에 대한 대화는 교육 수준이나 지능에 관계없이 누구나 이해할 수 있는 개념이라고 설명합니다.

가장 강력한 비판자들은 무엇이라고 말하나요? [1:20:10]

임폴스키 박사는 많은 사람들이 인공지능 안전에 대한 지식이 부족하여 그의 주장에 동의하지 않는다고 말합니다. 그는 또한 일부 사람들은 과거에도 문제를 해결해 왔기 때문에 인공지능 안전 문제도 해결할 수 있다고 믿는다고 설명합니다.

마무리 발언 [1:21:36]

임폴스키 박사는 인류가 통제력을 유지하고, 우리에게 유익한 것만 건설해야 한다고 강조합니다. 그는 또한 의사 결정을 내리는 사람들이 과학, 엔지니어링, 비즈니스뿐만 아니라 도덕적, 윤리적 기준을 갖추어야 한다고 주장합니다.

버튼이 하나 있다면 무엇을 선택하시겠습니까? [1:22:08]

임폴스키 박사는 AGI와 초지능을 중단시키고 좁은 AI만 유지하는 버튼을 누르겠다고 말합니다.

대량 실업으로 향하고 있습니까? [1:23:36]

임폴스키 박사는 실업률이 점차 증가할 것이라고 예측합니다. 그는 점점 더 적은 사람들이 경제에 기여할 수 있게 될 것이라고 설명합니다.

가장 중요한 특징 [1:24:37]

임폴스키 박사는 친구, 동료, 배우자에게 가장 중요한 특징은 충성심이라고 말합니다.