제프리 힌턴은 왜 AI가 인류를 없앨 수도 있다고, 그것도 10년 안일 수 있다고 말할까?

요약 보기

제프리 힌턴의 발언에서 먼저 잡아야 할 핵심은, 그가 무슨 확정 예언을 하는 게 아니라 아주 큰 위험을 조심스럽게 경고하고 있다는 점이에요. 진행자가 “AI가 모든 인간을 죽일 가능성이 10%라는 말이냐”고 다시 확인하자, 힌턴은 그 수치가 아주 정확한 계산이라고 말하지 않아요. 오히려 이런 일은 전례가 없어서 누구도 제대로 추정할 수 없다고 하죠. 다만 너무 낮게, 예를 들어 1%쯤으로 가볍게 보는 것도 어리석다고 보고, 10% 정도는 아주 터무니없는 추정은 아니라고 말합니다. 여기서 중요한 건 숫자 자체보다 태도예요. 그는 ‘모르기 때문에 안심’이 아니라 ‘모르기 때문에 더 조심’해야 한다고 보는 거예요.

왜 이렇게까지 조심해야 하느냐를 이해하려면, 힌턴이 보는 상황의 낯섦을 먼저 봐야 해요. 그의 말은 결국 인간보다 더 똑똑할지도 모르는 존재를 우리가 만들고 있다는 데서 출발합니다. 이건 기존 기계와 다른 문제라는 뜻이에요. 계산을 빨리 하는 도구가 아니라, 질문을 이해하고 추론하고 점점 더 나아지는 체계라면, 위험을 예전 방식으로 가늠하기가 어려워져요. 그래서 그는 미래를 두 갈래로 그립니다. 위험이 통제 불능이 되기 전에 다루는 데 성공하는 미래와, 그러지 못하는 미래예요. 한쪽은 매우 좋을 수 있지만 다른 쪽은 매우 나쁠 수 있다는 식이죠. 이 대비는 공포를 부풀리려는 표현이라기보다, 기술의 이익과 재앙 가능성이 함께 커지고 있다는 문제의식을 보여줍니다.

그럼 힌턴은 AI가 구체적으로 어떻게 큰 피해를 낼 수 있다고 보느냐가 다음 질문이겠죠. 그는 먼저 “현실 세계에서 직접 몸을 움직이지 않아도 된다”고 말해요. 이 대목이 중요해요. 흔히 사람들은 로봇 군대처럼 눈에 보이는 장면을 떠올리는데, 힌턴은 오히려 말과 설계만으로도 혼란을 만들 수 있다고 봅니다. 사람들을 설득하거나 속여서 큰 혼란을 일으킬 수 있고, 생물학적 바이러스나 컴퓨터 바이러스를 설계할 수도 있으며, 대규모 사이버 공격도 가능하다는 거예요. 가상의 비유로 바꿔 보면, 금고를 직접 부수지 않아도 은행 시스템의 약점을 모두 꿰뚫은 설계자가 전화와 문서만으로 도시 전체를 마비시키는 상황에 가깝다고 이해하면 돼요. 힌턴의 포인트는 ‘직접 팔과 다리가 없으니 안전하다’는 생각이 통하지 않을 수 있다는 데 있습니다.

그렇다고 힌턴이 AI를 무조건 멈춰야 한다고 말하는 건 아니에요. 오히려 그는 좋은 용도가 너무 많아서 완전히 중단하는 건 현실적이지 않다고 봅니다. 챗봇은 이미 일상에서 유용하고, 의료·교육·신약 설계 같은 분야에서도 큰 도움을 줄 수 있다고 말하죠. 그래서 이 기술은 핵무기처럼 단순히 ‘멈춰라’로 끝낼 수 있는 대상이 아니라는 거예요. 대신 위험의 종류가 여러 가지이니 해법도 각각 달라야 한다고 주장합니다. 이 말은 규제가 필요 없다는 뜻이 아니라, 한 방에 끝나는 만능 규제는 없다는 뜻에 가까워요. 편익이 크기 때문에 개발은 계속될 가능성이 높고, 바로 그 점 때문에 더 정교한 안전 대책이 필요하다는 논리예요.

여기서 힌턴의 비판은 AI 기업 쪽으로 향합니다. 그의 생각으로는 기업들이 더 똑똑한 모델을 만드는 것과 동시에, 이미 알고 있는 위험을 다루는 방법도 조심스럽게 찾아야 해요. 그런데 실제로는 큰 기술 기업들이 단기 이익 때문에 성능 경쟁에 몰두하고 있다고 봅니다. 세계 지도자들에게는 그래서 규제를 요구하죠. 다만 규제도 이름만 있어서는 소용이 없다고 말합니다. 영국의 AI 안전 연구 기관은 상당히 좋지만, 정작 기업이 모델을 가져와 시험받게 하지 않으면 의미가 없다는 지적이 그 예예요. 쉽게 말해 소방서가 아무리 좋아도 건물주가 점검 자체를 거부하면 화재 예방이 작동하지 않는다는 식의 문제예요. 힌턴이 보는 핵심은 ‘안전 조직이 있느냐’보다 ‘기업이 실제로 거기에 묶이느냐’입니다.

국제 협력이 가능하냐는 문제에서 힌턴은 조금 더 구분해서 말해요. 모든 위험에서 나라들이 쉽게 협력하진 않을 거라고 봅니다. 예를 들어 가짜 영상으로 선거를 흔드는 문제는 각국의 이해관계가 서로 어긋날 수 있죠. 하지만 AI가 인간을 대체하거나 통제권을 빼앗는 식의 더 근본적인 위험을 막는 일에서는 모든 나라의 이해가 대체로 같다고 말합니다. 그래서 그 문제에 대해서는 결국 협력할 거라고 예상해요. 다만 정말 중요한 조건이 하나 남아요. ‘제때 하느냐’예요. 협력의 가능성과 협력의 속도는 다른 문제라는 뜻이죠. 그는 냉전 시기 핵전쟁 방지를 위해 경쟁국도 협력했던 사례를 떠올리지만, 그 비교 역시 자동으로 성공을 보장한다기보다 이해관계가 맞을 때 협력이 가능하다는 논리의 근거로 쓰입니다.

시간 전망에 대해서도 힌턴은 단정하지 않지만, 훨씬 급해졌다고 말합니다. 예전에는 30~50년쯤으로 봤고, 그 뒤에는 10~20년 정도로 낮췄으며, 이제는 10년일 수도, 그보다 짧을 수도 있다고 해요. 다른 사람들, 그리고 앤스로픽의 많은 사람들은 더 이르다고 본다고도 덧붙입니다. 여기서도 조심할 점이 있어요. 그는 ‘반드시 10년 안에 일어난다’고 선언하는 게 아니에요. 여전히 아무도 정확히 모른다고 말합니다. 다만 자신이 생각하는 남은 시간이 계속 줄어들고 있어서 이제는 꽤 급한 문제라고 판단하는 거죠. 그러니까 이 대목은 일정표가 아니라 경계 수준이 높아졌다는 신호로 읽는 게 맞아요.

마지막으로 회의적인 사람들에게 힌턴이 내놓는 반론도 중요해요. 그는 ‘그냥 챗봇을 써 보라’고 말합니다. 많은 사람이 이 시스템이 말을 진짜로 이해하지 못한다고 여기지만, 힌턴은 질문을 꽤 잘 받아서 대답한다는 사실 자체가 이해와 추론 능력을 보여 준다고 봐요. 또 이미 사람에 거의 가까운 수준이거나 어떤 사람보다 낫고, 매우 빠르게 더 똑똑해지고 있다고 주장합니다. 수학 분야를 예로 들며, 이제는 챗봇과 함께 일하지 않는 수학자에게 미래가 없다고 말하는 저명한 수학자들이 있고, 챗봇이 몇 년 전만 해도 불가능해 보였을 일을 하고 있다고 설명하죠. 물론 이것도 힌턴의 평가예요. 하지만 그의 전체 논리에서는 이 부분이 결정적입니다. 위험을 심각하게 보는 이유가 단순한 공상 때문이 아니라, 이미 드러난 능력 향상 속도를 근거로 하고 있다는 뜻이니까요.