얀 르쿤은 왜 AGI라는 말을 위험한 오해라고 부를까?

요약 듣기

0:006:23

요약 보기

르쿤이 먼저 바로잡고 싶은 건, 자신이 인간 수준의 기계 지능 자체를 부정하는 사람은 아니라는 점이에요. 그는 언젠가는 기계가 인간이 잘하는 모든 영역에서 인간만큼 지능적이 될 수 있다고 본다고 말해요. 그런데도 굳이 AGI라는 말을 싫어하는 이유는, 그 표현이 마치 인간 지능이 처음부터 두루두루 일반적이고 만능인 것처럼 들리기 때문이에요. 르쿤의 핵심은 오히려 반대예요. 인간 지능은 굉장히 특수화되어 있고, 그래서 그 미래를 부를 때도 ‘범용’이라는 말보다 ‘인간 수준 AI’나 ‘고도 기계 지능’ 같은 표현이 더 정확하다고 보는 거예요. 가상의 비유로 말하면, 사람 지능을 하나의 만능 열쇠로 부르기보다 여러 상황에 맞춘 도구가 든 공구함으로 보는 쪽에 가깝다고 이해하면 돼요.

그가 시점 예측에 조심스러운 것도 같은 이유에서예요. 이 질문은 단순한 호기심이 아니라, 거대한 인프라 투자나 미래 제품 구상과 바로 연결되기 때문에 중요하다고 말해요. 예를 들어 늘 함께 다니는 안경형 비서처럼, 사용자가 무엇이든 물어볼 수 있는 지능형 시스템을 기대하는 사람이 있다는 거죠. 르쿤은 그런 시스템이 대부분의 사람에게 인간과 비슷한 수준의 지능처럼 느껴지게 되려면, 잘되었을 때도 5~6년보다 빨라 보이지는 않는다고 말해요. 다만 여기서 중요한 건 이 숫자가 확정 일정이 아니라는 점이에요. 그가 말한 5~6년은 새로운 구조가 성공하고, 지금 구상 중인 아이디어들이 실제로 작동하고, 규모 확장이 먹히고, 컴퓨팅 발전도 따라와야 하는 ‘최선의 경우’예요. 그는 AI 역사에서 사람들이 난이도를 계속 과소평가해 왔다고도 말해요. 그래서 내년이나 2년 안에 된다는 식의 낙관론에는 선을 긋고, 가까운 미래에 생길 수 있는 변화는 ‘챗봇이 대답 못 하는 질문을 찾기 더 어려워지는 것’ 정도일 수 있다고 봐요.

그렇다면 ‘정말 인간 수준 지능이 왔는지’를 한 번에 판정하는 시험이 있느냐고 묻자, 르쿤은 그런 단일 시험은 없다고 답해요. 이유는 의외로 단순해요. 우리가 어떤 하위 문제를 골라 시험으로 만들면, 그 문제만 아주 잘 푸는 특화된 해법이 나올 가능성이 크기 때문이에요. 이미 계산, 번역, 체스, 길 찾기 같은 일에서 컴퓨터는 인간을 쉽게 넘어섰죠. 그런데 그런 승리가 곧바로 ‘전반적 지능’을 뜻하지는 않는다는 거예요. 가상의 비교를 해보면, 시험 한 과목에서 만점을 받는 계산기나 내비게이션이 곧바로 삶 전체를 이해하는 존재는 아니잖아요. 르쿤은 바로 그런 식으로, 특정 과제의 초인간적 성능과 지능 전체를 자꾸 혼동한다고 보는 거예요.

이 지점에서 르쿤은 대형 언어모델에 대한 대중의 감탄도 다시 해석해요. 사람들이 언어를 다루는 능력을 보고 ‘이제 거의 일반 지능 아닌가’ 하고 느끼지만, 그는 오히려 언어 조작이 우리가 생각했던 것보다 단순한 능력일 수 있다고 말해요. 그의 설명은 이래요. 언어는 진화사에서 비교적 최근에 나타났고, 뇌에서도 비교적 작은 영역들이 주로 담당하니, 인간 지능 전체를 대표하는 핵심이라기보다 일부 기능일 수 있다는 거예요. 그래서 언어모델이 인간처럼 말한다고 해서 일반 지능이 증명되는 건 아니라고 봐요. 그는 이런 시스템들이 인간을 닮아 보여서 우리를 속이지만, 실제로는 매우 얕다고까지 말해요. 반대로, 물리 세계에서 아주 단순해 보이는 작업을 실제로 수행하게 만드는 일은 극도로 어렵고, 로보틱스가 진전 중이더라도 아직 필요한 수준과는 거리가 멀다고 말해요. 말하자면 ‘말 잘하기’와 ‘세상 속에서 제대로 행동하기’ 사이에 큰 틈이 있다는 주장입니다.

통제 상실이나 지배에 대한 두려움에 대해서도 르쿤은 전제가 잘못됐다고 반박해요. 더 똑똑해지면 자동으로 권력을 원하고 인간을 지배하려 들 거라는 생각 자체가 틀렸다는 거예요. 그는 인간 사회만 봐도 가장 똑똑한 사람이 늘 우두머리가 되는 건 아니라고 말하고, 지배 행동은 지능의 부산물이 아니라 특정한 동기 구조와 연결된다고 설명해요. 특히 자원 경쟁이나 다른 개체를 움직여 이익을 얻으려는 성향은 사회적 동물의 맥락에서 나타나는 것이지, 지능 일반의 필수 성질이 아니라는 거죠. 인간에게도 힘으로 누르는 방식 말고 명성이나 위신으로 지위를 얻는 방식이 있고, 오랑우탄처럼 사회적이지 않은 동물은 지배 욕구가 두드러지지 않는다는 예를 들어요. 그러니 ‘똑똑함’과 ‘정복 욕구’를 한 덩어리로 묶는 건, 르쿤에게는 생물학적 비유로 봐도 맞지 않는 추론이에요.

그렇다고 안전 문제를 가볍게 본다는 뜻은 아니에요. 르쿤이 옮겨 놓는 초점은 ‘지능이 높아지면 자연히 쿠데타를 일으킨다’가 아니라, ‘우리가 어떤 목표와 어떤 통제 구조를 심어 넣느냐’예요. 그는 특히 지금의 LLM 능력을 그대로 미래로 연장해 상상하면 무서울 만한 이유가 있다고 말해요. LLM은 어느 정도 본질적으로 안전하지 않은 면이 있는데, 그 이유를 그는 ‘목표를 세우고 그 목표를 만족시키는 행동 순서를 계획하는 방식’이 아니라, 토큰을 하나씩 이어 붙이며 산출한다는 점에서 찾아요. 즉, 깊이 생각해 통제 가능한 계획을 세운다기보다, 출력 생성 방식 자체가 다르다는 거예요. 다만 이것도 조건이 붙어요. 그는 현재 LLM이 아주 똑똑한 편은 아니어서 그 자체로 결정적 위협이라고 말하지는 않고, AI가 큰 해를 끼칠 권한을 갖게 되는지도 결국 우리가 얼마나 무모하게 시스템을 연결하느냐에 달려 있다고 봐요. 아이가 무심코 키보드를 두드려 파일을 망칠 수는 있어도 핵전쟁을 일으키진 못하듯, 시스템의 위험은 능력만이 아니라 부여된 권한과 연결 방식에 크게 좌우된다는 뜻이에요. 그래서 마지막 쟁점은 ‘지능이 곧 반란인가’가 아니라, 목표 정렬과 권한 설계, 그리고 어떤 종류의 동기를 시스템에 넣을 것인가로 옮겨가요.