왜 이 CEO는 AI 속도를 늦추자고 하면서도 위험을 퍼센트 하나로만 말하지 않으려 할까요?

요약 보기

이 발췌문에서 가장 먼저 잡아야 할 핵심은 경고의 방향이에요. 소개에 따르면 AI 분야의 핵심 인물 중 한 명이 업계가 지금은 속도를 늦춰야 한다고 말해요. 이유는 기술이 너무 빨리 발전하면 인간이 통제력을 잃을 위험이 있고, 그 결과가 사이버 공격이나 생물 테러로 이어질 수 있다는 거예요. 여기서 중요한 건 이것이 이미 일어난 사실을 보고하는 문장이 아니라, 그 CEO가 제기하는 위험 시나리오와 속도 조절 주장이라는 점이에요.

인터뷰가 왜 시작됐는지도 같이 봐야 해요. 진행자는 최근 나온 발언들을 배경으로 깔아요. 최근 회사를 떠난 인물인 Jacob에 대해서는, 그가 'AI를 만드는 사람들이' 앞으로 10년 안에 AI가 모두를 죽일 수 있다고 진지하게 믿는다고 말했다고 소개해요. 반면 현재 직원인 Evan에 대해서는, 그런 믿음을 자신도 공유한다고 말했고, 개인적으로는 앞으로 10년 안에 그 가능성이 10%보다 크다고 본다고 이어져요. 같은 불안을 말하는 듯 보여도, 누구의 믿음을 어떻게 전하는지 표현이 조금 달라요. 또 Evan의 직함에 'alignment science lead'가 나오는데, 문맥상 AI가 사람의 의도와 어긋나지 않게 다루는 문제와 관련된 역할처럼 들리지만, 정확히 어떤 일을 하는 자리는 이 발췌문만으로는 알 수 없어요.

그다음 CEO의 반응은 흥미로워요. 그는 Jacob과 크게 다르지 않다고 말해요. 다만 이 퇴사가 자기 회사를 정면으로 고발한 사건처럼만 읽히는 건 아니라는 점을 짚어요. CEO의 설명에 따르면, Jacob은 오히려 Anthropic을 가장 책임감 있고 이런 문제를 가장 잘 인식하는 곳이라고 말했고, 비판의 초점은 특정 회사 하나가 아니라 업계 전체가 너무 빨리 움직이는 흐름에 있었다는 거예요. 그러니까 이 대목에서 저자가 강조하는 문제는 '누가 더 나쁘냐'보다 '업계의 속도'예요. 물론 이것도 CEO가 인터뷰에서 재구성해 전하는 설명이기 때문에, 우리는 이 발췌문 안에서 그 설명 자체를 듣는 거지, 별도의 독립 확인을 보는 건 아니에요.

왜 그는 퍼센트 하나를 딱 말하는 방식에서 물러서려 할까요? 여기서 '무조건적인 확률'이라는 표현이 나와요. 대강 '결과 하나를 놓고 전체 가능성을 숫자 하나로 말하는 방식' 정도로 이해하면 돼요. 그는 예전에는 그런 식으로 말하곤 했다고 해요. 일이 잘못될 가능성이 어느 정도는 있지만 아주 높은 건 아니라는 느낌을 전하기에는 쉽기 때문이죠. 그런데 지금은 그보다 더 설명력이 있는 방식이 있다고 봐요. 확률을 잘게 나눠서, 일이 잘 풀리는 경로와 잘못되는 경로를 따로 보자는 거예요. 가상의 비유로, 비행기를 탈 때 '사고 확률 몇 퍼센트'만 듣는 상황을 떠올려 보면 돼요. 그 숫자만으로는 무엇이 위험한지 잘 안 보이지만, 정비 문제인지 조종 문제인지 날씨 문제인지로 나누면 어디를 관리해야 하는지가 보이잖아요. 이 CEO가 말하는 '확률을 분해한다'는 것도 그런 방향으로 읽혀요. 숫자 자체보다 위험이 생기는 메커니즘을 따져 보자는 뜻에 가까워요.

다만 여기에는 분명한 한계도 있어요. 인터뷰가 중간에서 끊겨서, 그가 결국 어떤 세부 경로들을 상정하는지, 무엇이 '잘 가는 길'이고 무엇이 '잘못되는 길'인지까지는 나오지 않아요. 마지막 문장도 퍼센트 이야기를 이어가다 멈춰요. 그래서 이 발췌문만 놓고 확실히 말할 수 있는 건 세 가지 정도예요. 첫째, 그는 업계의 속도를 늦춰야 한다고 주장한다는 점. 둘째, 업계 내부에서 큰 위험을 진지하게 말하는 전·현직 인물들이 배경으로 등장한다는 점. 셋째, 그 자신은 단순한 종말 확률 숫자보다 경로별 분석이 더 낫다고 본다는 점이에요. 반대로, 그의 최종 확률 판단이나 구체적 대응책까지 이 짧은 부분만으로 읽어내는 건 무리예요.