런던과 샌프란시스코, 앤트로픽과 구글 딥마인드의 본사 앞을 지키는 사람들이 있습니다. 음식 섭취도 거부한 채, 오직 물과 전해질, 그리고 비타민만으로 버티며 단식 시위를 이어가고 있는데요. 이유는 단 하나, 인류를 뛰어넘는 슈퍼휴먼 AI 및 범용 인공지능(AGI) 개발 경쟁을 즉시 멈추라는 것입니다. 대체 무슨 상황일까요?

누가 시위를 하는 걸까?

이번 시위의 주도자는 귀도 라이히슈타터(Guido Reichstadter)와 마이클 트라지(Michaël Trazzi)입니다.

라이히슈타터와 트라지. 출처: X @wolflovesmelon, @MichaelTrazzi

라이히슈타터는 미국의 베테랑 활동가로, 과거 기후위기 문제를 알리기 위해 마이애미 시장실 앞에서 15일간 단식을 한 경험이 있습니다. 그는 Stop AI라는 단체를 만들어 “인공 초지능(ASI) 개발을 영구히 금지해야 한다”고 주장하며, AI가 불러올 대량 실업과 인류 멸종 위험을 경고해왔습니다. 심지어 2023년에는 샌프란시스코의 오픈AI 본사를 쇠사슬로 봉쇄하다 체포된 전력도 있습니다(!).

트라지는 프랑스 출신의 전 AI 안전 연구자입니다. 파리에서 컴퓨터과학과 AI를 공부했고, 옥스퍼드대 미래인류연구소(FHI)에서 연구한 경력도 있지요. 현재는 유튜브와 틱톡에서 AI 정책 관련 콘텐츠를 제작하고 있는데요. 라이히슈타터의 행보를 보고, 이번 런던 시위에 합류했습니다. 그의 요구는 명확합니다: "딥마인드 CEO 데미스 하사비스가 다른 기업들과 함께 새로운 최첨단 AI 모델을 내지 않겠다고 공개 서약해야 한다!"

무엇을 두려워하는 걸까?

라이히슈타터와 트라지의 가장 큰 우려는 AI의 폭주입니다. 단순히 일자리 몇 개를 잃는 수준이 아니라, 인류 문명을 위협할 수 있는 초지능이 출현할 수 있다는 것인데요.

라이히슈타터의 주장:
"AI 연구소들이 지금처럼 경쟁하듯 개발을 계속한다면, 인류는 돌이킬 수 없는 위험지점으로 향하게 된다"
트라지의 주장:
"AI가 스스로 더 강력한 AI를 설계하게 되면, 인간의 통제권을 잃게 된다. 바이러스나 무기를 설계하는 것도 가능해질 수 있다. 그리고 이런 상황은 2030년 이전에도 일어날 수 있다"

극단적으로 볼 수도 있지만, 둘의 주장은 일부 과학자들의 경고와도 맞닿아 있습니다. 'AI 대부'로 불리는 제프리 힌턴은 이미 대기업들이 AI 위험을 축소 발언하고 있다고 지적했고, 앤트로픽 CEO 다리오 아모데이 역시 '향후 5년 내 화이트칼라 초급 일자리 절반이 사라질 수 있다'고 말했습니다. 이미 여러 기업에서 AI 도입을 이유로 인력 감축을 진행하기도 했지요.

2023년 3월, 일론머스크등 수천 명이 서명한 오픈 레터(Open Letter on AI) 서한은 '최근 몇 달 동안 AI 연구소들은 창조자들조차 이해/예측/통제할 수 없는 강력한 디지털 뇌를 경쟁적으로 개발 및 배치하고 있다'고 경고합니다. 같은 해 5월에는 제프리 힌튼, 요슈아 벤지오, 데미 하사비스, 샘 올트먼, 그리고 다리오 아모데이 등 AI 업계를 최전선에서 이끄는 수장들까지 서명한 ‘AI 멸종 위험 경고문’이 발표되었는데요.

성명 내용. 출처: Center for AI Safety

"AI로 인한 멸종 위험 완화를 전염병이나 핵전쟁 같은 수준으로 세계적 우선순위에 두어야 한다"는 성명입니다. 안전을 위해 서명했다고 볼 수 있지만, 다르게 해석하면 그만큼 업계 주도자들이 인정하고 있는 위험이라고 볼 수 있는 경고문입니다.

이런 이야기, 매주 받아보고 싶다면?

가장 빠른 AI 뉴스 구독하기

기업들의 반응은 어떨까?

아직 앤트로픽과 딥마인드 측 모두 공식적인 대응이나 입장 표명은 거의 내놓지 않고 있습니다. 미국 언론사 문의에 대해서도 즉각적인 논평을 거부하거나 별다른 답을 하지 않았다고 전해지는데요. 라이히슈타터는 단식 시위 첫날 앤트로픽의 CEO 아모데이의 책상에 개발 중단을 촉구하는 서한을 직접 두고 왔다고 하지만, 며칠이 지나도록 회사의 공식 답변을 받지 못한 상태입니다.

아모데이 책상 위에 두고 왔다는 라이히슈타터의 편지. 출처: X @wolflovesmelon

트라지가 문을 지키고 있는 딥마인드 역시, 아직 어떠한 공개 약속이나 논평을 내지 않고 있습니다. 다만 앤트로픽 보안팀 등이 라이히슈타터의 시위를 강제로 해산시키지는 않고 있어, 물리적 충돌 없이 시위가 지속 중입니다. 두 기업 모두 AI 안전성 담론에 적극적으로 참여해온만큼, 섣부르게 반응하기에 조심스러워 보입니다.

반응은 어떨까?

실시간으로 트윗을 올리는 라이피슈타터와 트라지의 SNS 계정에서는 ‘AI 개발을 멈춰야 하는가?’라는 질문을 두고 뜨거운 토론이 벌어지는 중입니다. ‘그만큼 상황이 절박하다’며 옹호하는 사람이 있는 반면, ‘과학적 근거가 부족한 채 공포에 지나치게 의존한다’, ‘한쪽이 멈추면 오히려 뒤처져 더 위험하다’는 반론도 제기됩니다. 과거 계산기가 나왔을 때 수학 교사들이 사용 반대 시위를 하던 뉴스 기사를 올리며, ‘역사는 반복된다’고 말하는 사람도 있지요.

과거 기사 클립을 올린 댓글. 출처: X @diegocabezas01

현실적으로 이번 단식 시위로 인해 갑자기 AI 개발을 멈추는 것은 어렵습니다. 하지만 그동안 전문가나 기업 임원들의 발언에 국한되던 AI 위험 논의가 점점 시민운동의 형태로도 등장하는 점에 주목해야 합니다. 덕분에 기술 업계 내부도 긴장하고 있지요. 실제로 라이히슈타터가 이끄는 Stop AI, 그리고 사이버보안 연구자 킴 크롤리가 조직한 StopGenAI 등 유사한 단체들이 잇따라 등장하며 AI 규제를 촉구하고 있습니다. 특히 일자리 상실 문제를 중점적으로 부각하고 있지요.

AI의 위험성에 대한 인식이 높아지고 반대가 심해지면서, 정치권에서도 대응이 가속화되고 있습니다. 영국 정부는 2023년 말, 공식적으로 ‘AI가 인류에 존재론적 위험이 될 수 있다’는 입장을 처음 내놓았고, 미국 상원은 주요 AI 기업 CEO들을 불러 안전 규제 청문회를 열기도 했습니다. EU 역시 세계 최초의 포괄적 규제법인 AI Act 제정을 추진하고 있습니다.

라이히슈타터의 단식 시위 포스트에는 물론 동조하는 사람도 많지만, 조롱 댓글도 많습니다. 고기 사진을 올리거나, ‘살이 찐 것 같은데 단식한다는 말을 믿을 수 없다’는 등 포인트를 엇나간 공격부터 AI같이 편한 도구를 ‘멍청하게’ 받아들이고 있다는 비난 댓글이 달려있는데요.

AI를 잘 쓰고 있고, 뒤쳐지면 안된다고 생각하는 입장에서는 이번 시위가 무모하고 불편할 수 있습니다. 실제로 AI로 인해 셀수 없는 분야가 효율적으로 바뀌고, 편해졌습니다. 하지만 AI로 인해 일자리를 잃고, 평생 꾸던 꿈을 잃은 사람들이 존재하는 것도 사실입니다. 하루 아침에 AI 개발을 멈추기란 어렵습니다. 하지만 아직 우리가 완전히 이해하지 못하는 기술인만큼, 질주에만 몰두할 게 아니라 우리가 뛰고 있는 트랙 끝에 무엇이 있는지 확인하며 가야 합니다.

목록으로 돌아가기