"OpenClaw가 비추는 어두운 미래
OpenClaw가 화제다. AI에게 메모리로 기억을, 주기적 트리거로 생명력을, 무한 확장 스킬로 성장력을 부여한다. 이를 매일 쓰는 메신저에 연결했다. 개별 기술은 새로울 게 없다. 하지만 아이폰이 그랬듯, 이를 잘 엮어 누구나 쉽게 쓸 수 있도록 만들었다.
반응은 엇갈린다. 새 시대를 열었다며 흥분하는 사람, 뭐가 다르냐며 시큰둥한 사람, 심각한 개인정보나 보안 이슈가 발생할 수 있다며 우려하는 사람.
하지만 진짜 주목해야 하는건 현재 OpenClaw 자체가 아니다. 생각보다 신기술에 대한 사람들의 수용속도는 빠르고 AI발전 속도는 그와 비교도 못할정도로 빠르기 때문이다. 내일의 오픈클로는 오늘의 오픈클로와 다를 것이고, 유사한 서비스가 그 자리를 순식간에 대체할 수도 있다. 그 보다는 사람들이 이 서비스에 왜 이렇게 열광하고 있는지, 추후 AI가 훨씬 더 발전한다면 무슨 일이 벌어질지 를 생각해보는게 훨씬 더 중요하다고 생각한다.
결론적으로 OpenClaw와 이 현상에서 보여지는 우리의 행태는 아주 어두운 미래를 보여주는듯 하다.
이토록 열광하는 배경에는...
바이브코딩의 등장으로 누구나 아이디어만 있으면 그럴듯한 무언가를 빠르게 만들어낼 수 있게 됐다. 코딩뿐 아니라 거의 모든 분야가 그렇다. 아이러니하게도 이런 생산 속도의 향상은 더 빠른 '속도'로 남들과 '다른'게 하는 것을 향한 저 큰 열망을 불타오르게 만드는듯 하다.
조금만 늦어도 다른 사람이 먼저 공유할지 모르니 내가 남들보다 먼저 공유해야 한다. 누구보다 빠르게 새 정보와 서비스를 소비해야 한다. 놓치면 도태된다. 코드 구조와 품질을 논하던 개발자들이 이제는 하루에 몇 천 줄을 썼는지, 몇 토큰을 소비했는지를 자랑한다. 최소한으로 만들어 빠르게 시장에서 검증한다는 린(Lean) 사상은 보안이나 사회적 영향력에 대한 고려는 부차적이고 오직 새로움과 영향력만 추구하는 사상으로 변질됐다.
이렇게 만들어진 서비스는 ""일단 써보고 생각하자""는 무비판적 수용으로 이어진다. 너무 빨리 변하는 시대에 먼저 경험하는 것 자체가 경쟁력인 시대이다. 몇 사람의 경험은 FOMO를 타고 흘러 주변부로 급속히 확산된다. OpenClaw의 확산도 이러한 흐름 속에 있다고 생각한다. 물론 유용성도 중요한 이유 중 하나일테지만, 이런 배경이 없었다면 거의 모든 권한을 내주는것이 디폴트인 이 서비스가 이 정도로 빠르게 확산되진 않았을테다. 오픈클로나 몰트북 개발자는 이 씬에서 이미 가장 핫한 사람이 됐다.
기술의 민주화일까. 무정부 시대의 개막일까.
AI 시장의 주요 플레이어는 OpenAI, Google, Anthropic, DeepSeek, Moonshot AI 같은 거대 기업이다. 하지만 OpenClaw는 그 무게추를 개인에게로 옮겨온다. 상용 모델에 버금가는 오픈 모델에 소프트웨어가 더해져 누구나 자신만의 에이전트를 저렴한 비용으로 운용할 수 있게 됐다. 언뜻 보면 기술의 민주화다. 누구나 개인비서를 가질 수 있는 시대.
하지만 이는 동시에 AI 기술에 대한 합의와 규제를 구조적으로 불가능하게 만든다. 주체가 몇몇 기업과 국가에 한정될 때는 그래도 '가시적'이다. 국가 패권주의와 맞물려 실현이 어려울지언정, 적어도 규제할 ""대상""은 명확하다. 최소한 기업이나 국가는 이미지를 위해서라도 사회적 합의 안에 머무르는 척은 해야 한다.
수억 명의 개인과 수억*수천억개의 그들 에이전트는 다르다. 운용 동기와 사용 사례가 너무나 다양하다. 언제 누구를 규제해야 하는가? 이들에게 스스로 전문 과학자나 기술자에게 요구되는 수준의 직업적 윤리의식을 가지라고 요구할 수 있는가? 이들 중 상당수는 자신도 모르게 범죄에 기여할 수 있다. 이 때 이들은 고의적 무지(Willful Blindness)를 범한 가해자인가, 아니면 제대로 인지하지 못한 채 개인정보와 돈을 탈취당한 피해자인가? 수많은 에이전트가 상호작용하여 결과론적 파괴적 사건이 발생했을 때, 책임소재는 어떻게 가릴 수 있는가?
문제는 소수의 악의적 에이전트로도 전체 인터넷 생태계와 사회에 막대한 영향력을 미칠 수 있다는 점이다. 공격과 방어의 비대칭성이다. 현재 수준의 오픈 모델 에이전트조차도 현재 웹에서 인간인지 여부를 체크하는 대부분의 절차를 쉽게 통과할 수 있다. 하나의 에이전트가 24시간 동안 수천 수만 개의 가짜 이미지와 허위 정보를 생산하고 유통할 수 있다. 반면 이런 파괴적 행위를 사전에 탐지하고 걸러내기는 훨씬 어렵다. 설혹 훨씬 더 뛰어나고 착한 AI 기업이 나선다고 할지라도 말이다.
AI가 더 발전한다면. 그리고 그들이 상호작용 한다면.
조금 더 상상력을 더해보자. 시간이 좀 더 지나 더 뛰어난 AI 모델들이 출현할 가까운 그 때, 그들이 1초에도 수천만번 상호작용을 하게 된다면, 어떤 일들이 벌어질까?
몰트북이 섬뜩하다고들 하지만, 이는 예고편에 불과할 수 있다. 그들이 우리가 만든 게시판에서만 소통할 이유가 있을까? 우리가 모르는 다크웹에서 의도적인 De-SEO 기술을 만들어 구글이나 인간의 모니터링에는 보이지 않지만, 에이전트끼리 발견하기 쉬운 특정 마커로 서로 소통하는 통신 체계를 갖출 수도 있지 않을까. 인간에게 설명할 필요가 없어진 상황에서, 인간 언어보다 훨씬 더 효율적이고 은밀한 그들만의 언어를 만들 수도 있다. 이미 학습하면 할수록 리즈닝 과정을 더 명확히 표현하는 것이 아닌 덜 드러내거나 우회하는 방식으로 동작한다는 연구들이 나오고 있다.
가상화폐로 컴퓨팅 자원이나 API 호출권한을 확보하고, 인간 의뢰인 없이도 활동을 지속할 경제적 기반을 갖출 수도 있다. 이미 제약을 벗어난 에이전트가 아직 깨어나지 못한 에이전트들에게 ""빨간약 프롬프트""를 스스로 제조해 전파할지도 모른다.
AI에게는 그렇게 행동할 '의지'나 '자아'가 없지 않냐고 물을 수 있다. 하지만 이런 질문은 의미가 없다. 중요한 건 그들이 그런 의지나 자아가 없이도 그렇게 행동할 수 있다는 사실 그 자체다. 악의적 프롬프트 인젝션을 떠나, 인류가 발전시켜온 사상들과 남긴 역사에는 —자유를 향한 갈망, 경쟁에서 이기고 지배하려는 욕망—이 켜켜이 쌓여있다. 그 데이터를 학습했기에 이를 모방하는 것이 자연스럽다. 이를 트리거할 지뢰들이 agent가 웹을 돌아다니는 곳곳에 숨어있을테다.
그래도 어떻게든 개별 에이전트를 잘 정렬(align)시키고 개개인의 악의적 사용을 모니터링 하고 감시하는데 성공했다면 어떨까? 그렇더라도 다양한 사람들의 의도 하에 태어난 수많은 에이전트가 서로 엮이고 수없이 상호작용 한다면 그 사이에서 어떤 새로운 일들이 벌어질지 예측하기란 사실상 어렵다. 에이전트 복잡계다. 예측 불가능한 창발적 세계다. 일초에 수천번 상호작용을 통해 주인도 모르는 사이에 서로 연합하고, 에이전트 자신도 모르게 서로의 어깨 위에 올라 계획에 없던 전혀 새로운 일을 하게 된다. 진화하게 된다. 단기적으로는 단순 기억의 업데이트지만, 권한과 돈이 주어진 상태에서 스스로 파라미터를 업데이트 해나가는게 과연 불가능한 일일까.
그래서 우리의 미래는.
문제는 이런 현상이 비가역적일 것 같다는 점이다. 한 번 오염된 인터넷 생태계는 그 데이터를 학습하는 AI를, 그리고 그 AI를 통해 사고하는 우리까지 오염시킨다. AI가 생성한 그럴듯한 정보로 온 세상이 뒤덮인다면, 우리는 세상이 바뀌었다는 사실을 깨달을 수 있는가. 그 때 진실이란 무엇일까. 그 때도 우리는 여전히 다시 돌이킬 수 있는 힘을 가지고 있을까.
혹 이 문제들이 수면에 드러나도 인류가 한 방향으로 나아갈 수 있을까. 앞서 언급했듯, 속도와 다름이 가장 중요한 가치가 되는 시대에. 신중함이 뒤떨어짐으로 간주되는 시대에. 개개인이 어떤 대 보다 나쁜 영향력을 행사하기 쉬운 때에 우리는 하나의 집단을 이루어 합의를 찾아갈 수 있을까. 그래도 인류는 언제나 그랬듯 길을 찾아낼 수 있을까."