지금과 같은 시대에 AI에 관한 소식을 지속적으로 접하고 자신의 일상과 업무를 바꾸고자 노력하는건 분명 개인 수준에서는 분명한 우월전략이다.
하지만 FOMO를 부추겨 강의를 팔아먹는걸 넘어 당신이 AI를 적극적으로 활용하는게 우리 사회, 나아가서는 인류에 도움이 되는 '좋은' 일이라 떠드는 자들은 최소 나이브, 대부분 위선이며, 최대 사기다.
멈추고 생각하는 시간이 귀중해지는 시대다.
쇼츠와 끝없는 피드. 별로 생각치 않고 물어도 알아서 의도까지 파악해서 답해주는 AI가 존재하는 시대는 생각하지 않음이 자연스럽다. 생각치 않아도 당장은 유사한 결과를 얻기에 스스로도 이를 인지하긴 어렵다. 그래서 의도적 멈춤. 그 공백 사이에서 스스로 생각해볼 수 있는 기회는 점점 더 가치 있어진다.
그래서 책읽기가 필요하다. 능동적으로 읽어내려가야하고, 연상해야하기 때문이다. 이 관점이라면 좋은 책읽기와 좋지 못한 책읽기도 나눠진다. 속독이나 줄거리 파악을 위한 책읽기는 사실 AI에게 요약해줘 하는 것과 크게 다를바 없다. 읽다가도 문장을 음미하며 생각을 덧붙이는 읽기가 더 중요해진다.
그래서 글쓰기도 필요하다. 능동적으로 구상하고 써내려가고 다시 일고 수정해야하기 때문이다. 글을 쓰는데 AI 도움을 받는건 마냥 나쁘다고 할 수 없다. 자신의 생각을 먼저 제시하고 관련된 주변 지식을 탐색하고 사유를 확장하는데 쓴다면 좋은 사용일테고, AI 의견을 묻고 그 의견대로 따라가는 빈도가 늘어난다면 나쁜 사용일테다. 물론 글쓰기가 어려운것 처럼 AI를 이렇게 쓰는 것도 어려운 일이지만.
그래서 대화나 토론도 필요하다. 상대방이 말할 때, 의견을 듣고 잠시 기다리며 자신의 생각을 정리할 수 있는 기회를 가질 수 있기 때문이다. AI와의 채팅은 이런면에서 '대화'이기 쉽지 않다.
이런 기회는 가면갈수록 의도적으로 잘 디자인된 환경에서만 경험 가능하다. AI 시대에 이제 가정환경에 따른 격차는 다른 곳이 아닌 이 부분에서 나지 않을까.
대학이 (변화한다면) 여전히 존립할 수도 있겠다는 생각이 드는 이유 중 하나도 이런 점이다. 하나의 주제에 대해 수개월동안 멈추고 생각하며 대화할 수 있는 시간적 공간적 경험을 돈과 교환하는 것. 물론 이 경험이 당장 좋은 직업으로 연결되기는 쉽지 않겠지만 그렇지 않더라도 어차피 지금의 직업양성소로의 가치는 곧 무너져내릴테니 기존의 가치로 돌아가는게 대학의 살길이 아닐까.
(일부) 인문이나 기술비평 쪽에서 AI를 논할 때 안타까운 점 한 가지는 AI가 하지 못하는 부분에 초점을 둔다는 점이다.
문제는 AI 발전 속도가 너무 빠르다. 논의를 시작하는 시점에 이미 (이렇게 쉽게 일반화해서 얘기하기에) 틀린 주장이 많고 그렇지 않더라도 곧 그리될 가능성은 아주 높다.
반면 이 논의를 하는 당사자는 물론이고, 이를 듣고 수용하는 일반 대중의 인식 변화 속도는 현저히 느리다.
결국 지금 맞는 이야기든 아니든 한계에 초점을 둔 논의가 형성한 현실인식과 실제의 갭은 간극이 벌어질 확률이 아주 높다. 이는 타인 의견에 대한 무시로 이어지고, 서로간의 대화를 단절시킨다.
차라리 AI의 기술적 한계나 인간의 상대적 우월성 얘기는 조금 접어두고, 인문학적 상상력으로 AI가 과연 어디까지 발전해서 어떤 영향력까지 행사할 수 있을지 생각을 확장하는데. 하지만 일부 권력자들에 의한 불균등한 발전으로 소외받을 영역이 어디일지 논하고 반대 방향으로 무게추를 옮길 수 있도록 하는게 학문적으로나 사회적으로 훨씬 긍정적이지 않을까.
AI가 가져올 변화는 마태효과가 아니라 양극화다. 현재의 격차가 미래의 격차를 보장하지 않으며, 시니어 유리론은 일시적 현상에 기반한 착각일 수 있다.
"AI가 가져올 변화는 마태효과라기 보다는 양극화가 더 적절한 표현이다.
지금보다 훨씬 양극화가 심해질 것이라는 점에는 동의하나 현재의 격차가 앞으로의 격차를 유지시켜주진 못한다. 어떤 사람은 AI로 인해 이전의 불리함을 극복할 것이고 어떤 사람은 AI로 인해 오히려 퇴보할 것이다.
그렇다고 누가 더 뛰어난 사람이라기 보다는 장강명 작가가 먼저온 미래에서 얘기하듯이 새로운 환경에 누가 더 적응하기 쉬웠는지의 차이랄까.
비슷한 관점에서 요즘 계속 언급되는 주니어 vs 시니어 구도에서 시니어가 유리하다는 관점은 착각을 불러 일으킬 수 있다고 생각한다. 주니어 채용의 급격한 감소는 채용의 권한을 시니어가 쥐고 있다는 점, 채용을 하지 않는 행위가 해고하는 행위보다 훨씬 용이하다는 점 등이 맞물려 돌아가는 일시적 현상이 아닐까 싶다. 사람이 변화하는것보다는 AI 발전속도가 훨씬 빠르기에 AI+시니어보다는 AI+(일부)주니어가 더 큰 격차를 불러올 것 같다.
그래서 여기에 굳이 성경 말씀을 인용하자면 ""이와 같이 나중 된 자로서 먼저 되고 먼저 된 자로서 나중 되리라” 라는 마태복음 20:16이 더 적절할 듯 하다."
카파시는 LLM을 자아를 가진 존재가 아니라 시뮬레이션 엔진으로 대해야 한다고 조언한다. 이 관점은 AI 활용법을 넘어 AI를 존재로 인식하는 문제의 해결 시작점이 될 수 있다.
"LLM을 자아를 가진 존재처럼 대하지 말고 다양한 관점/상황을 시뮬레이션 할 수 있는 기계로 취급하라는 안드레이카파시의 조언.
""xyz에 대해 어떻게 생각하세요?"" 가 아니라 ""xyz를 탐구하기에 적합한 사람들은 누구일까요? 그들은 무엇을 말할까요?"" 라고 물어보자고.
그의 본문과 댓글을 통해 해석해보자면 자아(?)라는 인식 자체가 추가 학습 과정에서 의도적으로 덧씌워지고 만들어진 층위기에, 우리가 쓰는 '당신'이라는 표현은 이전과정에서 만들어진 성격 임베딩 벡터를 기반으로 시뮬레이션하도록 (제한) 시켜 다양한 입장을 탐색할 때 오히려 방해가 될 수 있다는 얘기인 듯 하다.
이를 생각하다보니 이러한 이해가 AI를 잘 쓰기위한 방법론적 측면도 있겠지만 AI를 또다른 존재로 인지해서 발생하고 있는 다양한 문제들을 해결할 수 있는 시작점이 될 수도 있겠다는 생각이 들었다. 아이들에게 가르쳐줘야할 지식이자 관점.
""당신"" 시뮬레이션을 설계하는 데 분명히 노력이 투입되고 있습니다. 검증 가능한 문제에서 모든 보상을 받거나, 사용자/심사 LLM으로부터 모든 추천을 받거나, SFT의 응답을 모방하는 그런 성격이죠. 그리고 그로부터 복합적인 성격이 자연스럽게 형성됩니다. 제 요점은 그곳의 ""당신""이 근본적으로 토큰 시뮬레이션 엔진 위에 의도적으로 덧씌워지고 설계된 층위라는 점입니다. 이는 평균적인 사람이 AI와 대화할 때 공감할 수 있는 방식으로 시간이 지나며 자연스럽게 형성된 마음과는 다릅니다.
There is definitely work going into engineering the ""you"" simulation - the personality that gets all the rewards in verifiable problems, or all the upvotes from users/judge LLMs, or mimics the responses of SFT, and there is an emergent composite personality from that. My point is more that the ""you"" there is deliberately bolted on, engineered and layered on what is fundamentally a token simulation engine, not a mind that is somehow emergent and over time constructed in a relatable way to an average person talking to an AI.
The story is a bit more simple in verifiable domains, but I think more interesting/complicated in the non-verifiable ones, such as for example asking about opinions on topics xyz. It's less clear how to think about the ""you"" that you're talking to or where it comes from and what credence you should give it."
어느 수준 이상의 지능에 도달하면 간단한 작업을 더 간단히 힘 빼고 쉽게 할 줄도 알게 될 것이다. 리즈닝토큰을 적게 소비하는걸 넘어 MoE에서 한발 더 나아가 최근 언급되는 dynamic depth나 early exit 같이 효율성 자체가 목적함수로 포함되어 학습될 수도 있고, 그것도 아니고 그냥 지능이 상승하며 스스로 효율성을 체득하는 창발이 일어날 수도 있을테다.
이게 적절한 ops발달과 함께 간다면 지금 우리가 클로드코드에서 하는 서브에이전트 만들고 다듬는 노력들 또한, 몇 달 후에는 쓸모 없어지는 또다른 bitter lesson이 될 수 있다. 구글 antigravity가 이러한 방향을 염두에 두고 있는거 같기도 하고. haiku, sonnet, opus, pro 같은 모델명은 사라지고 그냥 claude모델, gpt모델, gemini모델 같이 브랜드명만 남게될지도. 오토라우팅으로 겉으로만 하나로 보이는게 아니라 실제로 하나의 모델만 존재하는.."
