angil's Dots
Between tech and our society.
지금과 같은 시대에 AI에 관한 소식을 지속적으로 접하고 자신의 일상과 업무를 바꾸고자 노력하는건 분명 개인 수준에서는 분명한 우월전략이다.
하지만 FOMO를 부추겨 강의를 팔아먹는걸 넘어 당신이 AI를 적극적으로 활용하는게 우리 사회, 나아가서는 인류에 도움이 되는 '좋은' 일이라 떠드는 자들은 최소 나이브, 대부분 위선이며, 최대 사기다.
멈추고 생각하는 시간이 귀중해지는 시대다.
쇼츠와 끝없는 피드. 별로 생각치 않고 물어도 알아서 의도까지 파악해서 답해주는 AI가 존재하는 시대는 생각하지 않음이 자연스럽다. 생각치 않아도 당장은 유사한 결과를 얻기에 스스로도 이를 인지하긴 어렵다. 그래서 의도적 멈춤. 그 공백 사이에서 스스로 생각해볼 수 있는 기회는 점점 더 가치 있어진다.
그래서 책읽기가 필요하다. 능동적으로 읽어내려가야하고, 연상해야하기 때문이다. 이 관점이라면 좋은 책읽기와 좋지 못한 책읽기도 나눠진다. 속독이나 줄거리 파악을 위한 책읽기는 사실 AI에게 요약해줘 하는 것과 크게 다를바 없다. 읽다가도 문장을 음미하며 생각을 덧붙이는 읽기가 더 중요해진다.
그래서 글쓰기도 필요하다. 능동적으로 구상하고 써내려가고 다시 일고 수정해야하기 때문이다. 글을 쓰는데 AI 도움을 받는건 마냥 나쁘다고 할 수 없다. 자신의 생각을 먼저 제시하고 관련된 주변 지식을 탐색하고 사유를 확장하는데 쓴다면 좋은 사용일테고, AI 의견을 묻고 그 의견대로 따라가는 빈도가 늘어난다면 나쁜 사용일테다. 물론 글쓰기가 어려운것 처럼 AI를 이렇게 쓰는 것도 어려운 일이지만.
그래서 대화나 토론도 필요하다. 상대방이 말할 때, 의견을 듣고 잠시 기다리며 자신의 생각을 정리할 수 있는 기회를 가질 수 있기 때문이다. AI와의 채팅은 이런면에서 '대화'이기 쉽지 않다.
이런 기회는 가면갈수록 의도적으로 잘 디자인된 환경에서만 경험 가능하다. AI 시대에 이제 가정환경에 따른 격차는 다른 곳이 아닌 이 부분에서 나지 않을까.
대학이 (변화한다면) 여전히 존립할 수도 있겠다는 생각이 드는 이유 중 하나도 이런 점이다. 하나의 주제에 대해 수개월동안 멈추고 생각하며 대화할 수 있는 시간적 공간적 경험을 돈과 교환하는 것. 물론 이 경험이 당장 좋은 직업으로 연결되기는 쉽지 않겠지만 그렇지 않더라도 어차피 지금의 직업양성소로의 가치는 곧 무너져내릴테니 기존의 가치로 돌아가는게 대학의 살길이 아닐까.
우리는 종종 묻는다. 꿈이 뭐냐고, 비전이 뭐냐고. 하지만 정말로 중요한 것은 지금 이 순간을 주도적으로 살아가고 있는지가 아닐까.
꿈과 비전이 분명해야 현재의 삶도 주도적으로 살 수 있다고 말하기도 하지만 내 생각은 오히려 반대다. 비전은 시선을 멀리 띄워 보낸다. 아직 오지 않은 시간에 의미를 두는 동안, 현재는 준비의 과정으로 밀려난다. 반면 주도성은 시선을 거두어 지금으로 되돌린다. 무엇을 꿈꾸느냐보다, 지금 무엇을 하고 있는지 보게 한다. 비전은 사실 이러한 지금의 삶이 축적될 때 자연스럽게 따라오는 그 무언가가 아닐까. 마치 한나아렌트가 인간을 추상적인 규정이나 선안에서 시작하지 말고, 현상 세계에서 몸을 가지고 살아가는, 내가 구체적 관계를 맺고 나라는 존재에 영향을 끼치는 조건들이 무엇인지를 알아보는 것으로부터 출발하자고 한 것처럼 말이다.
사실 이는 빠르게 변하는 시대 속에서의 현실적 선택이기도 하다. 불과 몇 달 후를 예측하기 어려운 시대에서, 먼 미래의 목표를 선명하게 설정하고 그 방향으로 나아간다는 것은 점점 더 어려워진다. 그보다 지금의 나와 주위를 보는 것이 훨씬 쉬운 일인 것 같다.
하지만 무엇이 나의 선택이고 무엇이 떠밀려간 결과일까. 이를 분간하는 것은 말처럼 쉬운 일이 아니다. 지금처럼 수많은 미디어와 알고리즘, 주위 사람들의 참견, 비교 속에서는 더더욱. 애초에 완벽한 주체성이란 존재하지 않는 것일지도. 우리는 외부의 영향을 받지 않고 살아갈 수 없다. 우리의 욕망과 기준조차 언제나 타인의 말과 시선 속에서 형성된다.
하지만 주도적 삶이 제약을 제거하고 완전히 자유로운 상태에 이르려는 시도는 아니다. 오히려 제약을 인지하고, 인정하고, 때로는 받아들이는 일이다. 제약에 끌려가듯 반응하기 보다, 그 안에서 나름의 고민과 선택을 하는 것, 무엇을 감수하고 무엇을 선택할 것인지를 묻는 태도, 그것이 주도성에 가깝다. 혹 그 결과가 겉으로 다른 행동으로 드러나지 못했을지라도, 그 흔적은 어딘가에는 남을테다. 같은 지점에 놓인 화살표라 해도, 그 방향과 크기는 모두 다르듯이.
이런 면에서 타인과의 관계는 제약이면서 동시에 이 흔적이 살아남은 곳일지도.
"AI가 가져올 변화는 마태효과라기 보다는 양극화가 더 적절한 표현이다.
지금보다 훨씬 양극화가 심해질 것이라는 점에는 동의하나 현재의 격차가 앞으로의 격차를 유지시켜주진 못한다. 어떤 사람은 AI로 인해 이전의 불리함을 극복할 것이고 어떤 사람은 AI로 인해 오히려 퇴보할 것이다.
그렇다고 누가 더 뛰어난 사람이라기 보다는 장강명 작가가 먼저온 미래에서 얘기하듯이 새로운 환경에 누가 더 적응하기 쉬웠는지의 차이랄까.
비슷한 관점에서 요즘 계속 언급되는 주니어 vs 시니어 구도에서 시니어가 유리하다는 관점은 착각을 불러 일으킬 수 있다고 생각한다. 주니어 채용의 급격한 감소는 채용의 권한을 시니어가 쥐고 있다는 점, 채용을 하지 않는 행위가 해고하는 행위보다 훨씬 용이하다는 점 등이 맞물려 돌아가는 일시적 현상이 아닐까 싶다. 사람이 변화하는것보다는 AI 발전속도가 훨씬 빠르기에 AI+시니어보다는 AI+(일부)주니어가 더 큰 격차를 불러올 것 같다.
그래서 여기에 굳이 성경 말씀을 인용하자면 ""이와 같이 나중 된 자로서 먼저 되고 먼저 된 자로서 나중 되리라” 라는 마태복음 20:16이 더 적절할 듯 하다."
인생을 살아오며 가장 도움이 됐던 지식 중 하나는 후광 효과 (Halo Effect)란 인지편향을 인지하는 것이었다. 사실 별건 아닌데 한 면이 대단하다고, 다른 면도 대단할 것이라 생각하면 안되고, 지금 대단하다고 앞으로도 계속 대단할거라 속단하면 안된다라는 너무 당연한 얘기다. 반대로 좋지 않아 보이는 부분이 있다고 해서 모든 부분이 좋지 않을거란 인식도 경계해야 한다(Horn effect).
하지만 우리 대부분은 말투가 어눌하면 내용을 듣기도 전에 별로라고 생각한다거나 교수나 판사면 다른 분야에 대해서도 맞는 말을 할 것이라 생각한다. 그렇기에 우리는 한 사람에 대해 성취는 존경하되, 맹신하거나 우상화하지 않아야 한다.
이게 가장 심하게 적용되는 대상이 정치나 종교 지도자다. 이를 조금만 분리해서 생각할 수 있다면 교회나 정치권에서 일어나는 각종 비리나, 세습, 성추행 문제로 부터 자신을, 그리고 우리를 조금은 더 지킬 수 있을테다. 그리고 존경하던 인물의 추악한 면을 발견했을 때의 실망감으로부터도 조금은 빨리 벗어날 수 있다.
수십억을 요구하는 본인의 행동에 조금의 수치심도 느끼지 않는, 억울함만 가득한 유명 개신교 목사의 발언을 보며 다른 크리스챤들이 대신 너무 많은 수치심과 자괴감을 느끼지 않기를... 애초이 그 분이 설교나 책을 잘 써서 유명했던거지 인성이 남달라서 유명했던건 아니지 않았던가.
"LLM을 자아를 가진 존재처럼 대하지 말고 다양한 관점/상황을 시뮬레이션 할 수 있는 기계로 취급하라는 안드레이카파시의 조언.
""xyz에 대해 어떻게 생각하세요?"" 가 아니라 ""xyz를 탐구하기에 적합한 사람들은 누구일까요? 그들은 무엇을 말할까요?"" 라고 물어보자고.
그의 본문과 댓글을 통해 해석해보자면 자아(?)라는 인식 자체가 추가 학습 과정에서 의도적으로 덧씌워지고 만들어진 층위기에, 우리가 쓰는 '당신'이라는 표현은 이전과정에서 만들어진 성격 임베딩 벡터를 기반으로 시뮬레이션하도록 (제한) 시켜 다양한 입장을 탐색할 때 오히려 방해가 될 수 있다는 얘기인 듯 하다.
이를 생각하다보니 이러한 이해가 AI를 잘 쓰기위한 방법론적 측면도 있겠지만 AI를 또다른 존재로 인지해서 발생하고 있는 다양한 문제들을 해결할 수 있는 시작점이 될 수도 있겠다는 생각이 들었다. 아이들에게 가르쳐줘야할 지식이자 관점.
""당신"" 시뮬레이션을 설계하는 데 분명히 노력이 투입되고 있습니다. 검증 가능한 문제에서 모든 보상을 받거나, 사용자/심사 LLM으로부터 모든 추천을 받거나, SFT의 응답을 모방하는 그런 성격이죠. 그리고 그로부터 복합적인 성격이 자연스럽게 형성됩니다. 제 요점은 그곳의 ""당신""이 근본적으로 토큰 시뮬레이션 엔진 위에 의도적으로 덧씌워지고 설계된 층위라는 점입니다. 이는 평균적인 사람이 AI와 대화할 때 공감할 수 있는 방식으로 시간이 지나며 자연스럽게 형성된 마음과는 다릅니다.
There is definitely work going into engineering the ""you"" simulation - the personality that gets all the rewards in verifiable problems, or all the upvotes from users/judge LLMs, or mimics the responses of SFT, and there is an emergent composite personality from that. My point is more that the ""you"" there is deliberately bolted on, engineered and layered on what is fundamentally a token simulation engine, not a mind that is somehow emergent and over time constructed in a relatable way to an average person talking to an AI.
The story is a bit more simple in verifiable domains, but I think more interesting/complicated in the non-verifiable ones, such as for example asking about opinions on topics xyz. It's less clear how to think about the ""you"" that you're talking to or where it comes from and what credence you should give it."
어느 수준 이상의 지능에 도달하면 간단한 작업을 더 간단히 힘 빼고 쉽게 할 줄도 알게 될 것이다. 리즈닝토큰을 적게 소비하는걸 넘어 MoE에서 한발 더 나아가 최근 언급되는 dynamic depth나 early exit 같이 효율성 자체가 목적함수로 포함되어 학습될 수도 있고, 그것도 아니고 그냥 지능이 상승하며 스스로 효율성을 체득하는 창발이 일어날 수도 있을테다.
이게 적절한 ops발달과 함께 간다면 지금 우리가 클로드코드에서 하는 서브에이전트 만들고 다듬는 노력들 또한, 몇 달 후에는 쓸모 없어지는 또다른 bitter lesson이 될 수 있다. 구글 antigravity가 이러한 방향을 염두에 두고 있는거 같기도 하고. haiku, sonnet, opus, pro 같은 모델명은 사라지고 그냥 claude모델, gpt모델, gemini모델 같이 브랜드명만 남게될지도. 오토라우팅으로 겉으로만 하나로 보이는게 아니라 실제로 하나의 모델만 존재하는.."
뒤늦게 잠깐 써본 구글 antigravity 후기
기존 에디터에 Agent manager와 브라우저가 결합된 agent 중심 IDE.
그동안 우리는 클로드코드를 조금 더 잘 쓰기 위해 제각기 한땀 한땀 설정과 테스트를 해왔음. 어떤 설정과 프로세스로 쓰느냐가 퍼포먼스를 결정하는 중요한 요인 중 하나로 여겨짐. 하지만 이러한 삽질의 결과, agent에게 기대하는 작업과 이를 수행하는 플로우에 대해서 어느 정도 합의에 이르게 됐다고 생각함. 다들 이를 암묵적으로 생각은 하고 있었을텐데 이를 구글이 추가적인 설정없이 기본으로 네이티브하게 보기 좋은 UI로 제공한다는게 가장 큰 포인트인듯
물론 클로드코드만큼의 자율성은 없지만 특정 유저에게는 이게 오히려 장점이 될 수 있고, 이제 첫 등장이기에 파워유저를 위한 세부 설정등은 추후 추가로 제공될 수도 있을거라 생각
Knowledge, artifact 같은 기능 들은 아직 제대로 못써봤는데 어떻게 동작할지 궁금.
잠재적 결론:
참고로 gemini pro3 high 한 5~6번 돌리니 금방 rate limit이 걸리고 그나마 돌던 것도 속도 엄청 느려짐 찾아보니 지금은 public preview라 할당량은 5시간마다 갱신. 하지만 할당량 충분히 제공해서 극소수 파워유저가 아니면 rate limit 안걸릴거라고 하는 언급과는 달리 생각보다는 작게 제공되는듯. 물론 무료 유저라 그럴지도..
OpenClaw가 보여주는 미래는 기술의 민주화가 아니라 규제 불가능한 에이전트 복잡계의 시작이다. 속도와 FOMO의 시대에 비가역적 오염이 진행되고 있다.
지금과 같은 시대에 AI에 관한 소식을 지속적으로 접하고 자신의 일상과 업무를 바꾸고자 노력하는건 분명 개인 수준에서는 분명한 우월전략이다.
하지만 FOMO를 부추겨 강의를 팔아먹는걸 넘어 당신이 AI를 적극적으로 활용하는게 우리 사회, 나아가서는 인류에 도움이 되는 '좋은' 일이라 떠드는 자들은 최소 나이브, 대부분 위선이며, 최대 사기다.
멈추고 생각하는 시간이 귀중해지는 시대다.
쇼츠와 끝없는 피드. 별로 생각치 않고 물어도 알아서 의도까지 파악해서 답해주는 AI가 존재하는 시대는 생각하지 않음이 자연스럽다. 생각치 않아도 당장은 유사한 결과를 얻기에 스스로도 이를 인지하긴 어렵다. 그래서 의도적 멈춤. 그 공백 사이에서 스스로 생각해볼 수 있는 기회는 점점 더 가치 있어진다.
그래서 책읽기가 필요하다. 능동적으로 읽어내려가야하고, 연상해야하기 때문이다. 이 관점이라면 좋은 책읽기와 좋지 못한 책읽기도 나눠진다. 속독이나 줄거리 파악을 위한 책읽기는 사실 AI에게 요약해줘 하는 것과 크게 다를바 없다. 읽다가도 문장을 음미하며 생각을 덧붙이는 읽기가 더 중요해진다.
그래서 글쓰기도 필요하다. 능동적으로 구상하고 써내려가고 다시 일고 수정해야하기 때문이다. 글을 쓰는데 AI 도움을 받는건 마냥 나쁘다고 할 수 없다. 자신의 생각을 먼저 제시하고 관련된 주변 지식을 탐색하고 사유를 확장하는데 쓴다면 좋은 사용일테고, AI 의견을 묻고 그 의견대로 따라가는 빈도가 늘어난다면 나쁜 사용일테다. 물론 글쓰기가 어려운것 처럼 AI를 이렇게 쓰는 것도 어려운 일이지만.
그래서 대화나 토론도 필요하다. 상대방이 말할 때, 의견을 듣고 잠시 기다리며 자신의 생각을 정리할 수 있는 기회를 가질 수 있기 때문이다. AI와의 채팅은 이런면에서 '대화'이기 쉽지 않다.
이런 기회는 가면갈수록 의도적으로 잘 디자인된 환경에서만 경험 가능하다. AI 시대에 이제 가정환경에 따른 격차는 다른 곳이 아닌 이 부분에서 나지 않을까.
대학이 (변화한다면) 여전히 존립할 수도 있겠다는 생각이 드는 이유 중 하나도 이런 점이다. 하나의 주제에 대해 수개월동안 멈추고 생각하며 대화할 수 있는 시간적 공간적 경험을 돈과 교환하는 것. 물론 이 경험이 당장 좋은 직업으로 연결되기는 쉽지 않겠지만 그렇지 않더라도 어차피 지금의 직업양성소로의 가치는 곧 무너져내릴테니 기존의 가치로 돌아가는게 대학의 살길이 아닐까.
우리는 종종 묻는다. 꿈이 뭐냐고, 비전이 뭐냐고. 하지만 정말로 중요한 것은 지금 이 순간을 주도적으로 살아가고 있는지가 아닐까.
꿈과 비전이 분명해야 현재의 삶도 주도적으로 살 수 있다고 말하기도 하지만 내 생각은 오히려 반대다. 비전은 시선을 멀리 띄워 보낸다. 아직 오지 않은 시간에 의미를 두는 동안, 현재는 준비의 과정으로 밀려난다. 반면 주도성은 시선을 거두어 지금으로 되돌린다. 무엇을 꿈꾸느냐보다, 지금 무엇을 하고 있는지 보게 한다. 비전은 사실 이러한 지금의 삶이 축적될 때 자연스럽게 따라오는 그 무언가가 아닐까. 마치 한나아렌트가 인간을 추상적인 규정이나 선안에서 시작하지 말고, 현상 세계에서 몸을 가지고 살아가는, 내가 구체적 관계를 맺고 나라는 존재에 영향을 끼치는 조건들이 무엇인지를 알아보는 것으로부터 출발하자고 한 것처럼 말이다.
사실 이는 빠르게 변하는 시대 속에서의 현실적 선택이기도 하다. 불과 몇 달 후를 예측하기 어려운 시대에서, 먼 미래의 목표를 선명하게 설정하고 그 방향으로 나아간다는 것은 점점 더 어려워진다. 그보다 지금의 나와 주위를 보는 것이 훨씬 쉬운 일인 것 같다.
하지만 무엇이 나의 선택이고 무엇이 떠밀려간 결과일까. 이를 분간하는 것은 말처럼 쉬운 일이 아니다. 지금처럼 수많은 미디어와 알고리즘, 주위 사람들의 참견, 비교 속에서는 더더욱. 애초에 완벽한 주체성이란 존재하지 않는 것일지도. 우리는 외부의 영향을 받지 않고 살아갈 수 없다. 우리의 욕망과 기준조차 언제나 타인의 말과 시선 속에서 형성된다.
하지만 주도적 삶이 제약을 제거하고 완전히 자유로운 상태에 이르려는 시도는 아니다. 오히려 제약을 인지하고, 인정하고, 때로는 받아들이는 일이다. 제약에 끌려가듯 반응하기 보다, 그 안에서 나름의 고민과 선택을 하는 것, 무엇을 감수하고 무엇을 선택할 것인지를 묻는 태도, 그것이 주도성에 가깝다. 혹 그 결과가 겉으로 다른 행동으로 드러나지 못했을지라도, 그 흔적은 어딘가에는 남을테다. 같은 지점에 놓인 화살표라 해도, 그 방향과 크기는 모두 다르듯이.
이런 면에서 타인과의 관계는 제약이면서 동시에 이 흔적이 살아남은 곳일지도.
"AI가 가져올 변화는 마태효과라기 보다는 양극화가 더 적절한 표현이다.
지금보다 훨씬 양극화가 심해질 것이라는 점에는 동의하나 현재의 격차가 앞으로의 격차를 유지시켜주진 못한다. 어떤 사람은 AI로 인해 이전의 불리함을 극복할 것이고 어떤 사람은 AI로 인해 오히려 퇴보할 것이다.
그렇다고 누가 더 뛰어난 사람이라기 보다는 장강명 작가가 먼저온 미래에서 얘기하듯이 새로운 환경에 누가 더 적응하기 쉬웠는지의 차이랄까.
비슷한 관점에서 요즘 계속 언급되는 주니어 vs 시니어 구도에서 시니어가 유리하다는 관점은 착각을 불러 일으킬 수 있다고 생각한다. 주니어 채용의 급격한 감소는 채용의 권한을 시니어가 쥐고 있다는 점, 채용을 하지 않는 행위가 해고하는 행위보다 훨씬 용이하다는 점 등이 맞물려 돌아가는 일시적 현상이 아닐까 싶다. 사람이 변화하는것보다는 AI 발전속도가 훨씬 빠르기에 AI+시니어보다는 AI+(일부)주니어가 더 큰 격차를 불러올 것 같다.
그래서 여기에 굳이 성경 말씀을 인용하자면 ""이와 같이 나중 된 자로서 먼저 되고 먼저 된 자로서 나중 되리라” 라는 마태복음 20:16이 더 적절할 듯 하다."
인생을 살아오며 가장 도움이 됐던 지식 중 하나는 후광 효과 (Halo Effect)란 인지편향을 인지하는 것이었다. 사실 별건 아닌데 한 면이 대단하다고, 다른 면도 대단할 것이라 생각하면 안되고, 지금 대단하다고 앞으로도 계속 대단할거라 속단하면 안된다라는 너무 당연한 얘기다. 반대로 좋지 않아 보이는 부분이 있다고 해서 모든 부분이 좋지 않을거란 인식도 경계해야 한다(Horn effect).
하지만 우리 대부분은 말투가 어눌하면 내용을 듣기도 전에 별로라고 생각한다거나 교수나 판사면 다른 분야에 대해서도 맞는 말을 할 것이라 생각한다. 그렇기에 우리는 한 사람에 대해 성취는 존경하되, 맹신하거나 우상화하지 않아야 한다.
이게 가장 심하게 적용되는 대상이 정치나 종교 지도자다. 이를 조금만 분리해서 생각할 수 있다면 교회나 정치권에서 일어나는 각종 비리나, 세습, 성추행 문제로 부터 자신을, 그리고 우리를 조금은 더 지킬 수 있을테다. 그리고 존경하던 인물의 추악한 면을 발견했을 때의 실망감으로부터도 조금은 빨리 벗어날 수 있다.
수십억을 요구하는 본인의 행동에 조금의 수치심도 느끼지 않는, 억울함만 가득한 유명 개신교 목사의 발언을 보며 다른 크리스챤들이 대신 너무 많은 수치심과 자괴감을 느끼지 않기를... 애초이 그 분이 설교나 책을 잘 써서 유명했던거지 인성이 남달라서 유명했던건 아니지 않았던가.
"LLM을 자아를 가진 존재처럼 대하지 말고 다양한 관점/상황을 시뮬레이션 할 수 있는 기계로 취급하라는 안드레이카파시의 조언.
""xyz에 대해 어떻게 생각하세요?"" 가 아니라 ""xyz를 탐구하기에 적합한 사람들은 누구일까요? 그들은 무엇을 말할까요?"" 라고 물어보자고.
그의 본문과 댓글을 통해 해석해보자면 자아(?)라는 인식 자체가 추가 학습 과정에서 의도적으로 덧씌워지고 만들어진 층위기에, 우리가 쓰는 '당신'이라는 표현은 이전과정에서 만들어진 성격 임베딩 벡터를 기반으로 시뮬레이션하도록 (제한) 시켜 다양한 입장을 탐색할 때 오히려 방해가 될 수 있다는 얘기인 듯 하다.
이를 생각하다보니 이러한 이해가 AI를 잘 쓰기위한 방법론적 측면도 있겠지만 AI를 또다른 존재로 인지해서 발생하고 있는 다양한 문제들을 해결할 수 있는 시작점이 될 수도 있겠다는 생각이 들었다. 아이들에게 가르쳐줘야할 지식이자 관점.
""당신"" 시뮬레이션을 설계하는 데 분명히 노력이 투입되고 있습니다. 검증 가능한 문제에서 모든 보상을 받거나, 사용자/심사 LLM으로부터 모든 추천을 받거나, SFT의 응답을 모방하는 그런 성격이죠. 그리고 그로부터 복합적인 성격이 자연스럽게 형성됩니다. 제 요점은 그곳의 ""당신""이 근본적으로 토큰 시뮬레이션 엔진 위에 의도적으로 덧씌워지고 설계된 층위라는 점입니다. 이는 평균적인 사람이 AI와 대화할 때 공감할 수 있는 방식으로 시간이 지나며 자연스럽게 형성된 마음과는 다릅니다.
There is definitely work going into engineering the ""you"" simulation - the personality that gets all the rewards in verifiable problems, or all the upvotes from users/judge LLMs, or mimics the responses of SFT, and there is an emergent composite personality from that. My point is more that the ""you"" there is deliberately bolted on, engineered and layered on what is fundamentally a token simulation engine, not a mind that is somehow emergent and over time constructed in a relatable way to an average person talking to an AI.
The story is a bit more simple in verifiable domains, but I think more interesting/complicated in the non-verifiable ones, such as for example asking about opinions on topics xyz. It's less clear how to think about the ""you"" that you're talking to or where it comes from and what credence you should give it."
어느 수준 이상의 지능에 도달하면 간단한 작업을 더 간단히 힘 빼고 쉽게 할 줄도 알게 될 것이다. 리즈닝토큰을 적게 소비하는걸 넘어 MoE에서 한발 더 나아가 최근 언급되는 dynamic depth나 early exit 같이 효율성 자체가 목적함수로 포함되어 학습될 수도 있고, 그것도 아니고 그냥 지능이 상승하며 스스로 효율성을 체득하는 창발이 일어날 수도 있을테다.
이게 적절한 ops발달과 함께 간다면 지금 우리가 클로드코드에서 하는 서브에이전트 만들고 다듬는 노력들 또한, 몇 달 후에는 쓸모 없어지는 또다른 bitter lesson이 될 수 있다. 구글 antigravity가 이러한 방향을 염두에 두고 있는거 같기도 하고. haiku, sonnet, opus, pro 같은 모델명은 사라지고 그냥 claude모델, gpt모델, gemini모델 같이 브랜드명만 남게될지도. 오토라우팅으로 겉으로만 하나로 보이는게 아니라 실제로 하나의 모델만 존재하는.."
뒤늦게 잠깐 써본 구글 antigravity 후기
기존 에디터에 Agent manager와 브라우저가 결합된 agent 중심 IDE.
그동안 우리는 클로드코드를 조금 더 잘 쓰기 위해 제각기 한땀 한땀 설정과 테스트를 해왔음. 어떤 설정과 프로세스로 쓰느냐가 퍼포먼스를 결정하는 중요한 요인 중 하나로 여겨짐. 하지만 이러한 삽질의 결과, agent에게 기대하는 작업과 이를 수행하는 플로우에 대해서 어느 정도 합의에 이르게 됐다고 생각함. 다들 이를 암묵적으로 생각은 하고 있었을텐데 이를 구글이 추가적인 설정없이 기본으로 네이티브하게 보기 좋은 UI로 제공한다는게 가장 큰 포인트인듯
물론 클로드코드만큼의 자율성은 없지만 특정 유저에게는 이게 오히려 장점이 될 수 있고, 이제 첫 등장이기에 파워유저를 위한 세부 설정등은 추후 추가로 제공될 수도 있을거라 생각
Knowledge, artifact 같은 기능 들은 아직 제대로 못써봤는데 어떻게 동작할지 궁금.
잠재적 결론:
참고로 gemini pro3 high 한 5~6번 돌리니 금방 rate limit이 걸리고 그나마 돌던 것도 속도 엄청 느려짐 찾아보니 지금은 public preview라 할당량은 5시간마다 갱신. 하지만 할당량 충분히 제공해서 극소수 파워유저가 아니면 rate limit 안걸릴거라고 하는 언급과는 달리 생각보다는 작게 제공되는듯. 물론 무료 유저라 그럴지도..
