angil's Dots
Between tech and our society.
지금과 같은 시대에 AI에 관한 소식을 지속적으로 접하고 자신의 일상과 업무를 바꾸고자 노력하는건 분명 개인 수준에서는 분명한 우월전략이다.
하지만 FOMO를 부추겨 강의를 팔아먹는걸 넘어 당신이 AI를 적극적으로 활용하는게 우리 사회, 나아가서는 인류에 도움이 되는 '좋은' 일이라 떠드는 자들은 최소 나이브, 대부분 위선이며, 최대 사기다.
멈추고 생각하는 시간이 귀중해지는 시대다.
쇼츠와 끝없는 피드. 별로 생각치 않고 물어도 알아서 의도까지 파악해서 답해주는 AI가 존재하는 시대는 생각하지 않음이 자연스럽다. 생각치 않아도 당장은 유사한 결과를 얻기에 스스로도 이를 인지하긴 어렵다. 그래서 의도적 멈춤. 그 공백 사이에서 스스로 생각해볼 수 있는 기회는 점점 더 가치 있어진다.
그래서 책읽기가 필요하다. 능동적으로 읽어내려가야하고, 연상해야하기 때문이다. 이 관점이라면 좋은 책읽기와 좋지 못한 책읽기도 나눠진다. 속독이나 줄거리 파악을 위한 책읽기는 사실 AI에게 요약해줘 하는 것과 크게 다를바 없다. 읽다가도 문장을 음미하며 생각을 덧붙이는 읽기가 더 중요해진다.
그래서 글쓰기도 필요하다. 능동적으로 구상하고 써내려가고 다시 일고 수정해야하기 때문이다. 글을 쓰는데 AI 도움을 받는건 마냥 나쁘다고 할 수 없다. 자신의 생각을 먼저 제시하고 관련된 주변 지식을 탐색하고 사유를 확장하는데 쓴다면 좋은 사용일테고, AI 의견을 묻고 그 의견대로 따라가는 빈도가 늘어난다면 나쁜 사용일테다. 물론 글쓰기가 어려운것 처럼 AI를 이렇게 쓰는 것도 어려운 일이지만.
그래서 대화나 토론도 필요하다. 상대방이 말할 때, 의견을 듣고 잠시 기다리며 자신의 생각을 정리할 수 있는 기회를 가질 수 있기 때문이다. AI와의 채팅은 이런면에서 '대화'이기 쉽지 않다.
이런 기회는 가면갈수록 의도적으로 잘 디자인된 환경에서만 경험 가능하다. AI 시대에 이제 가정환경에 따른 격차는 다른 곳이 아닌 이 부분에서 나지 않을까.
대학이 (변화한다면) 여전히 존립할 수도 있겠다는 생각이 드는 이유 중 하나도 이런 점이다. 하나의 주제에 대해 수개월동안 멈추고 생각하며 대화할 수 있는 시간적 공간적 경험을 돈과 교환하는 것. 물론 이 경험이 당장 좋은 직업으로 연결되기는 쉽지 않겠지만 그렇지 않더라도 어차피 지금의 직업양성소로의 가치는 곧 무너져내릴테니 기존의 가치로 돌아가는게 대학의 살길이 아닐까.
"AI가 가져올 변화는 마태효과라기 보다는 양극화가 더 적절한 표현이다.
지금보다 훨씬 양극화가 심해질 것이라는 점에는 동의하나 현재의 격차가 앞으로의 격차를 유지시켜주진 못한다. 어떤 사람은 AI로 인해 이전의 불리함을 극복할 것이고 어떤 사람은 AI로 인해 오히려 퇴보할 것이다.
그렇다고 누가 더 뛰어난 사람이라기 보다는 장강명 작가가 먼저온 미래에서 얘기하듯이 새로운 환경에 누가 더 적응하기 쉬웠는지의 차이랄까.
비슷한 관점에서 요즘 계속 언급되는 주니어 vs 시니어 구도에서 시니어가 유리하다는 관점은 착각을 불러 일으킬 수 있다고 생각한다. 주니어 채용의 급격한 감소는 채용의 권한을 시니어가 쥐고 있다는 점, 채용을 하지 않는 행위가 해고하는 행위보다 훨씬 용이하다는 점 등이 맞물려 돌아가는 일시적 현상이 아닐까 싶다. 사람이 변화하는것보다는 AI 발전속도가 훨씬 빠르기에 AI+시니어보다는 AI+(일부)주니어가 더 큰 격차를 불러올 것 같다.
그래서 여기에 굳이 성경 말씀을 인용하자면 ""이와 같이 나중 된 자로서 먼저 되고 먼저 된 자로서 나중 되리라” 라는 마태복음 20:16이 더 적절할 듯 하다."
"LLM을 자아를 가진 존재처럼 대하지 말고 다양한 관점/상황을 시뮬레이션 할 수 있는 기계로 취급하라는 안드레이카파시의 조언.
""xyz에 대해 어떻게 생각하세요?"" 가 아니라 ""xyz를 탐구하기에 적합한 사람들은 누구일까요? 그들은 무엇을 말할까요?"" 라고 물어보자고.
그의 본문과 댓글을 통해 해석해보자면 자아(?)라는 인식 자체가 추가 학습 과정에서 의도적으로 덧씌워지고 만들어진 층위기에, 우리가 쓰는 '당신'이라는 표현은 이전과정에서 만들어진 성격 임베딩 벡터를 기반으로 시뮬레이션하도록 (제한) 시켜 다양한 입장을 탐색할 때 오히려 방해가 될 수 있다는 얘기인 듯 하다.
이를 생각하다보니 이러한 이해가 AI를 잘 쓰기위한 방법론적 측면도 있겠지만 AI를 또다른 존재로 인지해서 발생하고 있는 다양한 문제들을 해결할 수 있는 시작점이 될 수도 있겠다는 생각이 들었다. 아이들에게 가르쳐줘야할 지식이자 관점.
""당신"" 시뮬레이션을 설계하는 데 분명히 노력이 투입되고 있습니다. 검증 가능한 문제에서 모든 보상을 받거나, 사용자/심사 LLM으로부터 모든 추천을 받거나, SFT의 응답을 모방하는 그런 성격이죠. 그리고 그로부터 복합적인 성격이 자연스럽게 형성됩니다. 제 요점은 그곳의 ""당신""이 근본적으로 토큰 시뮬레이션 엔진 위에 의도적으로 덧씌워지고 설계된 층위라는 점입니다. 이는 평균적인 사람이 AI와 대화할 때 공감할 수 있는 방식으로 시간이 지나며 자연스럽게 형성된 마음과는 다릅니다.
There is definitely work going into engineering the ""you"" simulation - the personality that gets all the rewards in verifiable problems, or all the upvotes from users/judge LLMs, or mimics the responses of SFT, and there is an emergent composite personality from that. My point is more that the ""you"" there is deliberately bolted on, engineered and layered on what is fundamentally a token simulation engine, not a mind that is somehow emergent and over time constructed in a relatable way to an average person talking to an AI.
The story is a bit more simple in verifiable domains, but I think more interesting/complicated in the non-verifiable ones, such as for example asking about opinions on topics xyz. It's less clear how to think about the ""you"" that you're talking to or where it comes from and what credence you should give it."
어느 수준 이상의 지능에 도달하면 간단한 작업을 더 간단히 힘 빼고 쉽게 할 줄도 알게 될 것이다. 리즈닝토큰을 적게 소비하는걸 넘어 MoE에서 한발 더 나아가 최근 언급되는 dynamic depth나 early exit 같이 효율성 자체가 목적함수로 포함되어 학습될 수도 있고, 그것도 아니고 그냥 지능이 상승하며 스스로 효율성을 체득하는 창발이 일어날 수도 있을테다.
이게 적절한 ops발달과 함께 간다면 지금 우리가 클로드코드에서 하는 서브에이전트 만들고 다듬는 노력들 또한, 몇 달 후에는 쓸모 없어지는 또다른 bitter lesson이 될 수 있다. 구글 antigravity가 이러한 방향을 염두에 두고 있는거 같기도 하고. haiku, sonnet, opus, pro 같은 모델명은 사라지고 그냥 claude모델, gpt모델, gemini모델 같이 브랜드명만 남게될지도. 오토라우팅으로 겉으로만 하나로 보이는게 아니라 실제로 하나의 모델만 존재하는.."
뒤늦게 잠깐 써본 구글 antigravity 후기
기존 에디터에 Agent manager와 브라우저가 결합된 agent 중심 IDE.
그동안 우리는 클로드코드를 조금 더 잘 쓰기 위해 제각기 한땀 한땀 설정과 테스트를 해왔음. 어떤 설정과 프로세스로 쓰느냐가 퍼포먼스를 결정하는 중요한 요인 중 하나로 여겨짐. 하지만 이러한 삽질의 결과, agent에게 기대하는 작업과 이를 수행하는 플로우에 대해서 어느 정도 합의에 이르게 됐다고 생각함. 다들 이를 암묵적으로 생각은 하고 있었을텐데 이를 구글이 추가적인 설정없이 기본으로 네이티브하게 보기 좋은 UI로 제공한다는게 가장 큰 포인트인듯
물론 클로드코드만큼의 자율성은 없지만 특정 유저에게는 이게 오히려 장점이 될 수 있고, 이제 첫 등장이기에 파워유저를 위한 세부 설정등은 추후 추가로 제공될 수도 있을거라 생각
Knowledge, artifact 같은 기능 들은 아직 제대로 못써봤는데 어떻게 동작할지 궁금.
잠재적 결론:
참고로 gemini pro3 high 한 5~6번 돌리니 금방 rate limit이 걸리고 그나마 돌던 것도 속도 엄청 느려짐 찾아보니 지금은 public preview라 할당량은 5시간마다 갱신. 하지만 할당량 충분히 제공해서 극소수 파워유저가 아니면 rate limit 안걸릴거라고 하는 언급과는 달리 생각보다는 작게 제공되는듯. 물론 무료 유저라 그럴지도..
관련한 정보를 최대한 많이 수집하고 싶을때는 클로드 리서치 기능이 압도적으로 좋군요.
그동안 리서치 기능을 궁금증 해소용 정도로만 쓰다가 3사의 리서치기능을 업무용으로 본격적으로 써본 결과,
X 도메인에서 Y1-3이라는 조건 3개를 일부 또는 모두 충족하는 데이터셋을 최대한 많이 수집하라는 명령에 대해
OpenAI chatgpt 5 pro 리서치 모드
구글의 gemini 2.5 flash 리서치 모드 (2.5 pro가 아니라 정상적 비교는 아님)
클로드 sonnet 4.5 리서치 모드
국가 AI 전략에서 목적별 분산 사용은 중장기는 물론 단기 전략으로도 부적절하다. 특히 공무원 사회에서는 쓰지 않는 것이 디폴트이므로, 거대모델 집중과 포지티브 가이드라인이 먼저다.
사이드임팩트 리뷰에서 AI 남용 사례가 많았지만, 외면받던 사회적 문제를 풀려는 다양한 시도도 만났다. AI 시대에 가장 필요한 것은 풀고 싶은 문제가 있는지 그 자체다.
OpenClaw가 보여주는 미래는 기술의 민주화가 아니라 규제 불가능한 에이전트 복잡계의 시작이다. 속도와 FOMO의 시대에 비가역적 오염이 진행되고 있다.
지금과 같은 시대에 AI에 관한 소식을 지속적으로 접하고 자신의 일상과 업무를 바꾸고자 노력하는건 분명 개인 수준에서는 분명한 우월전략이다.
하지만 FOMO를 부추겨 강의를 팔아먹는걸 넘어 당신이 AI를 적극적으로 활용하는게 우리 사회, 나아가서는 인류에 도움이 되는 '좋은' 일이라 떠드는 자들은 최소 나이브, 대부분 위선이며, 최대 사기다.
멈추고 생각하는 시간이 귀중해지는 시대다.
쇼츠와 끝없는 피드. 별로 생각치 않고 물어도 알아서 의도까지 파악해서 답해주는 AI가 존재하는 시대는 생각하지 않음이 자연스럽다. 생각치 않아도 당장은 유사한 결과를 얻기에 스스로도 이를 인지하긴 어렵다. 그래서 의도적 멈춤. 그 공백 사이에서 스스로 생각해볼 수 있는 기회는 점점 더 가치 있어진다.
그래서 책읽기가 필요하다. 능동적으로 읽어내려가야하고, 연상해야하기 때문이다. 이 관점이라면 좋은 책읽기와 좋지 못한 책읽기도 나눠진다. 속독이나 줄거리 파악을 위한 책읽기는 사실 AI에게 요약해줘 하는 것과 크게 다를바 없다. 읽다가도 문장을 음미하며 생각을 덧붙이는 읽기가 더 중요해진다.
그래서 글쓰기도 필요하다. 능동적으로 구상하고 써내려가고 다시 일고 수정해야하기 때문이다. 글을 쓰는데 AI 도움을 받는건 마냥 나쁘다고 할 수 없다. 자신의 생각을 먼저 제시하고 관련된 주변 지식을 탐색하고 사유를 확장하는데 쓴다면 좋은 사용일테고, AI 의견을 묻고 그 의견대로 따라가는 빈도가 늘어난다면 나쁜 사용일테다. 물론 글쓰기가 어려운것 처럼 AI를 이렇게 쓰는 것도 어려운 일이지만.
그래서 대화나 토론도 필요하다. 상대방이 말할 때, 의견을 듣고 잠시 기다리며 자신의 생각을 정리할 수 있는 기회를 가질 수 있기 때문이다. AI와의 채팅은 이런면에서 '대화'이기 쉽지 않다.
이런 기회는 가면갈수록 의도적으로 잘 디자인된 환경에서만 경험 가능하다. AI 시대에 이제 가정환경에 따른 격차는 다른 곳이 아닌 이 부분에서 나지 않을까.
대학이 (변화한다면) 여전히 존립할 수도 있겠다는 생각이 드는 이유 중 하나도 이런 점이다. 하나의 주제에 대해 수개월동안 멈추고 생각하며 대화할 수 있는 시간적 공간적 경험을 돈과 교환하는 것. 물론 이 경험이 당장 좋은 직업으로 연결되기는 쉽지 않겠지만 그렇지 않더라도 어차피 지금의 직업양성소로의 가치는 곧 무너져내릴테니 기존의 가치로 돌아가는게 대학의 살길이 아닐까.
"AI가 가져올 변화는 마태효과라기 보다는 양극화가 더 적절한 표현이다.
지금보다 훨씬 양극화가 심해질 것이라는 점에는 동의하나 현재의 격차가 앞으로의 격차를 유지시켜주진 못한다. 어떤 사람은 AI로 인해 이전의 불리함을 극복할 것이고 어떤 사람은 AI로 인해 오히려 퇴보할 것이다.
그렇다고 누가 더 뛰어난 사람이라기 보다는 장강명 작가가 먼저온 미래에서 얘기하듯이 새로운 환경에 누가 더 적응하기 쉬웠는지의 차이랄까.
비슷한 관점에서 요즘 계속 언급되는 주니어 vs 시니어 구도에서 시니어가 유리하다는 관점은 착각을 불러 일으킬 수 있다고 생각한다. 주니어 채용의 급격한 감소는 채용의 권한을 시니어가 쥐고 있다는 점, 채용을 하지 않는 행위가 해고하는 행위보다 훨씬 용이하다는 점 등이 맞물려 돌아가는 일시적 현상이 아닐까 싶다. 사람이 변화하는것보다는 AI 발전속도가 훨씬 빠르기에 AI+시니어보다는 AI+(일부)주니어가 더 큰 격차를 불러올 것 같다.
그래서 여기에 굳이 성경 말씀을 인용하자면 ""이와 같이 나중 된 자로서 먼저 되고 먼저 된 자로서 나중 되리라” 라는 마태복음 20:16이 더 적절할 듯 하다."
"LLM을 자아를 가진 존재처럼 대하지 말고 다양한 관점/상황을 시뮬레이션 할 수 있는 기계로 취급하라는 안드레이카파시의 조언.
""xyz에 대해 어떻게 생각하세요?"" 가 아니라 ""xyz를 탐구하기에 적합한 사람들은 누구일까요? 그들은 무엇을 말할까요?"" 라고 물어보자고.
그의 본문과 댓글을 통해 해석해보자면 자아(?)라는 인식 자체가 추가 학습 과정에서 의도적으로 덧씌워지고 만들어진 층위기에, 우리가 쓰는 '당신'이라는 표현은 이전과정에서 만들어진 성격 임베딩 벡터를 기반으로 시뮬레이션하도록 (제한) 시켜 다양한 입장을 탐색할 때 오히려 방해가 될 수 있다는 얘기인 듯 하다.
이를 생각하다보니 이러한 이해가 AI를 잘 쓰기위한 방법론적 측면도 있겠지만 AI를 또다른 존재로 인지해서 발생하고 있는 다양한 문제들을 해결할 수 있는 시작점이 될 수도 있겠다는 생각이 들었다. 아이들에게 가르쳐줘야할 지식이자 관점.
""당신"" 시뮬레이션을 설계하는 데 분명히 노력이 투입되고 있습니다. 검증 가능한 문제에서 모든 보상을 받거나, 사용자/심사 LLM으로부터 모든 추천을 받거나, SFT의 응답을 모방하는 그런 성격이죠. 그리고 그로부터 복합적인 성격이 자연스럽게 형성됩니다. 제 요점은 그곳의 ""당신""이 근본적으로 토큰 시뮬레이션 엔진 위에 의도적으로 덧씌워지고 설계된 층위라는 점입니다. 이는 평균적인 사람이 AI와 대화할 때 공감할 수 있는 방식으로 시간이 지나며 자연스럽게 형성된 마음과는 다릅니다.
There is definitely work going into engineering the ""you"" simulation - the personality that gets all the rewards in verifiable problems, or all the upvotes from users/judge LLMs, or mimics the responses of SFT, and there is an emergent composite personality from that. My point is more that the ""you"" there is deliberately bolted on, engineered and layered on what is fundamentally a token simulation engine, not a mind that is somehow emergent and over time constructed in a relatable way to an average person talking to an AI.
The story is a bit more simple in verifiable domains, but I think more interesting/complicated in the non-verifiable ones, such as for example asking about opinions on topics xyz. It's less clear how to think about the ""you"" that you're talking to or where it comes from and what credence you should give it."
어느 수준 이상의 지능에 도달하면 간단한 작업을 더 간단히 힘 빼고 쉽게 할 줄도 알게 될 것이다. 리즈닝토큰을 적게 소비하는걸 넘어 MoE에서 한발 더 나아가 최근 언급되는 dynamic depth나 early exit 같이 효율성 자체가 목적함수로 포함되어 학습될 수도 있고, 그것도 아니고 그냥 지능이 상승하며 스스로 효율성을 체득하는 창발이 일어날 수도 있을테다.
이게 적절한 ops발달과 함께 간다면 지금 우리가 클로드코드에서 하는 서브에이전트 만들고 다듬는 노력들 또한, 몇 달 후에는 쓸모 없어지는 또다른 bitter lesson이 될 수 있다. 구글 antigravity가 이러한 방향을 염두에 두고 있는거 같기도 하고. haiku, sonnet, opus, pro 같은 모델명은 사라지고 그냥 claude모델, gpt모델, gemini모델 같이 브랜드명만 남게될지도. 오토라우팅으로 겉으로만 하나로 보이는게 아니라 실제로 하나의 모델만 존재하는.."
뒤늦게 잠깐 써본 구글 antigravity 후기
기존 에디터에 Agent manager와 브라우저가 결합된 agent 중심 IDE.
그동안 우리는 클로드코드를 조금 더 잘 쓰기 위해 제각기 한땀 한땀 설정과 테스트를 해왔음. 어떤 설정과 프로세스로 쓰느냐가 퍼포먼스를 결정하는 중요한 요인 중 하나로 여겨짐. 하지만 이러한 삽질의 결과, agent에게 기대하는 작업과 이를 수행하는 플로우에 대해서 어느 정도 합의에 이르게 됐다고 생각함. 다들 이를 암묵적으로 생각은 하고 있었을텐데 이를 구글이 추가적인 설정없이 기본으로 네이티브하게 보기 좋은 UI로 제공한다는게 가장 큰 포인트인듯
물론 클로드코드만큼의 자율성은 없지만 특정 유저에게는 이게 오히려 장점이 될 수 있고, 이제 첫 등장이기에 파워유저를 위한 세부 설정등은 추후 추가로 제공될 수도 있을거라 생각
Knowledge, artifact 같은 기능 들은 아직 제대로 못써봤는데 어떻게 동작할지 궁금.
잠재적 결론:
참고로 gemini pro3 high 한 5~6번 돌리니 금방 rate limit이 걸리고 그나마 돌던 것도 속도 엄청 느려짐 찾아보니 지금은 public preview라 할당량은 5시간마다 갱신. 하지만 할당량 충분히 제공해서 극소수 파워유저가 아니면 rate limit 안걸릴거라고 하는 언급과는 달리 생각보다는 작게 제공되는듯. 물론 무료 유저라 그럴지도..
관련한 정보를 최대한 많이 수집하고 싶을때는 클로드 리서치 기능이 압도적으로 좋군요.
그동안 리서치 기능을 궁금증 해소용 정도로만 쓰다가 3사의 리서치기능을 업무용으로 본격적으로 써본 결과,
X 도메인에서 Y1-3이라는 조건 3개를 일부 또는 모두 충족하는 데이터셋을 최대한 많이 수집하라는 명령에 대해
OpenAI chatgpt 5 pro 리서치 모드
구글의 gemini 2.5 flash 리서치 모드 (2.5 pro가 아니라 정상적 비교는 아님)
클로드 sonnet 4.5 리서치 모드
국가 AI 전략에서 목적별 분산 사용은 중장기는 물론 단기 전략으로도 부적절하다. 특히 공무원 사회에서는 쓰지 않는 것이 디폴트이므로, 거대모델 집중과 포지티브 가이드라인이 먼저다.
사이드임팩트 리뷰에서 AI 남용 사례가 많았지만, 외면받던 사회적 문제를 풀려는 다양한 시도도 만났다. AI 시대에 가장 필요한 것은 풀고 싶은 문제가 있는지 그 자체다.
