똑똑한 모델이 더 쌉니다?

어느 수준 이상의 지능에 도달하면 간단한 작업을 더 간단히 힘 빼고 쉽게 할 줄도 알게 될 것이다. 리즈닝토큰을 적게 소비하는걸 넘어 MoE에서 한발 더 나아가 최근 언급되는 dynamic depth나 early exit 같이 효율성 자체가 목적함수로 포함되어 학습될 수도 있고, 그것도 아니고 그냥 지능이 상승하며 스스로 효율성을 체득하는 창발이 일어날 수도 있을테다.

이게 적절한 ops발달과 함께 간다면 지금 우리가 클로드코드에서 하는 서브에이전트 만들고 다듬는 노력들 또한, 몇 달 후에는 쓸모 없어지는 또다른 bitter lesson이 될 수 있다. 구글 antigravity가 이러한 방향을 염두에 두고 있는거 같기도 하고. haiku, sonnet, opus, pro 같은 모델명은 사라지고 그냥 claude모델, gpt모델, gemini모델 같이 브랜드명만 남게될지도. 오토라우팅으로 겉으로만 하나로 보이는게 아니라 실제로 하나의 모델만 존재하는.."