2편에서 Transformer 구조가 왜 LLM의 한계를 결정하는지 살펴봤다. 이제 다음 질문으로 자연스럽게 이어진다.왜 같은 프롬프트인데 결과가 매번 달라질까?왜 temperature를 조금만 건드려도 답이 완전히 바뀔까?이 질문에 답하지 못하면, LLM의 불안정성을 “운이 나쁜 케이스”로 오해하게 된다. 하지만 실제 원인은 훨씬 단순하고 구조적이다.1. LLM의 출력은 문장이 아니라 확률 분포다LLM은 문장을 한 번에 생성하지 않는다. 각 단계마다 다음 토큰에 대한 확률 분포를 만든다.우리가 보는 문장은, 그 분포에서 하나의 경로를 선택한 결과일 뿐이다.이 관점을 받아들이면 중요한 사실이 하나 드러난다.LLM 출력에는 항상 다른 선택지가 존재한다현재 출력은 “가장 가능성이 높은 후보 중 하나”일 뿐이..