아주 작은 내부 조정으로 AI 답변 방식이 달라졌다는 실험

같은 모델에 같은 질문을 넣었지만, 내부 상태에 아주 작은 수학적 조정을 넣은 경우 답변이 크게 달라졌다는 실험입니다. 이 조정은 모델을 다시 학습시키거나 프롬프트를 바꾸는 방식이 아니라, 트랜스포머의 각 층에 작은 신호를 더하는 방식입니다. 조정 크기는 bfloat16이 구분할 수 있는 최소 단위보다 작았고, 코사인 측정값과 20개 층의 변화 표도 모두 0으로 나왔습니다.

일반적인 측정 도구로는 아무 변화가 없는 것처럼 보였습니다. 그러나 기본 모델은 세 부분으로 된 시스템 설계 문제에서 흔한 답을 만들고, 비교를 건너뛰고, 실제 내용이 부족한 파이썬 코드 뼈대를 냈습니다. 조정된 모델은 같은 조건에서 알려진 해법 후보 중 하나를 이름으로 고르고, 다른 선택지와 비교하며 설계 이유를 설명하고, 실제 임포트와 로직이 있는 코드 뼈대를 만들었습니다.

두 실행의 차이는 20개 층에 나뉘어 들어간 누적 내부 조정값 0.034953뿐이었다는 주장입니다.