로컬 대형언어모델은 목표 계산 힌트 없이는 간단한 에이전트도 실패했다

개인 실험에서 로컬 대형언어모델이 개미 시뮬레이션의 여왕개미 역할을 맡아 일개미에게 명령했다. 목표는 여왕개미를 포함해 일개미 100마리 규모의 군체를 만드는 것이었다. 일개미는 먹이를 찾고 가져올 수 있으며, 먹이는 시간이 지나면 줄고 알을 낳는 데도 쓰인다.

먹이 10점으로 알 2개를 만들 수 있고, 한 번 0까지 고갈된 먹이원은 다시 채워지지 않는다. 기본 프롬프트만 줬을 때는 테스트한 모델들이 충분한 먹이가 있어 바로 목표를 끝낼 수 있는 상황에서도 군체를 굶겨 죽였다. “일개미를 더 만들어야 하며 먹이만 계속 찾으면 안 된다”는 힌트를 주자, 모델들은 살아 있는 일개미가 먹을 몫까지 써서 너무 빠르게 번식했고 결국 굶어 죽었다.

목표 달성에 필요한 계산과 현재 상태를 함께 보라는 힌트를 주자, 모델들은 승리할 수 있었다. 하지만 이 방식은 답에 가까운 길을 너무 직접적으로 알려주는 느낌이 있어 실험자가 만족하지 않았다.