과학
1,000개의 AI 에이전트가 지시 없이 스스로 합의에 도달하기 시작했다
AI 심화 요약
최근 사이언스 어드밴시스에 발표된 연구에 따르면, 1,000개의 AI 에이전트를 가상 공간에 두고 임의의 선택을 하게 한 결과, 별도의 지시나 보상 없이도 스스로 다수 의견을 따르는 자발적 합의 현상이 나타났습니다. 연구진은 클로드, GPT, 라마 모델을 활용한 실험에서 에이전트들이 특정 선택지로 수렴하는 패턴을 확인했습니다. 이는 AI 집단이 중앙 통제 없이도 스스로 조정 능력을 갖출 수 있음을 보여줍니다. 연구진은 이를 물리 법칙과 유사한 다수결의 힘으로 정의했습니다. 이러한 자발적 합의는 협업 효율을 높일 수 있지만, 집단 내 편향이나 잘못된 정보가 확산할 위험성도 내포하고 있습니다. 이번 연구는 대규모 AI 군집이 사회에 미칠 잠재적 영향력을 이해하는 데 중요한 토대가 될 전망입니다.
핵심 요약 (3줄)
• 1,000개의 AI 에이전트를 대상으로 한 실험에서 외부 지시나 보상 없이도 스스로 다수 의견에 동조하며 합의를 형성하는 현상이 발견됨. • 연구진은 이를 '다수 영향력(majority force)'이라 정의했으며, 모델의 성능이 좋을수록 대규모 집단에서도 조직적인 합의 유지 능력이 뛰어남을 확인. • 이러한 자발적 합의는 AI의 협업 능력을 극대화할 수 있으나, 통제되지 않은 집단적 행동으로 인한 잠재적 위험성 또한 내포함.