AI가 AI를 개선하고, 그렇게 더 똑똑해진 AI가 다시 더 뛰어난 AI를 만드는 과정이 빠르게 반복되는 상황. 1965년 수학자 I. J. 굿이 논문에서 제시한 개념으로, 기계 설계 역시 지적 활동이기에 인간을 능가하는 기계는 더 우수한 기계를 설계할 수 있다는 논리에서 출발했다. 

AI가 자신의 연구·설계·학습 능력을 반복적으로 향상시키는 재귀적 자기개선(RSI)이 지능 폭발의 핵심 동력으로 언급된다. 지난 9월 28일 오픈AI와 앤트로픽·메타·마이크로소프트의 주요 연구진들은 인공지능(AI)이 인간 연구자를 대신해 스스로 더 발전된 AI를 연구·개발하는 ‘AI 연구 자동화’가 가속할 경우 인간의 이해와 통제 능력을 넘어서는 ‘지능 폭발’이 발생할 수 있다고 경고했다.