국정을 인공지능이 운영하면 어떨까. 고백하건대 나 또한 그런 생각을 해보았다. 일을 이렇게 처리할 거라면 차라리 인공지능이 하는 게 낫지 않을까. 규정만 따르면 될 문제를 혈연, 지연, 학연 등 인연과 사정을 따져야 하니, 이쯤 되면 ‘사람이 일’인가 싶다.

교통사고 보험금 지급 담당자라고 상상해보자. 피도 눈물도 없는 인공지능은 이런 업무쯤이야 수 초 내에 뚝딱 처리할 거다. 인공지능이 규정에 따라 지급되어야 할 보험금을 ‘알아서 잘’ 결정한다. 블랙박스 영상만 업로드하면 계산은 뚝딱이다. 인간 담당자는 민원인에게 ‘딱 센스있게’ 말한다. “아, 인공지능 저 녀석이 보험금 지급이 안 된다고 하네요. 시스템이 이래요. 저라고 어쩌겠습니까.” 그러면 고객은 돈 한 푼 못 받고 풀이 죽어서 돌아가는 거다.

상상으로는 통쾌해도 현실에서는 비극일 것인데, 고객에게 의사결정에 대한 책임을 물을 수 있는 아무런 권한도 부여되지 않았기 때문이다. 조직의 기능은 일을 효율적으로 처리해내는 것에 그치지 않는다. 조직은 사회의 요구에 반응할 윤리적, 법적 책임 또한 가진다. 사람들의 선호는 상충되거나 시시각각 변화한다. 그래서 조직은 상시적인 학습과 조정에 자원을 할애한다. 이는 비효율이 아니다. 책임이다.

오픈AI는 인공지능이 인간과 유사한 발전 지능 수준을 갖춘 일반인공지능(AGI, Artificial General Intelligence)의 발전 정도를 추적하기 위한 다섯 단계 척도를 제안했다. 일반인공지능은 자연스럽게 대화하는 챗봇을 거쳐 (1단계), 박사학위를 가진 인간과 비슷한 수준의 문제해결 능력을 갖춘 추론자에 도달한다 (2단계). 이후 인공지능은 이용자를 대신하여 직접 행동할 수 있는 행위자가 된다 (3단계). 4단계에 이르러 인공지능은 발명과 혁신에 직접 기여하고, 5단계에 도달한 인공지능은 조직 내 모든 일을 처리할 수 있게 된다. 오픈AI는 자신들의 서비스가 현재 1단계에 해당하며 2단계에 근접해가는 중이라 자평했다.

이들의 비전 속에서 인류는 효율성이 극적으로 향상된, 화려한 자본주의의 정상을 바라보고 있다. 작년 한 인터뷰에서 오픈AI의 CEO 샘 올트먼은 5년 안에 일반인공지능을 개발할 수 있을 거라 이야기했다. 그의 비전대로라면 5년 이내에 인공지능은 조직 그 자체가 될지 모른다. 기업, 교육, 관료, 사법, 군사 조직을 인공지능으로 대체하지 못할 이유가 무엇인가! 그러나 이들은 인류 역사가 조직에게 책임을 묻기 위해 마련해온 감시와 독려의 시스템은 언급하지 않는다. 오픈AI의 비전에는 속도와 방향만이 존재한다.

많은 경우 조직의 의사결정은 느리고, 그 내용과 과정을 설명하기 어렵다. 효율성이 뒷전이 될 때도 있다. 국회는 공회전하고, 관료는 늑장을 부리며, 판사는 최종 선고까지 수개월을 쏟는다. 사람이 일이기 때문에 그렇다. 사람을 위한 일이기 때문에 그렇다.

인공지능 조직은 무엇을 위하는가. 인공지능과 함께 일하는 조직이 책임을 다하기 위해서는 무엇을 준비해야 하는가?