수단으로써의 AI

‘자기 완결적으로 일해라’

회사에 들어온 이후 팀장님들이 내게 했던 말이다. ‘자기 완결적’이 무슨 말인지 주니어 시절에는 감도 안왔는데, 10년 쯤 회사 생활을 해서 과장이나 차장 정도 되었을 즈음 어떤 의미인지 알 수 있게 되었다. 일을 시키는 입장이 되었을때야 비로소 이해가 갔다. 이는 ‘일을 시키는 사람이 입력과 출력만 잘 말해주면 방법, 수단 관계 없이 완성도 있는 결과를 내놓으라’는 이야기다. 물론 일을 하는 중간에 이런저런 결정을 요구하지 않고 알아서 판단하여 잘하면 더 좋다.

우리가 Agent 에게 요구하는 것은 이런 것들이다. 입력(=내가 줄수 있는 것)과 출력(=내가 원하는 것)은 간결하게 정의한다. 그러면 상황에 맞게 알아서 Agent 스스로 문제를 구체화해야 하고, Agent 나름대로 고민하여 문제를 어떻게 해결할 수 있을지 방안을 찾아야 하고, 무엇을 수단으로 쓸 수 있는지 일일히 가르쳐 주지 않아도 스스로 조사하거나 파악해서 이용해야 한다. 싼 비용이면 더욱더 좋다. 사실 AI 시대에 Agent라는 말이 더욱더 부각되고 재조명 받고 있지만, 사람은 천성이 게으르기 때문에 Agent의 미덕은 예나 지금이나 위와 같고 변한게 없다.

소위 Agent AI의 시대가 오면서 모든 일의 영역에서도 AI로의 업무 위임, 그리고 자기완결적 수행이 현실화되고 있다. 아직 업무 영역 전체는 아니지만 몇 가지 영역은 사람의 능력을 한참 뛰어 넘기도 한다. 어떤 곳은 점진적으로 어떤 곳은 혁명과 같이 인간 업무 능력을 뛰어넘고 있다. 놀라운 AI 의 모습을 보면서 많은 사람들이 경외심과 그 보다 더 큰 공포와 불안을 느낀다. 특히 고부가가치 업무로 여겨졌던 소프트웨어 개발이나, 전문 영역에 대한 연구 등은 그 대체 속도도 빠르다. 비용은? 앞으로 거의 $0에 수렴할 것이다. 소위 빅테크들의 대량해고 소식이 여기저기 수시로 들려온다.

소위 ‘전문영역’들이 지금까지는 고부가가치 업무로 여겨지고, 고액의 급여가 지급된터라 대체될 경우의 경제적 효과가 큰 것도 빠른 도입의 이유이다. 하지만 그보다 더 중요한 이유가 있다. 결과의 검증이 가능하고, 그 검증이 매우 빠른 시간 내 가능하다는 점이다. 이것의 진짜 의미는 업무 수행을 알고리즘화 하기 쉽고, 데이터만 충분히 있으면 AI가 학습할 수 있다는 것이다. 예를 들어 AI가 예술 작품을 만들거나 어떤 브랜드에 대한 소셜 마케팅 실행 계획을 만들었다고 하자. 이 방법이 사람이 만들거나 고안한 것보다 좋다는 것을 어떻게 증명할 것인가? 많은 예산이 투입되는 ‘실행’을 Real World에서 여러번 반복할  수도 없다. 예술에 대한 검증은 Lifetime이 드는 일 일 수도 있다. 때로는 고흐나 페르메이르처럼 수 백 년이 걸릴 수도 있다.

소프트웨어 개발이나 엔지니어링, 수학문제의 풀이, 시뮬레이션 등은 ‘즉시’ 검증이 가능하다. 인간이 내어놓은 결과물과 AI Agent가 내어놓은 결과물이 동일한 기준으로 평가 가능하고, 결과가 어느 정도는 계량화 될 수 있다. 반면 결과를 내어놓는 속도가 압도적으로 빠르므로 인간이 수일 혹은 수주가 걸려서 내어 놓는 결과를  AI는 수분 혹은 수초 이내에 출력한다. 따라서 비록 AI의 초반 결과물이 미진 하더라도 몇 번의 (대충) 피드백과 반복을 통해 훨씬 더 짮은 시간안에 계량 지표로 인간을 뛰어넘는 결과를 만들어 낼 수 있다.

앞으로 결과물에 대한 평가와 검증이 가능한 모든 영역은 AI로 빠르게 대체된다. 이는 회계나 의료, 홍보, 컨설팅, 시뮬레이션, 학술 논문 작성 등 모든 분야에서 마찬가지이다. ChatGPT가 출시된 2022년 말부터 지금까지의 약 3년이 넘는 시간보다 훨씬 더 빠른 속도로 발전할 것이다. 앞으로 3년 정도면 소프트웨어 개발을 사람이 수행하는 일은 거의 없어질 것으로 생각한다. 세계에서 가장 똑똑한 사람들이, 가장 많은 돈을 가지고 만들고 있다. Frontier 모델 자리를 두고 수주 간격으로 Regime Change가 일어난다.

그러면 이와 같은 새로운 ‘왕국’이 왔다고 가정하고 그런 세상에서 사람은 무엇을 해야하나? 참 고민되고 걱정된다. 특히 아들이 살아갈 다음 세대를 생각하면 더 그렇다. 고민의 이유는 세상이 더 위험해서가 아니다. AI 로봇 군단의 반란이 걱정이 아니다. 노동과 이를 통한 생존이라는 전통적인 인간의 역할과 존재 의미를 어디서 찾아야 하는지가 고민이다.

사람에게 남은 것은 한가지 뿐이다. 사람은 세상에 무엇이 존재해야 하는지 ‘정의’할 뿐이다. 이게 진정 인간이 할 일이고, 이 ‘정의’에는 사회, 도덕적 가치 판단과 인간으로서 개개인의 선호, 그리고 미래를 생각할때 바람직하다고 생각하는 이상향에 대한 주관이 포함될 것이다. 마치 대기업 팀장 정도 위치가 되어서 팀을 이끌고, 무엇을 성과로 하고 어떤 결과물을 내어놓을지 정의하는 것 처럼.

그러면 수단으로서의 AI Agent 가 부지런히 ‘자기 완결적’으로 일을 해서 순식간에  원하는 결과를 가져다 줄 것이다. 깔끔하게 결과물이 왜 좋은지 논리적이고 합리적인 코멘트까지 붙여서 줄 것이다. 인간은 이를 살펴보고 고민한다음 사용할지, 폐기할지 결정하면 된다. 만약 불법적인 일이거나 결과라면 AI Agent가 경고해줄텐데 당신이 범죄자라면 이를 무시할 수도 있다.

물론 이러한 ‘정의’역도 AI Agent가 수행할 수 있으리라 생각한다. 하지만 이 역할은 끝끝내 인간이 수행하고 싶어하리라 생각한다. 인간 세상이 어떻게 되어야 할지 꿈꾸는 것은 포기하고 싶지 않은 인간의 권리이자 종의 의무라고 생각한다. 주인인 인간과  AI Agent의 역할 분담이 그 경계 어딘가에서 일어나리라 본다. 인간 종으로서 더 관심을 가질 것은, 무엇이 세상에 존재해야 하는지에 대한 충분한 사회적 합의, 내가 만들어 낸 결과물이 타인에게 해를 끼치지 않는지 감시하는 더 엄격하고 세밀한 규제 시스템, 그리고 이러한 AI Agent의 능력 차이로 인해 더욱 벌어질 것으로 예상되는 재화의 분배에 대한 관심일 것이다.

범주를 모르고 싶다

나는 내 MBTI를 모른다. 짐작건대 INTJ가 아닐까 싶지만, 검사해 본 적은 없고 사실 앞으로도 딱히 검사할 생각은 없다. 회사에서 누군가 나에게 “MBTI가 뭐예요?”라고 물으면 “잘 모르겠는데요” 혹은 “검사해 본 적이 없어서요”라고 답한다. 그러면 상대방은 머쓱한 표정을 지으며 다른 사람의 MBTI를 조사하기 시작하거나 화제를 돌린다. 상대에게 무안을 주기보다는, 그럴듯한 MBTI를 하나 정해서 대답하는 것도 좋겠다는 생각이 든다.

내가 타인에게 MBTI를 묻지 않거나 스스로 검사해보지 않는 이유는, MBTI 검사의 신뢰성을 문제 삼거나 인간을 16가지 유형으로 단순 분류할 수 있다는 사실을 의심해서가 아니다. 이유는 첫째, 수많은 MBTI 검사 중 무엇이 정식 검사인지 찾기 번거롭고 귀찮기 때문이다. 둘째이자 더 중요한 이유는, 세상을 가급적 범주화해서 보지 않으려는 노력 때문이다.

이분법에 대해서는 10년도 더 전에 몇 가지 글을 쓴 적이 있다(이분법적 사고세상을 보는 여러가지 방법). 첫 번째 글은 이분법을 다소 옹호하는 듯했고, 두 번째 글은 범주화에 반대하는 논조였다. 그 글들을 쓴 이후에도 범주화가 실제 세상과 인식 사이의 괴리를 확대한다는 것, 그리고 이분법이 세상의 갈등을 증폭시키는 데 기여한다는 생각은 꾸준히 유지해 왔다.

MBTI 역시 네 가지 이분법을 동시에 적용하여 인간 군상을 몇 가지 정형으로 범주화하기에, 내 가치관으로는 거부감을 느낄 수밖에 없다. 이러한 ‘의도적 거리두기’를 실천하는 이유는, 어떤 범주가 존재한다는 것을 인지하는 순간부터 자동적인 범주화가 시작되기 때문이다. ‘I’로 시작하는 인간상의 특징을 알게 되면, 다음부터는 의식하지 않아도 그런 특징을 발견할 때마다 ‘I’라는 딱지를 신속하게 붙이게 된다. 마치 병아리 감별사가 암수를 기계적으로 구분하는 것처럼 말이다.

따라서 나는 MBTI를 모르거나, 혈액형별 성격론을 모르거나, MZ나 Gen-Z 같은 세대 구분론을 모르는 채로 남고 싶다. 이를 아는 순간 의도치 않게 세상을 보는 프레임이 바뀌고 사고가 단순해지기 때문이다. 만약 회사의 신입 사원을 모두 ‘MZ의 특성’ 속에 가둬서 보게 된다면 과연 팀을 제대로 이끌 수 있을까? 소셜 미디어뿐만 아니라 전통 미디어, 일상의 대화, 대중 자기계발서들은 끊임없이 이러한 범주를 확대 재생산한다.

여기에는 나름의 이유가 있다. 소셜 미디어는 복잡한 원리를 짧게 설명하기 위해 단순화된 추상적 개념이 필요하고, 전통 미디어는 누군가를 특정 범주에 포함시켜 그들의 행동을 제어하려 한다. 또한 일상의 대화에서 범주화는 ‘우리 편’과 ‘적’을 가르는 험담의 전제가 되기도 한다. 자기계발서 내용의 80%는 독자가 가진 범주적 세계관의 강화이며, 나머지 20%는 이를 약간 비튼 생각으로 구성되곤 한다.

노벨 경제학상 수상자 대니얼 카너먼의 저서 『생각에 관한 생각』에는 우리가 멈출 수 없는 사고 과정인 ‘시스템 1(System 1)’이 등장한다. 다음 단어를 예측하거나 표정으로 상대의 마음을 읽는 것은 시스템 1의 전형적 특성이다. 멈출 수 없는 범주화 역시 시스템 1의 작업이며, 이론상 이를 멈출 수 있는 유일한 방법은 범주 자체를 모르는 것뿐이다. 편견은 앎과 밀착되어 있어, 편견이 없으려면 아예 몰라야 하는 것이다.

무엇을 적극적으로 ‘모르고 싶다’는 의지는 어떻게 실천해야 할까. 최근에는 나를 향한 미디어 큐레이션이 중요하다고 느낀다. 배경처럼 흘러가는 메시지보다는 차라리 자연스러운 적막을, 의지를 가지고 내 눈앞까지 배달되는 ‘쇼츠’보다는 내가 선택해서 읽는 구독물을, 공짜보다는 대가를 지불한 정보를, 이해관계가 얽힌 사람보다는 순수한 친구나 가족과의 대화를 선택하려 한다. 그렇게 함으로써 조금은 더 올바른 방향으로 알고, 그른 방향으로 모를 수 있으리라 생각한다.