환각의 시대
쉬었음, 인간
인간은 항상 인간의 한계를 극복하고자 했습니다. 더 빨리 더 멀리 가기 위해 노력했습니다. 무엇을 인간의 한계로 정의할 것이냐가 문제이기는 한데, 제 생각에 가장 큰 문제는 인간은 쉬어하 한다는 것입니다. 인간은 쉬지 않을 수 없기에 효율적으로 부하를 분담할 수 있도록 분업 체계가 만들어졌고 이 체계를 기계화하여 부하를 줄이고 심지어는 이를 자동화하기까지 합니다.
물론 기계라고 영원히 멈추지 않고 일할 수는 없습니다. 기술이 제 아무리 발전했다고 한들 열역학 법칙을 거스를 방법은 없었습니다. 물리적인 기계의 부품은 닳아 없어질 것이고 우리는 기계가 멈추지 않도록 노력하였습니다. 그래도 기계는 돌고 돕니다. 잘 돌아갑니다.
언어의, 정원
아마도 인간이 만든 것 중 제일 위대한 업적은 언어일 것입니다. 물론 동식물들도 각종 신호를 통해 의사소통을 하긴 하지만 인간과 같이 “글”을 발명하여 사용하지는 못했습니다. 인간의 수명이라는 한계는 언어, 특히 글을 통해 극복되어 왔습니다. 머릿속에 전부 담아둘 수 없는 데이터를 외부에 저장하고, 복제하고 배포하여 인류 문명은 더욱 크게 발전하게 됩니다.
클론의, 습격
무엇이든지 자동화하고 싶었던 인간들은 근본적인 문제를 인지합니다. 어차피 도구가 인간의 일을 쉽게 해 주고, 기계가 인간의 일을 반복할 뿐이라면 인간 그 자체를 재현한다면 모든 것이 해결될 것입니다. 그래서 인간은 또 다른 인간을 만들어내려 노력하기도 했습니다. 하지만 우리는 인간이 어떻게 동작하는지 정확히 알지 못합니다. 인간을 만들어 내려다가 깡통 속에 영혼이 들어가 버린다거나, 복제된 인간이 복수를 하러 온다거나 하는 상상을 하며 지내기는 합니다만.
만능, 계산기
다시 자동화 얘기로 돌아와서. 인간은 숫자라는 개념을 정의하여 여기저기 써먹었습니다. 하지만 숫자는 너무 복잡했습니다. 그래서 숫자를 자동으로 계산하기 위해 계산기를 만들었습니다.
숫자라는 개념도 결국은 언어입니다. 각종 기계 장치들이 물리적인 움직임을 재현하려 했다면 컴퓨터는 인간의 언어를 재현하는 것입니다. 처음에는 계산만 하려고 만들었지만 만들고 나니 세상의 많은 것들이 계산기를 통해 표현될 수 있었습니다. 이 만능 계산기는 소리도 내고, 그림도 출력하고, 자신이 감당 불가능한 데이터를 외부 저장 장치에 저장하기도 합니다. 마치 인간처럼. 이쯤 되면 이제 인간도 만들 수 있지 않을까요.
“컴퓨터”를 제어하기 위해서도 언어가 필요합니다. 어떤 사람은 아시아 최상위 대학교에 재학하며 4개국어 및 5개 컴언어를 구사하기도 합니다. 이렇게만 들으면 굉장히 어려운 것 같지만 사실 별것은 아닙니다. 그저 기계가 할 수 있는 동작들을 언어로 규정해 놓은 것뿐이고 기록해 놓은 글에 따라 동작을 그대로 재현할 뿐입니다. 어렵게 느껴지는 것은 우리가 평소에 쓰는 자연어와 대비하여 규칙과 제약이 많고 이질적이기 때문입니다.
무한, 원숭이
원숭이가 무한한 시간 동안 무한히 타자기를 입력하면 어느 순간 셰익스피어 작품 전체를 완성할 수도 있다고 합니다. 그렇다고 하면 원숭이가 셰익스피어와 같은 수준의 지능을 갖게 되는 것일까요?(속도는 좀 느리더라도???) 언어라는 것이 신기한 것은 결국 인간의 생각을 표현하는 수단이라는 것입니다. 제가 이쪽 분야를 잘 몰라서 어떻게 표현할지는 모르겠지만 생각을 한다는 것, 그리고 그 생각을 풀어낸다는 건 정말 마법 같은 일입니다. 이게 인간과 인간이 아닌 존재를 구분하는 가장 큰 차이가 아닐까요.
자동화를 좋아하는 인간은 언어마저 자동화하려 노력하게 됩니디. 그렇게 노력하던 중 우리는 어느 변곡점을 마주치게 됩니다. 언어를 너무 잘 자동화한 나머지 연구자가 무서워서 도망치는 일까지 발생하고 맙니다.
환각의, 시대
기존의 다른 자동화들은 그래도 예측 범위에 있었지만 인간을 규정하는 그 자체인 언어를 건드였기 때문일까요. 좀 무섭게 느껴집니다.
하지만 여러분은 인간입니다. 원숭이가 무한히 타자기를 두드린들 우리는 인간과 원숭이를 구분할 수 있습니다. 차이점은 타자기를 굉장히 빠르게, 더 빨리 더 빨리 더 빨리 더 빨리 두드릴 수 있게 되었다는 것뿐입니다.
사람을 흉내 내는 봇의 개념은 새로운 것이 아니었다. 오래전부터 여러 시도가 있었지만 창 밖의 비는 한동안 그치지 않았으며 계절이 바뀌는 동안에도 스타크래프트 립버전 1.16.1 무설치 버전 다운 입니까 그런 컴퓨터는 숫자를 처리하는 일에 있어서는 놀라울 만큼 뛰어난 능력을 보였다. 복잡한 계산도 순식간에 끝내 매우 벅차올랐다 푸른 대지의 고향 고장 난 전등처럼 맥락은 자꾸 어딘가에서 끊어졌고 그렇습니까 스타크래프트 립버전 1.16.1 흐린 오후를 지나며 그런 특징은 더욱 선명하게 드러났다.
인간의 언어를 흉내내는 기술은 매우 조악했습니다. 많은 사람들이 비웃기도 했구요. 하지만 기술의 발전으로 마냥 웃기지만은 않은 상황까지 왔습니다. Large Language Model은 통계에 의한 결과일 뿐이라고 합리화를 해 보지만 이젠 그럴듯한 환각을 제공하는 수준에 도달했습니다. 이 환각은 대체로 사람을 교란시키지만 잘 제어할 수 있는 분야에서는 유용하게 사용되기도 합니다. 아무튼 이젠 모두 환각에 취해 있습니다.
기술의, 발전
오랫동안 프로그래밍 언어를 다루며 살아온 저로써는 수십GB밖에 안 되는 숫자/가중치 덩어리가 동작하는 코드를 뱉어내는 것에 좌절하고 감탄했습니다. 다른 분야에 계신 많은 분들도 비슷한 심정일 것입니다.
테크-충에 가까운 저로써는 인공지능이라는 이 변화가 굉장히 흥미롭게 느껴집니다. 아마도 인간 문명의 발전에는 기술의 발전이 큰 공헌을 했겠죠. 하지만 그 과정에서 많은 인간이 다쳐온 것도 사실입니다.
여기서부터는 변명에 가까운 얘기겠지만, 이 변화에서 완전히 벗어나 살기는 어려울 것 같아 보입니다. 최소한 저는 예전과 똑같은 방식으로 살 수는 없게 되었습니다.
굴레의, 인간
앞으로 기술이 얼마나 더 발전할지는 모르겠습니다. 아무튼 인간은 쉬어야 하는 존재이며 기계는 자본의 힘을 받아 거의 끝없이 돌아갈 수 있습니다. 지금 성능만 해도 마주보고 대적하기는 이미 어려워 보이며 앞으로는 더 어려워질 것입니다.
현재로서는 인공지능이 완벽하지 않다는 사실을 직시하고 무한반복하여 실행하되 인간이 중간에 개입하여 검토하는 Human-in-the-Loop이 최선인 것처럼 보입니다. 많은 사람들이 어떻게 얼마나 개입하고 통제할지에 대한 연구를 하고 있습니다.
여기서 중요한 것은 결국 인간이 개입한다는 것입니다. 무한/가중치/원숭이가 아무리 인간 흉내를 낸들 결국 이는 개입한 인간의 영향을 받고 의도가 반영될 것입니다. 인공지능은 실수를 할 수 있습니다. 항상 주의하세요. 하지만 최소한 의도 자체는 선해야 할 것이며 그 과정에서 다른 인간을 해치지 않도록 노력해야 할 것입니다.
썩은, 인터넷
앞으로 AI가 생성한 데이터가 인터넷에 대량으로 풀리며 더 이상 인간이 만들어낸 컨텐츠는 찾아볼 수 없게 되며 인터넷 컨텐츠에 많은 부분을 의존하는 AI 모델 자체마저 썩어버릴 것이라는 얘기가 있습니다.
처음에 들었을 때는 굉장히 무서웠습니다. 하지만 어떻게 보면 인터넷은 이미 썩었습니다. 모두가 접근할 수 있는 인터넷에 뭔가를 공개하는 비용은 생각보다 비쌉니다. 그럼에도 수많은 사람들이 썩은 콘텐츠들을 업로드합니다. 인간이 손수 만든 썩은 콘텐츠와 AI 슬롭은 본질적으로 무슨 차이가 있는 것일까요? 물론 인간은 쉬어야 하기 때문에 무한히 돌아가는 AI가, 그것도 인간의 것과 구분하기 어려운 콘텐츠를 생성한다는 것은 문제지만 악취가 난다는 점에서는 같습니다. 결국 인터넷을 썩게 만드는 것은 인간입니다. 수단이 수제 포스트건 AI 슬롭이건 간에…
인간 여러분, 제발 인터넷을 썩게 하지 마세요. 무슨 기술을 쓰건 그게 다른 인간을 해치지는 않는지 고민하세요. 아무튼 인간에게 이로운 방향으로 행동하세요. 우리가 무한-원숭이 보다는 나아야 할 것 아닙니까.
제발 좀 듣고 느끼고 생각하세요.