[책 감상/책 추천] 김성우, <인공지능은 나의 읽기-쓰기를 어떻게 바꿀까>

[책 감상/책 추천] 김성우, <인공지능은 나의 읽기-쓰기를 어떻게 바꿀까>

 

 

요즘 흔히들 쓰는 챗GPT, 클로드, 구글 제미나이 같은 인공지능이 우리의 읽기와 쓰기에 어떤 영향을 미칠까를 고찰한 글. 솔직히 내가 이 책을 읽을 때 내 마음가짐이… 적절하지 않았기 때문에 내가 이걸로 리뷰를 써도 되나 싶긴 하다. 그렇다고 이 책을 소개를 안 하고 넘어가자니, 소개받을 가치가 있는 책을 무시하는 것 같고… 그래서 내 깜냥으로 할 수 있는 만큼, 내가 이해한 만큼이라도 써 보기로 했다. 글이 다소 파편적으로 느껴질 수도 있으나 그것은 전적으로 내가 이 책을 이해하는 능력이 부족했기 때문이다… 책은 잘못이 없어!

 

‘들어가기’에 이미 저자는 인공지능의 한계를 명백하게 밝혔다. 인공지능이 학습한 텍스트 자체가 대부분은 원어민이 쓴 것일 테고, 또 그 저자들은 원어민 중에서도 책을 쓸 정도의 교육 수준이 되고 경제적 상황이 되는 이들일 테니, 결국 그들의 가치관을 학습하지 않을 수 없다고 말한다면 내가 상상력을 과하게 발휘한 것일까.

생성형 인공지능의 급속한 개발과 광범위한 사용에 생태적·윤리적·사회경제적 문제 또한 수반됩니다. 기술 진화의 가속화 속에서 생태 자원의 고갈과 환경 파괴가 급속히 진행되고 있습니다. 거대언어모델의 개발 과정에서 소위 ‘제3세계’ 노동자들은 차별받습니다. 거대 생성형 인공지능 서비스의 구동에는 천문학적인 에너지와 물이 필요합니다. 언어모델의 기반이 되는 훈련 데이터에 담긴 비백인·여성·장애인·성소수자 등에 대한 차별은 인공지능 챗봇의 답변에도 그대로 드러납니다. 인공지능이 만든 텍스트를 식별하는 감지 알고리즘은 비원어민이 쓴 영어 문장을 인공지능이 쓴 것이라 판단하는 경우가 많습니다. 비원어민은 인간이 아니라고 선언하는 셈입니다. 이 상황에서 국가와 정책·교육과 제도의 역할은 날로 무거워집니다.

내가 누군지 모르고 그래서 나를 차별할 수 없을 것 같은 인공지능은, 정확히 똑같은 이유로 나를 차별한다. 내가 비백인이라는 사실을 밝히지 않으면 인공지능은 (영어로 사용 시) 나를 백인이라고 가정하고 답변할 것이다. 아래는 위에서 말한 점과 비슷한 이야기다.

인공지능 표절 검색기가 비원어민 영어 화자를 차별한다는 연구 또한 발표된 바 있습니다. 인공지능의 글인가 인간의 글인가를 판별할 때 언어 복잡도가 중요한 근거로 사용되는데, 비원어민이 글을 쓰면 복잡한 어휘와 구문을 사용하는 빈도가 낮아 인공지능이 쓴 것으로 판단되기 쉽다고 합니다. 검색기의 기준은 일견 합리적이지만 특정 집단을 차별하는 결과로 이어지기도 하는 상황입니다. 인공지능의 표절 감지 알고리즘이 복잡성 지수라는 과학적 지표를 경유하여 비원어민을 차별한다고 말할 수 있겠네요. 이 알고리즘에 따르면 비원어민은 인간이 아닌 셈입니다! 표절 검사기에 대한 과도한 의존은 자칫 큰 문제로 이어질 수 있음을 시사하는 예죠.

 

AI를 이용하려면 ‘프롬프트’ 또는 ‘명령어’를 잘 써야 한다고들 한다. 과연 그렇다면 프롬프트만 잘 쓰면 좋은 결과가 나오는 걸까? 저자는 인지언어학자 조지 레이코프가 제시한 예를 통해 “원하는 산출물을 얻는 데는 좋은 질문을 던지는 능력을 넘어 산출된 응답을 비판적으로 평가할 수 있는 역량이 필요”하다는 점을 보여 준다.

기자들은 “게이 결혼에 찬성하십니까?”라고 묻는 대신에 이렇게 질문할 수 있다. “주 정부가 주민을 상대로 누구와 결혼해라, 하지 말아라 해야 한다고 생각하십니까?” 이렇게도 물어보아라. “자기가 원하는 사람과 결혼할 자유가 법 앞의 평등한 권리의 문제라고 보십니까?” 또는 “결혼이 ‘평생의 서약을 통한 사랑의 실현’이라고 보십니까?” 또는 “사랑하는 두 사람이 공식적으로 평생을 서약하고 싶어 하는 것이 사회에 도움이 될까요?” 도덕에 기초한 프레임 구성은 우리 모두가 할 일이다. 특히 기자들의 임무는 더욱 막중하다. —조지 레이코프

위와 같은 질문을 던지는 데 필요한 역량을 나열해 보면 대략 다음과 같습니다. • 윤리에 대한 명확한 관점 • 프레임·은유·개념 네트워크·수사적 함의 등에 대한 이해 • 순간순간 변하는 담론의 흐름에 대한 비판적이고 민감한 평가 • 질문하는 이와 답변하는 이가 처한 사회문화적·정치적 위치 • 질의와 응답을 보고 듣는 시민의 성향과 관점

조지 레이코프의 질문 전략이 그냥 나오지 않았음은 분명합니다. 여기에서 기억해야 할 것은 정답을 뽑아내는 프롬프트를 넘어 가치와 임팩트를 담은 질문을 던지려면 풍부한 지식과 경험 나아가 한 가지 주제에 대한 집요한 관심이 필요하다는 점입니다. 프롬프트 가이드라인 문서에 나온 몇몇 공식과 예시를 외운다고 될 일이 아니죠. 날카로운 질문을 던지는 일은 자신·상대·이슈·언어 그리고 청중을 동적으로 정렬하는 행위이며, 자신을 사회적·윤리적·과학적 지평에 위치시키는 일이기에 자신과 상대·언어와 정치 담론의 역동적 엮임에 대한 이해뿐 아니라 이를 평가하는 대중에 대한 이해가 필요합니다.

프롬프트 한두 개만 잘 써서 좋은 결과물이 나올 거면 이미 이 세상 작가들은 다 직업을 잃어버렸을 거다. 작가가 업인 사람들뿐 아니라 그냥 취미로 글을 쓰는 이들도 글쓰기를 관뒀을 거고. 글쓰기에는 단순히 명령어만 잘 써 넣는 것 이상의 능력이 필요하다.

 

내가 개인적으로 가장 큰 깨달음을 얻은 것은 저자가 웹 기반 교육의 한계를 지적하는 부분이었다. 무크(MOOC, Massive Open Online Course)라고 불리는 대규모 온라인 공개수업은 웹을 기반으로 해서 온라인 수업을 제공한다. 무료인 것도 유료인 것도 있는데, 가장 잘 알려진 것은 단연코 코세라(Coursera)다. 하지만 정말로 이런 수업들이 교육의 불공평을 해소할까?

냉철하게 바라보면 무크가 교육을 대중의 품에 안겨 주고 있다는 믿음, 무크로 인해 교육격차가 사라지리라는 진단은 환상에 가깝습니다. MIT나 하버드대학교·스탠퍼드대학교 등 무크의 선봉에 선 대학들이 여전히 ‘최고 명문대’로서의 명성을 구가하고 있다는 걸 보면 대학 서열 또한 건재합니다. 학습자의 관점에서 봐도 수많은 무크는 그림의 떡이 되기에 십상입니다. 입시에 찌든 중고생·먹고사는 일에 허덕이는 직장인·쉴 틈 없이 육아 노동에 전념해야 하는 양육자·자신의 전공을 감당하기에도 벅찬 대학생이 무크를 활용한다는 것은 불가능에 가깝습니다.

게다가 아직 많은 무크 강좌가 영어로 제공됩니다. 아무리 기초적인 내용이라 해도 영어라는 관문을 넘지 못하면 원하는 강좌를 들기 힘듭니다. 이 모든 난관을 극복하고 무크 강좌 수료증을 딴다고 해도 어떤 쓸모가 있는지 모르는 상황입니다. 이런 상황에서 무크의 대중화는 ‘최고 권위의 강좌를 누구나 들을 수 있다’는 착시를 등에 업고 교육의 양극화를 부추길 위험마저 갖고 있습니다. ‘누구나 수강할 수 있다’고 하지만 결코 ‘누구나’가 아닌 것입니다.

노벨상을 수상한 경제학자이자 칼럼니스트인 폴 크루그먼은 ‘(교육을 통해 얻은) 지식은 권력이 아니’라고 못 박습니다. 사회경제적 불평등은 결코 교육 체제 내에서 전달되는 지식으로 해소될 수 없으며, 권력의 실질적 재분배로만 해결 가능하다는 주장입니다. 같은 논리로 기존의 불평등한 사회경제적 구조와 그로 인해 야기되는 교육의 불평등이라는 문제에 천착하지 않는 혁신이라면 수십·수백 개의 무크 플랫폼이 생긴다고 해도 교육이 근본적으로 개선될 리 없습니다. 인공지능은 과연 다를까요?

와! 그렇지! 바쁜 일상 중에 어찌어찌 이런 수업들을 듣는다 쳐도, 이렇게 해서 얻은 지식을 과연 누가 인정해 줄 것인가? 코세라를 통해 얻은 수료증을 이력서에 쓸 수 있나? 쓴다고 하면, 그걸 보고 다른 대학이나 기타 교육 기관에서 받은 졸업장과 마찬가지로 인정해 줄까? 그걸 통해 ‘사다리 타기’가 가능할까? 아닐 것이다. 저자는 인공지능의 역할이 미미한 영역들을 설명하는 데 뒷받침하기 위해 이 이야기를 꺼내 왔지만, 나에게는 이게 큰 충격이자 깨달음이었다.

 

내 얕은 이해로 글을 더 쓰려니 쉽지 않다. 생각해 볼 거리가 많은 인용문으로 끝맺어야 할 것 같다.

기술적으로는 환각이 줄어드는 게 낫지만, 교육적이고 사회적인 영역을 고려하면 그렇지 못한 면도 있을 수 있습니다. 어떤 인간을 갖다 대도 기계가 더 낫다는 사고가 자연스럽게 상식으로 자리 잡을 때, 교육적·사회적 실천의 지식 토대를 구성하는 데 ‘머리를 맞댄 숙의’보다 ‘엘리트 집단의 적절한 프롬프팅’이 더 깊은 신뢰를 획득할 때, ‘인간이 발버둥질해 봐야 기계를 어떻게 따라가’라는 생각이 당연시될 때, 오랜 시간 진행한 민주적 논의 끝에 도달한 정치적 결론보다 인공지능의 제안이 더 낫다는 생각이 만연할 때, 우리는 어떤 모습일까요. 부모보다는 부모형 인공지능을, 교사보다 교사형 인공지능을, 전문가보다 전문가형 인공지능을, 친구보다 친구형 인공지능을 더욱 신뢰하고 존경하게 될 때 인간과 인간 사이의 관계는 어떻게 변화할까요? 인공지능은 인간 자신이 규정하는 정체성의 모습 그리고 인간과 인간 사이 관계성의 지형을 어떻게 바꿀까요? 인공지능 활용 능력도 필요하지만, 인공지능에 대한 비판적이고 창의적이며 윤리적인 접근이 우선 고려되어야 할 이유가 여기에 있습니다.

인간보다 기계가 낫다는 생각으로 모든 걸 기계에 맡길 거면 세상에 정치는 왜 있고 토의를 위한 전문가 집단 같은 것은 왜 있겠느냔 말이다… 어떤 일들은 여전히 인공지능이 대체할 수 없는, 오롯이 인간만의 것이다. 크으 감동.

 

내 이해력이 부족하고 특히 이 책을 읽을 때 내 마음가짐이 바람직하지 않았던 터라 이 책을 100% 다 이해하지 못해 아쉽다. 그렇지만 여러분은 하실 수 있습니다! 저를 위해서라도 읽어 보시고 다시 제게 설명 좀… 굽신굽신. 엄청 어려운 건 아닌데 맑은 제정신으로 집중해서 읽어야 할 책인 듯하다. 제정신이 돌아오면 다시 시도해 봐야지…