Okhi

연말에 읽은 책에서 인용 된 문구를 보고 구매한 ‘패권 AI War’ (파미올슨, 문학동네) 입니다. 이렇게 책과 책 사이에 연결된 고리를 따라가는 독서도 참 즐겁습니다.

440페이지의 두께감이 있는 책이지만, 내용의 흐름과 문장의 속도감 때문에 잘 읽히는 멋진책입니다. 글로벌 IT 회사에 근무하고 있는 저는, AI의 경쟁에 대해서 이미 알고 있던 내용을 좀 더 상세히, 대강 알고 있던 내용을 좀 더 명쾌하게, 그리고 모르고 있던 사실을 알게 되는 ‘아하’의 순간까지 매우 의미있던 독서였습니다.

무엇보다 저자가 중립적으로 Open AI/샘 올트먼 과 DeepMind/데미스 허사비스의 초기 AI 연구부터 글로벌 대기업과 함께 서비스 출시까지의 이야기를 시간과 사건의 흐름에 따라 역동감 있게 묘사하는 부분이 매우 흥미로웠고, 두 AI 거인들이 직면한 현실과 이상 사이의 내외적인 갈등과 (지나고 나면 이야기하기 쉽지만) 그 사이에서 한 큰 의사결정의 배경과 결과를 세밀하게 잘 다뤘습니다.

꽤 오래전 어느 책에서 읽었던 내용인데, 앞으로 세계는 몇몇 거대 글로벌 IT 회사들의 서비스와 제품에 의해서 통제되고 특정 국가와 국민의 개념은 매우 약해질 것이라는 전망을 읽은적이 있었습니다. 그 당시에는 너무 급진적인 접근이란 생각이 들었지만, 요즘들어 시장 내 영향력이 매우 높아진 몇몇 글로벌 기술 기업들을 보면 (MS, Google,Amazon, Apple, Facebook..등) 전혀 불가능 일도 아니라는 생각이 듭니다.

제가 책에서 느꼈던 하나의 편향성은 (AI )기술을 개발한 엔지니어들은 매우 순수한 이상을 가진 존재로만 그리고 글로벌 대 기업은 이익만을 쫒기에 그 순수성을 크게 저해하는 상업적인 존재로만 그려진다는 것입니다. 사실 기업의 목적과 특성을 알고 있기에 그 부분이 잘못됬다 라는 것도 아니고 저도 크게 우려하고 공감하는 바이지만, 저는 책에 주인공들도 때로는 자신의 명예와 부를 쫒아서 의사 결정을 했다고 생각하는 사람입니다 (ㅎㅎ). 글로벌 IT 기업과 합병하고 전략적인 파트너십을 통해서 책 속의 주인공들도 큰 부를 얻게 되었는데 해당 부분에 대한 언급은 전혀 없는 점은 편향성이 있다고 느끼게 합니다.

이미 아시는 바와 같이 오늘날 우리가 사용하는 GenAI는 인터넷 상의 방대한 공개 정보를 학습한 결과 입니다. 1990년 대에 출현하고 2000년 초에 확산 된 인터넷 상의 모든 유저들이 (개인 및 기업) 경쟁적으로 인터넷 상에 자신을 홍보하고 데이터를 널리 광고하는 시대를 만들었죠. 이러한 데이터는 2010년대 모바일/스마트폰 시대가 화장되면서 사진/영상 데이터와 그에 대한 사실/감정적인 설명이 폭증하게 됩니다. 그 대표적인 주자가 바로 Social media 죠. 페이스북, 인스타그램, 레딧, 유튜브, 틱톡 등등

이런류의 데이터가 갖는 공통적인 특징은 그 내용이 자극적이고 일반적이지 않다는 겁니다. 평범한 내용으로 다른 이들의 관심을 끌기가 어려우니 내용이 더 과장되어 있거나(광고 및 홍보성) 과시성 글(SNS 상의 사진/영상/글) 또는 익명성을 이용 해 자신의 주장을 강하게 피력하는 편향성과 폭력성을 수반하게 됩니다.

제가 생각하는 또하나의 원천적인 제약은 인터넷/스마트 폰에 접근이 가능한 사람들이 생성한 내용만 포함되게 됩니다. 현재 약 전 세계 인구의 30% 가량이 기술/경제적인 제약으로 인터넷/스마트폰의 사용이 어려운 것으로 추정되고 있습니다. 그러니 현 GenAI는 정도의 차이는 있겠으나 지구 상의 약 30% 사람들에 대한 학습은 이뤄지지 못했다고 볼 수 있겠지요.

마지막으로 책에서 매우 우려하고 있는 부분은 GenAI 기술을 개발하고 강화한 의사결정자 및 엔지니어 그룹이 백인 남성 위주라는 겁니다. 우리가 편향성에 대해서 크게 오해하고 있는 부분은, 무엇인가 의도적으로 차별하고 배제했기 때문에 문제가 발생한다고 생각하는 겁니다. 사실 가장 큰 문제는, 내 자신이 다른 측면이 존재한다는 사실을 아예 모르기 때문에 발생하는 오류와 편향성입니다. (이를 의식하지 못하는 편향(unconscious bias) 이라고 하지요)

GenAI 관련 의사결정자나 엔니지어 들이 의도적으로 잘못을 저질렀다는 것이 아니라, 획일화 된 그룹이 검토할 수 있는 다양성과 형평성은 태생적인 한계를 지닌다는 것입니다. 이를 해결하는 방법은 다양한 관점과 상황을 이해하거나 대변할 수 있는 사람들이 사업/기술적인 의사결정에 지속적으로 참여 해 그 관점을 의식적으로 확장하고 균형을 유지하려는 노력을 끊임없이 기울여야 하지요.

여기서 우리가 포용성과 다양성을 이야기 할 때 자주 예로 드는 문구가 떠오릅니다. ‘빨리 가려면 혼자가고, 멀리 가려면 여럿이 가라’. GenAI 개발과 그 성과 발표가 극심한 경쟁에 내몰리는 ‘빨리 가야하는 상황’에서는 다양성과 균형을 유지하려는 노력과 투자는 계속해서 우선순위에서 밀리게 됩니다. (여기까지는 우선 출시하고 나중에 정리 하기로 하자 등)

이러한 부분이 책의 중반부터 매우 심도있게 언급되어 있습니다. GenAI가 태생적으로 지니고 있는 여성(선정적인 묘사 및 성적 대상화)과 유색 인종에 대한 편향(범죄 및 사회 계층화) 그리고 특정 국가 및 문화에 대한 편향이 그 예입니다. 이러한 부분이 초기 학습 이후 휴먼 피드백 루프 또는 개선을 위한 필터 등 여러가지 대안이 적용되고 있지만 초기 데이터의 특성을 완전히 배제할 수 없기에 한계를 보일 것으로 생각됩니다.

이러한 문제점이 지니고 있는 법적, 사회적, 윤리적 책임을 잘 알고 있는 IT 대기업들은 (GenAI 개발에 기술적으로 인프라적으로 가장 우세했지만) 초기 GenAI 상용화에는 의도적으로 소극적이었습니다. 이에 대비 해 상대적으로 자유로운 테크 벤처 창업자들을 앞장세워 시장을 테스트하고 본격적으로 진입하게 됩니다. (우리는 OpenAI와 Deepmind 엔진(Large Language Model, LLM) 위에서 서비스를 제공하고 있다.. 엔진 자체의 문제에서는 (윤리적, 사회적) 어느정도 자유로울 수 있는 겁니다)

그럼 중립적이고 올바른(Responsible AI)를 정부와 학계에서 개발하면 되겠네??!! 하지만 이또한 LLM이 필요로하는 Infra를 생각하면 현실적이지 않습니다. 과연 정부와 대학이 그 방대한 데이터 센터와 GPU를 제공할 수 있을까요? 이러한 이유로 기/승/전 Globla IT 업체가 됩니다 (MS Azure, Google GCP, Amazon AWS) 이러한 infra를 건설하고 운영하는데는 천문학적인 투자가 필요하고 이를 위한 수익창출이 되어야 하니, 결론적으로 상업성을 띄지 않는 GenAI는 존재할 수 없게 됩니다. 안타깝지만 이는 아주 단순한 경제적인 모델이지요. (그럼 어떻게 해야 되지??)

저는 GenAI가 지식 노동자들을 반복적인 업무에서 자유롭게 하고 좀 더 생산적이고 창의적인 일에 집중할 수 있게 해준다는 부분은 동의합니다. 저도 일상 업무에서 많은 혜택을 보고 있으니까요. 하지만 제 생각은 결론적으로는 GenAI가 지식 노동자가 회사를 상대로 갖는 협상력을 매우 약화 시킬 것으로 봅니다. 물론 이러한 조건에서도 개인이 어떻게 경쟁력을 재고할 것인지는 자기 개발과 노력이 필요한 부분이긴 하지요. 그리고 시대나 기술이 변함에 따라서 계속해서 요청된 것이기도 합니다.

문제는 GenAI는 기존에 우리가 경험한 기술 변혁의 속도와 비교할 수 없을 정도로 빠르다는 것입니다. 이는 1980년대 일어난 공장 자동화로 대규모 생산 근로자들의 실직 그리고 그로인한 사회 문제와 유사한 양상을 뛸 확률이 매우 높습니다. 당시 공장 자동화 및 세계화는 기술이 출현하고 양산 라인까지 적용되는데 인더스트리마다 차이는 있겠지만 약 7년에서 15년까지 넓게 분포되어 있었습니다. 하지만 GenAI는 본격적인 출시부터 그 확장성을 넓이고 안착하는데 까지 채 3년이 걸리지 않았다는 점입니다. 개인이 노력으로 경쟁력을 재고하거나 준비할 수 있는 물리적인 시간이 너무 짧은 것이 큰 차이입니다.

기업이 지켜야 할 윤리적인 책임을 묻는다지만 태생적으로 수익 창출을 목적으로 한 법인에게 도덕적이고 사회를 고려한 의사결정을 기대하는 것 자체가 문제라고 생각합니다. GenAI 관련 기술은 지난 3년여 간 눈부시게 발전했으나, 이를 위한 사회 안정망의 준비 또는 법적인 검토와 제도는 아직 미비한 수준이고 이는 국가가 반드시 장기적인 관점에서 준비해야되는 부분이라고 생각합니다. (단기적인 국가 기술 경쟁력을 도모 및 글로벌 업체의 로비에 수긍 할 것이 아니라)

호주는 2024년에 16세 이하 어린이들에게 소셜 미디어를 법적으로 금지 시켰고, 프랑스도 최근 최종 법안 확정을 기다리고 있는 상황입니다. 그간 페이스북, 인스타그램, 틱톡 등 소셜 미디어가 초래한 청소년의 우울증, 대인 기피증, 사회적인 문제가 여러 차례 보고되고 경고 되었기에 이러한 폐단을 최소화 하고자 법령이 시행 된 것이지만, 이미 지난 20여년간 우리의 아이들은 큰 피해를 격은 후이고 지금도 현재 진행형이지요. 청소년들을 병들게 하지만 이를 둘러싼 기업의 광고와 수익 모델의 경제가 있기에 정치와 함께 맞물려 커다란 문제를 외면하고 있는 것이 현실입니다.

책도 뽀죡한 대안을 이야기하고 있지 못하고 저도 만찬가지이지요. 그럼에도 불구하고 지속적으로 문제 의식을 갖고 균형잡힌 시각을 유지하는 것은 매우 중요하다고 생각합니다. 당연하다고 생각하는 부분에 ‘정말 그래야 할까?’ ‘왜 꼭 그래야 하지?’ ‘다른 대안을 없을까?’ 이런 질문을 지속적으로 던져야 하지요. 지금 당장 답이 없다고 해도 말이지요.. 마음이 무거워 지는 일요일 오후입니다.