소식

Aug 04, 2023

'누가 생각할 수 있는가'에서 '무엇을 생각할 수 있는가'로: 역사를 통해 AI 발견

Elon Musk가 인류에게 경고하는 위험에 대해 들어보셨을 것입니다.

지금쯤 인공 지능의 위험성에 대해 인류에게 경고하는 엘론 머스크(Elon Musk)의 말을 들어보셨을 것입니다. 실리콘 밸리의 거대 기업에 대한 개인의 의구심이 서로 다르지만, 우리의 현실 구성이 이제 그 어느 때보다 불안정하다는 것은 부인할 수 없습니다. 기술 발전이 통제할 수 없고 되돌릴 수 없는 속도로 전개됨에 따라 지난 수십 년 동안 학자들이 발표한 수많은 예측적 경고를 되돌아볼 필요가 있습니다.

기계가 인간 정신의 능력 내에서만 가능하다고 생각되었던 것을 수행할 수 있다는 개념은 수학자 앨런 튜링(Alan Turing)의 1950년 실험, 즉 튜링 테스트(The Turing Test)로 거슬러 올라갑니다. 튜링의 실험에서 참가자들은 컴퓨터 단말기에서 받은 메시지의 발신자가 사람인지 기계인지 추측했습니다. 토리노는 기계가 인간 의식의 거대한 저장고를 모방하고 행동할 수 있다면 실제로 인간이 될 수 있다고 주장했습니다. 이후 기계와 인간 지능의 결합으로 "사이보그"가 탄생합니다. 미국 문학 평론가 캐서린 헤일스(Katherine Hayles)의 말을 빌리자면, “당신은 사이보그이고, 사이보그는 바로 당신이다.” 결과적으로 계몽주의 이후 '인간'으로 널리 간주되었던 자유주의 주체는 이제 '포스트휴먼'이 된다.

Turing의 실험과 Hayles의 주장이 있은 지 수십 년이 지난 지금, 최신 iPhone은 수백 개의 복잡한 비밀번호를 생성하고 기억합니다. iPad는 수업용 메모를 저장하고 음성에 응답합니다. Apple Watch는 심박수를 측정하고 칼로리를 추적합니다. 이렇게 쉽게 접근할 수 있는 리소스 덕분에 전자 기기가 없는 삶을 상상할 수 없습니다. 이러한 신뢰는 여러 측면에서 긍정적이지만 두 가지 버전의 자신이 존재한다고 상상하면 섬뜩해집니다. 하나는 피와 살로 구성되어 있고 다른 하나는 완전히 디지털 환경에서 기호와 상징의 형태로 존재합니다. 이제 복잡하고 깊이 생각한 에세이를 즉시 만들어 낼 수 있는 로봇에 도달하는 데 몇 초밖에 걸리지 않으므로 기술은 더 이상 인간 주제와 의미 있게 분리될 수 없다고 결론을 내리는 것이 안전해 보입니다.

정보가 육체를 벗어나고 물질성이 쓸모없어지는 이 새로운 포스트휴먼 패러다임에서는 실리콘 밸리의 아이디어를 활용할 때 조심하는 것이 필수인 것 같습니다. AI의 가시적인 영향을 드러내는 과학적 사실뿐만 아니라 기술 발전의 결과로 인류가 직면한 복잡한 사회적, 문화적, 정치적 문제를 드러내는 문학적 텍스트를 모두 적극적으로 연구하는 것이 중요합니다.

이 새로운 계시는 인간이 이제 자신의 몸을 단순한 패션 액세서리로 취급할 수 있다는 것을 의미합니까? 반드시 그런 것은 아닙니다. 1999년 저서 "우리는 어떻게 포스트휴먼이 되었는가"에서 헤일즈는 이상적인 포스트휴먼 세계를 "무한한 권력과 실체 없는 불멸성에 대한 환상에 현혹되지 않고 정보 기술의 가능성을 포용하는" 세계로 묘사합니다. 게다가 헤일즈는 또한 이 세상이 "인간 존재의 조건으로서 유한성을 인식하고 기념해야 한다"고 지적합니다. 권력이 가장 집중된 조직은 정교한 기술과 가상성을 자랑하는 듯해 이 비전은 현실로 나타난 듯하다. 예를 들어, 미 국방부는 현재 스스로를 전쟁이 벌어지는 "전례 없는 극장"으로 보고 있습니다. 이렇게 말하면 현대 학자들이 제기한 우려로 인해 Hayles의 비전을 달성하기가 더욱 어려워졌습니다.

헤일즈의 포스트 인본주의적 개입이 출판된 지 20년 후, 사회학자이자 프린스턴 대학의 루하 벤자민 교수는 "뉴 짐 코드(New Jim Code)"라는 용어를 만들었습니다. 이 아이디어는 계층 구조를 증폭하고 사회적 분열을 복제하기 위해 명시적으로 작동하는 기술의 다양한 차별적 설계를 나타냅니다. 간단히 말해서, 현대 인간 경험의 거의 모든 틈새에 스며드는 기술은 체계적 불평등을 복제하고 악화시킬 수 있으며 때로는 그 반대를 촉진하는 것처럼 보이는 기만적이고 기분 좋은 외관을 뽐낼 수 있습니다. Benjamin이 올바르게 지적했듯이 현재 상태에서 이 코드를 구현하는 새로운 애플리케이션이 많이 있습니다.