강력한 AI를 만드는 가능성과 실현 가능성에 관하여

우리가 직면하고 있는 것은 초지능 기계가 아니라 인간의 열등감이다.

ㅡ휴버트 드레이퍼스

 

 

이 글에서는 인공지능(AI) 개발 역사를 간략하게 살펴보고, 강력한 AI 달성 가능성에 대한 권위 있는 전문가들의 다양하고 종종 상반되는 평가를 인용합니다. 특히 이 과정에서 해결해야 할 다양한 문제, 특히 철학적 문제에 관심을 가졌습니다. 이용 가능한 정보를 분석한 결과, 강력한 AI 달성은 이론적으로는 가능하지만, 해결해야 할 과제의 복잡성과 세계 엘리트들의 실질적인 관심 부족을 고려할 때, 강력한 AI 달성은 10~20년의 계획 기간 동안 매우 실현 가능성이 낮다는 결론을 내렸습니다.

 

 

자료는 꽤 방대했습니다. 여러 부분으로 나누지는 않았지만, 주제에 대한 전반적인 이해를 돕는 특별 정보와 방대한 인용문을 간략하게 정리했습니다. 

 

AI 주제를 논의할 때는 용어에 대한 합의가 매우 중요합니다. 그렇지 않으면 개념이 서로 뒤섞이기 쉽습니다.

 

저는 이전에 권위 있는 전문가들의 의견을 참고하여 Tim Urban(The AI Revolution: The Road to Superintelligence)이 공식화한 다음 정의를 인용했습니다.

 

 

1. 인공 협대역지능 ( ANI ):

 

특정 작업/문제에 특화된 AI입니다. 그리고 종종 이 작업의 해결에 있어 인간을 능가하기도 합니다. 예를 들어, 체스 프로그램이 인간을 이겼지만, 그 한계는 오직 그것뿐입니다. 우리는 일반적으로 방대한 양의 데이터를 다루는 다양한 종류의 전문가 시스템에 대해 이야기하고 있습니다.

 

 

 

2. 인공 일반 지능( AGI ):

 

인간 수준의 AI(예: 일반 인간형 지능, GHLI)라고도 합니다. 이것은 모든 지적 및 창의적 문제를 인간처럼 해결할 수 있는 AI를 지칭합니다. 린다 갓프레드슨 교수는 이러한 AI를 "추론, 계획, 문제 해결, 추상적 사고, 복잡한 개념 파악, 빠른 학습, 경험으로부터의 학습 능력 등을 포함하는 매우 일반적인 정신적 능력"이라고 설명합니다. GHLI는 이 모든 것을 인간처럼 쉽게 수행할 수 있을 것입니다.

 

 

 

3. 슈퍼 AI 인공 초지능( ASI ):

 

옥스퍼드 대학교의 AI 전문가인 닉 보스트롬은 이를 "과학적 창의성, 삶의 지혜, 사회적 기술을 포함한 거의 모든 영역에서 최고의 인간 두뇌를 훨씬 능가하는 지능"이라고 정의했습니다.

 

 

 

한동안 이러한 정의는 제게 적합했습니다. 하지만 이러한 정의가 꽤 흔함에도 불구하고, 실제 사용은 많은 의문을 불러일으킵니다. 더욱이, 이러한 정의는 강력한 AI의 본질과 이를 달성하는 과정에서 필연적으로 발생할 문제들을 이해하는 데 방해가 됩니다.

 

 

용어상의 혼란을 명확히 하여 논의를 시작하겠습니다. 약한 것 :  좁은 의미, 강한 것 : 일반적인 의미.

 

약한 AI와 좁은 AI(특정 작업에 맞춰 설계된 설루션)를 특별히 구분하는 사람은 없지만, 강한 일반 AI와 관련하여 이러한 개념을 구분하려는 전문가들이 있습니다. [예: 라그나르 피요란(Ragnar Fjølland)은 Nature에 게재한 "왜 일반 AI는 실현되지 않을까?"라는 논문(아래에서 언급하겠습니다.)을 예로 들 수 있습니다.] 그들은 인간 지능이 보편적이고, 다양한 문제를 해결할 수 있는 특성을 지녔기 때문에, 동일한 기능을 수행하는 인공지능을 일반 AI라고 해야 한다고 주장지만 인간 지능과 동일한 지능은 강력 AI라고 불러야 한다고 주장합니다.

 

 

위의 정의에서 약한 AI와 일반 AI의 차이는 다소 임의적이며, 질적 측면보다는 양적 측면에 더 가깝습니다. 전문가 수준 시스템은 이미 "문제 해결", "빠른 학습"(자신의 경험을 바탕으로), "계획 수립", "복잡한 아이디어 이해"는 물론, 음악, 시, 그림 등을 쓸 수 있습니다. 약한 AI는 이미 많은 특정 작업을 인간만큼 쉽게, 때로는 인간보다 훨씬 더 잘, 더 빠르게 수행합니다.

 

 

따라서 이러한 접근 방식을 통해 다양한 전문화된 (약한) AI를 하나의 보편적인 AI로 결합하는 문제에 대해 논의할 수 있습니다. 약한 AI와 일반 AI의 질적 차이에 대한 논의는 없는 것 같습니다. 이제 누가 체스를 두는 로봇이 필요하고 왜 필요한지, 누가 노래하고, 그림을 그리고, 날씨를 예측하고, 사진에서 개를 찾는지 명확히 하는 것만 남았습니다. 다시 말해, 서로 다른 "전문가"들 중에서 하나의 "슈퍼 전문가"를 구성하는 작업은 과학적 과제라기보다는 편의주의적인 문제입니다.

 

 

"일반"이라는 용어가 (위의 정의에서 직접적으로 도출되는 것은 아니지만) 어떤 의미인지는 의문이 제기될 수 있습니다. "일반"이라는 용어는 (이 개념이 무엇을 의미하든) 충분한 "지능"을 보유하여 필요한 경우 사람처럼 독립적으로 새로운 기술과 직업을 습득할 수 있는 AI를 의미한다는 것입니다. 그렇다고 사람보다 더 "나쁠 필요는 없습니다." 이러한 설명은 필수적이지만, 모든 의문을 해소하는 것은 아닙니다.

 

 

그리고 다음과 같은 질문들이 제기됩니다. 그러한 UCHI는 언뜻 보기에 문제 해결과 직접적인 관련이 없어 보이지만, 인간에게 내재된 자질을 가져야 할까요? 예를 들어 도덕성, 감정, 신념, 목표 설정, 자기 계발 등과 같은 자질들이 있습니다. 이러한 자질들을 비롯한 여러 자질들은 인간 의식의 필수적인 속성입니다. UCHI를 만들 때 이러한 자질들을 모델로 삼아야 할까요?

 

 

사실, 위의 AI 정의는 "인간처럼 (또는 그 이상으로) 행동하는 법을 배우는 것"과 "인간이 되는 법 (또는 그 이상으로)을 배우는 것"을 구분하지 않습니다. 그리고 이 두 가지의 차이는 근본적으로 다릅니다. 이러한 이해는 S. 러셀과 P. 노빅의 저서에 제시된 다음과 같은 공식화에 반영되어 있습니다.

철학자들은 기계가 진정한 지능을 가진 것처럼 행동할 수 있다는 주장을 "약한" 인공 지능 가설이라고 부르고, 기계가 (단순히 사고 과정을 모방하는 것이 아니라) 정말로 생각한다는 주장을 "강한" 인공 지능 가설이라고 부릅니다.

 

 

이러한 접근 방식을 통해, 사람들이 "정말 어떻게 생각하는지"를 정확히 규명해야 합니다.

 

 

마지막으로, 강력한 AI와 "초" 인공지능의 개념을 의미 있게 구분하는 것은 거의 의미가 없습니다. 많은 사람이 강력한 AI에서 초인공지능으로 가는 길이 매우 짧을 것이라는 관점을 공유하고 있기 때문입니다. "강력한 AI"는 스스로의 개선에 노력하면서 우리가 초인공지능에 부여한 기술을 매우 빠르게 개발할 것입니다.

 

이제부터는 이런 식으로 정의된 강력한 AI에 대해서만 이야기하고, AGI의 모호한 개념은 무시하겠습니다.

 

저는 이 문제를 두 가지 측면에서 고려해 볼 것을 제안합니다. 이론적인 측면(이상적인 조건에서 강력한 AI를 만드는 것이 가능한가? 그리고 어떻게 만드는가?)과 구체적인 실제적인 측면(이론적 프로그램을 실제로 구현하는 것이 가능한가?)입니다.

 

 

ㅡAI: 권력을 향한 긴 여정

 

 

 

앨런 튜링은 AI의 선구자라고 해도 과언이 아닙니다. 그는 강력한 AI라는 개념이 등장하기 훨씬 이전인 1950년 논문에서 이미 강력한 AI에 대한 많은 의문을 제기하고 고찰했습니다. 이 글은 1960년에 출판된 "기계는 생각할 수 있는가?"라는 책에서 찾아볼 수 있습니다. (이 책은 A. 튜링과 J. 노이만의 두 논문의 러시아어 번역본입니다. Alan Turing이라는 위대한 천재를 이 조사를 하면서 당연히 접하게 되었습니다. 아인슈타인 같은 표절자가 아닌 진정한 천재로, 그의 짧은 인생을 위키로라마 보면서, 저는 가슴이 뭉쿨했습니다. 그가 닦은 AI로의 길 위에서, 이제 우리는 그의 저서를 러시아어라도 쉽게 전달받을 수 있습니다. 이 얼마나 감동적입니까?!)

AI로 깨끗하게 볼 수 있습니다. 이 진정한 천재를..

 

 

AI 개발에 대한 "기능주의적" 접근, 즉 "인간처럼 행동하는 법을 배우는" 문제를 설정하고 해결하는 것의 타당성을 정당화하기 위해 모든 노력을 기울인 사람이 바로 튜링이었습니다. 기능주의의 본질은 잘 알려진 속담 "고양이의 색깔은 중요하지 않다. 쥐만 잘 잡으면 된다"에 잘 표현되어 있습니다. 즉, 기계가 알고리즘과 프로그램의 도움을 받아 이해, 의식, 감정 등을 해결하고, 예측하고, 계산하고, 모방할 수 있다면, 실제로 인간처럼 생각하고, 이해하고, 인식 하고, 느끼는지 여부는 중요하지 않다는 것입니다. 이러한 사상의 지지자들(예를 들어, 위르겐 슈미트후버)은 이러한 맥락에서 강력한 AI의 실현 가능성과 상당히 빠른 속도에 대해 이야기합니다.

이 문제에 대한 이러한 접근법을 구현하면서, 튜링은 "기계는 생각할 수 있는가?"라는 질문에 "모방 게임"의 결과를 통해 답할 것을 제안했는데, 이는 현재 (어떤 형태로든) <튜링 테스트>로 알려져 있습니다. 그는 자신의 접근법을 다음과 같이 설명했습니다.

... '기계는 생각할 수 있는가?'라는 질문은 "모방 게임을 잘할 수 있는 가상의 디지털 컴퓨터가 있는가?"라는 질문으로 대체될 수 있습니다. 

 

 

 

튜링 자신도 기계의 연산 능력이 향상됨에 따라 이러한 테스트를 통과할 수 있다고 믿었습니다.

저는 50년 후에는 약 10⁻¹의 기억 용량을 가진 기계를 프로그래밍하여 모방 게임을 매우 성공적으로 수행할 수 있을 것이라고 확신합니다. 따라서 일반 사람이 질문을 시작한 지 5분 만에 기계의 존재를 감지할 확률은 70%를 넘지 않을 것입니다. 원래 질문이었던 "기계는 생각할 수 있을까?"는 너무 어리석어서 고려할 가치가 없다고 생각합니다.

 

 

이 테스트가 제안된 이후 70년 동안 여러 차례 시도되었지만 성공 여부는 제각각이었고, 이에 대한 많은 의문이 제기되어 왔습니다. 대부분의 전문가들은 테스트 통과 여부가 기계의 사고 능력에 대한 명확한 답을 제공하지 않는다고 생각합니다.

 

실제로 튜링은 모방 시험을 제안하고 기계가 "진정으로" 사고할 수 있는지에 대한 진지한 논의를 거부함으로써 향후 수년간 AI 분야의 연구 프로그램을 정의했습니다. 이는 소위 "기호 AI" 프로그램으로, 가장 단순화하여 모든 정신 활동을 궁극적으로 기호로 작동하는 일련의 휴리스틱 규칙(불충분한 시간이나 정보로 인해 합리적인 판단을 하기 어려울 때, 또는 체계적인 판단이 굳이 필요하지 않을 때, 사람들이 빠르고 쉽게 결정을 내릴 수 있도록 도와주는 어림짐작의 규칙이나 경험 법칙)과 알고리즘을 따르는 것으로 축소하려는 시도로 정의할 수 있습니다. AI의 창시자 사이먼과 뉴웰은 다음과 같이 썼습니다.

물리적 기호 시스템은 기본적인 지적 연산을 수행하는 데 필요하고 충분한 수단을 갖추고 있습니다.

 

 

튜링은 자신의 접근 방식에 대한 잠재적인 반론을 예상하고 이를 논문에 미리 답하려고 노력했습니다. 그는 무려 9개의 가설적 반론을 인용했습니다.

튜링의 9가지 반대


1. 신학적 반대

"사고는 인간 불멸의 영혼의 속성입니다. 신은 모든 남녀에게 불멸의 영혼을 주셨지만, 다른 어떤 동물이나 기계에게도 영혼을 주지 않으셨습니다. 따라서 동물이나 기계는 생각할 수 없습니다."

2. "타조" 관점에서의 반대

"기계가 생각하는 것의 결과는 너무나 끔찍할 것입니다. 기계가 생각할 수 없기를 바라며 믿어야 합니다."

3. 수학적 반대

"수리 논리학에는 이산 상태 기계의 성능에 특정한 한계가 있음을 보여주는 여러 결과가 있습니다. 이러한 결과 중 가장 잘 알려진 괴델의 정리는 충분히 강력한 논리 시스템이라면 시스템 자체의 일관성을 유지하는 한, 시스템 내에서 증명도 반증도 불가능한 명제를 공식화할 수 있음을 보여줍니다."

4. 의식의 관점에서의 반대

J. 제퍼슨: "기계가 소네트를 쓰거나 음악을 작곡할 수 있을 때까지, 기계가 자신의 생각과 감정에 따라, 그리고 기호들의 우연한 일치에 의해 그렇게 할 수 있을 때까지, 우리는 그것이 뇌와 동등하다고, 즉 기계가 그런 것들을 쓸 수 있을 뿐만 아니라, 자신이 쓴 것을 이해할 수 있다고 동의할 수 없습니다."


5. 기계가 모든 것을 할 수 없다는 반대 의견

"기계가 당신이 언급한 모든 일을 할 수 있다는 것에는 동의하지만, X를 할 수 있게 할 수는 절대 없을 겁니다. 그리고 그들은 이 X에 대한 꽤 긴 값 목록을 나열합니다."

6. 레이디 러블리스의 반대

"분석 엔진은 실제로 새로운 것을 창조한다고 주장하지 않습니다. 이 기계는 우리가 지시하는 대로 무엇이든 할 수 있습니다."


7. 신경계의 작용 연속성에 근거한 반대

"신경계가 이산 상태 기계가 아니라는 것은 의심의 여지가 없습니다. 뉴런에 작용하는 신경 자극의 강도에 대한 정보의 작은 오류는 출력 자극에 상당한 변화를 초래할 수 있습니다. 따라서 이산 상태 기계로는 신경계의 행동을 시뮬레이션할 수 없는 것으로 보입니다."

8. 인간 행동의 비공식성 관점에서의 반대

"만약 모든 사람이 살아가는 데 필요한 특정한 행동 규칙을 가지고 있다면, 그는 그저 기계에 불과할 것입니다. 하지만 그런 규칙은 존재하지 않습니다. 따라서 인간은 기계가 될 수 없습니다."

9. 초감각적 지각의 관점에서의 반대

"초감각적 지각의 관점에서 제기되는 이의는 제 생각에 매우 심각합니다. 초감각적 지각에 대한 온갖 잡음에도 불구하고 많은 과학 이론이 실제로 적용 가능하다는 반박이 가능합니다. 따라서 현실에서는 초감각적 지각의 존재 자체를 잊어버림으로써 초감각적 지각 없이도 충분히 잘 해낼 수 있다는 것입니다. 이는 어쩌면 작은 위안일지도 모릅니다. 사고가 바로 초감각적 지각과 직접적인 관련이 있을 수 있는 현상 중 하나라는 우려가 있기 때문입니다."

 

 

하지만 언급된 모든 반론이 오늘날에도 흥미롭고 관련성이 있는 것은 아니라는 점에 유의해야 합니다. 게다가 튜링은 논쟁가라기보다는 훨씬 뛰어난 암호학자이기도 했습니다. 제 생각에 그는 대부분의 반론에 설득력 있게 반박하지 못했으며, 그로 인해 자신의 입장을 정당화하지 못했습니다. 그는 자신의 글에서 다음과 같이 인정했습니다.

독자 여러분 은 아마도 제 관점을 뒷받침하는 특별히 설득력 있는 긍정적 논거가 제게 없다는 것을 이미 눈치채셨을 겁니다. 만약 그런 논거가 있었다면, 제 의견과 상반되는 의견에 담긴 오류를 검토하느라 그렇게까지 고생하지 않았을 겁니다.

 

 

 

그럼에도 불구하고, 세 가지 반론은 그 타당성을 잃지 않았을 뿐만 아니라, 제 생각에는 강력한 AI의 실현 가능성에 대한 질문에 답하는 데 근본적으로 중요합니다. 즉, 신학적 반론, 의식의 관점에서의 반론, 그리고 초감각적 지각의 관점에서의 반론이 바로 그것입니다. 이 반론들은 인간의 사고방식뿐 아니라 인간의 본질 자체에 영향을 미치기 때문입니다. 이후 설명에서 이 반론들을 이제 살펴보겠습니다.

 

 

이 시기(지난 세기의 50년대와 60년대)에는 AI 문제에 대한 뜨거운 관심이 팽배했고, 이를 계기로 오늘날 우리가 "강력한 AI"라고 부르는 AI 개발의 급속한 진전이 기대되었습니다. 당시 탄탄한 재정 지원 하에 발표된 연구 성과 중 일부는 다음과 같습니다.

 

 

1958년, GPS 프로그램(알고리즘 문제를 성공적으로 해결한 일반 문제 해결기)의 저자 중 한 명인 Simon이 다음과 같이 말했습니다.

 

▶ 디지털 컴퓨터가 세계 체스 챔피언이 되는 데는 10년도 걸리지 않을 것이다. 경쟁을 막는 규칙이 도입되지 않는 한 말이다.

 

▶ 10년도 채 걸리지 않아 컴퓨팅 머신은 중요하면서도 지금까지 알려지지 않은 수학적 정리를 발견하고 증명하고, 비평가들로부터 가치를 인정받는 음악을 만들어낼 것입니다.

▶ 10년 이내에 대부분의 심리학 이론은 컴퓨터 프로그램이나 컴퓨터 프로그램의 특정 특성에 대한 질적 진술의 형태를 띠게 될 것입니다.

ㅡ 사이먼

 

▼ 앞으로 20년 안에 기계는 지금 사람이 하는 모든 일을 대신할 수 있게 될 것입니다.

▼ 차세대는 기본적으로 인공지능을 만드는 문제를 해결할 것입니다.

 

▼ 3~8년 안에 우리는 평균적인 인간의 지능을 갖춘 기계를 갖게 될 것입니다.

 

ㅡ 마빈 민스키

 

 

약속은 실현되지 않았습니다. 인공지능의 "겨울"이 시작되었습니다. 그 결과, 미국과 영국 정부는 대학의 AI 연구 자금을 삭감하기 시작했습니다. 1960년대 AI 연구 자금 지원에 거리낌이 없었던 DARPA는 명확한 기한과 프로젝트의 예상 결과에 대한 자세한 설명을 요구하기 시작했습니다. 그 결과, AI는 기대에 부응하지 못했고 결코 인간의 능력 수준에 도달할 수 없을 것처럼 보이기 시작했습니다. 그 이유 중 하나는 기계의 연산 능력과 대부분의 AI 문제의 복잡성 간의 불일치였습니다. 이를 "차원의 저주"(변형된 표현은 "조합 폭발")라고 불렀습니다. 30개의 논리 규칙(알고리즘 매개변수)을 가진 가장 단순한 문제조차도 휴리스틱과 기타 계산 감소("의사결정 트리")를 적용하더라도 모든 옵션을 완전히 계산하는 데 수 시간, 심지어 수년이 걸렸습니다. AI의 첫 번째 "겨울"은 1970년대 내내 지속되었습니다.

 

 

1980년대 초, 대량의 데이터를 처리하고 인간의 의사 결정 과정을 모방하는 전문가 시스템이 개발되고 초기 성공하면서 일부 부활이 이루어졌습니다. 전문가 시스템은 문제 해결에 있어 전문가를 대체하기 위한 목적으로 요구되었습니다. 전문가 시스템은 일련의 규칙에 기반한 프로그램을 구현하는 자동화된 컴퓨터 시스템으로, 상황을 인식하고 간단한 논리적 결론을 도출할 수 있도록 했습니다. 이러한 결론은 관련 분야 전문가들이 수집한 지식 기반에서 도출되어 형식적인 기계어로 번역되었습니다.

 

 

전문가 시스템의 성공은 DARPA가 AI 연구 자금을 늘리도록 이끌었지만, DARPA는 곧 대부분의 자금을 삭감하여 소수의 프로그램만 남겼습니다. 민간 투자자들은 인공지능 문제와 조금이라도 관련이 있는 모든 연구와 거리를 두려고 했습니다. 과학자들과 그들에게 자금을 지원한 기관들 사이에서조차 "인공지능"이라는 용어 자체가 바람직하지 않게 되었습니다. 두 번째 AI "겨울"은 1990년대 후반까지 지속되었습니다.

 

AI는 1997년 IBM의 딥 블루 체스 컴퓨터가 당시 세계 챔피언 가리 카스파로프를 이겼을 때 다시 대중의 주목을 받았습니다. 딥 블루는 강력한 컴퓨팅 성능을 자랑했고, 초당 2억 개의 가능한 수를 평가하고 가장 적절한 수를 선택하는 "무차별 대입" 기법을 사용했습니다. 딥 블루는 AI처럼 작동했지만, 다른 시스템처럼 전략을 생각하거나 게임 방법을 학습하지는 않았습니다.

 

 

지금까지(2000년대 초반까지) 연구는 "Good Old Fashioned AI" 또는 줄여서 GOFAI라고 알려진 패러다임 내에서 수행되어 왔다고 볼 수 있습니다. 이 용어는 1985년 John Haugeland가 만들었습니다. GOFAI는 모든 지능적 행동은 해당 문제 영역을 설명하는 일련의 사실과 규칙을 기반으로 논리적으로 추론할 수 있는 시스템으로 표현될 수 있다는 주장에 기초합니다.

 

그러한 접근 방식의 성공에 대해 합리적인 의심을 품은 최초의 사람 중 한 명은 철학자 휴버트 드레퓌스였는데, 그는 동생 스튜어트를 포함하여 인공지능에 대한 여러 영향력 있는 비판을 썼습니다.

 

 

드레퓌스는 일반적으로 열광하는 분위기 속에서 AI 옹호론자들의 낙관적인 예측은 결코 실현되지 않을 것이라고 썼고, AI 이론의 명시적, 암묵적 가정을 지적하며 이를 비판했습니다.

AI 이론의 가정에 대한 드레퓌스:


생물학적 가정 : 뉴런 간 신호 전달에 있어서 불연속성을 가정한다.

심리적 가정 : 사고는 이진 코드로 주어진 정보를 처리하는 것으로 볼 수 있으며, 처리 과정은 특정한 형식적 규칙에 따라 이루어진다.

인식론적 가정 : 모든 지식은 형식화될 수 있다. 즉, 이해할 수 있는 모든 것은 논리적 관계, 더 정확히는 이진 코드로 주어진 정보를 처리하기 위한 규칙을 지정하는 논리 계산인 부울 함수의 관점에서 표현될 수 있다.

존재론적 가정: 세상에서 일어나는 모든 일은 일련의 사실로 표현될 수 있으며, 각 사실은 다른 사실과 논리적으로 독립적이다.

 

 

 

드레퓌스는 의식에 대한 현상학적 접근을 옹호했는데, 이에 따르면 사람은 주변 의식을 가지고 있으며, 이를 통해 주변 세계의 신호를 포착할 수 있습니다. 이러한 신호의 수는 무한히 많을 수 있지만, 증명의 각 단계가 진행될수록 문제 해결이 몇 배나 더 복잡해지는 조합적 폭발로부터 사람은 보호받습니다. 더 나아가, 사람은 상황에 대한 깊은 이해와 통찰력을 바탕으로 관련 있는 것과 관련 없는 것을 구별할 수 있습니다. 반면, 프로그램은 개발자가 정한 규칙에 따라 중요한 것과 중요하지 않은 것을 구분합니다.

또한, 사람들은 맥락에 민감하고 모호함을 용인합니다. 모호한 문장을 이해할 수 있으며, 네커 큐브와 같은 시각적 착시 현상도 인지합니다.

우리가 일상생활에서 사용하는 지식의 대부분은 암묵적입니다. 특히 알고리즘의 형태로 설명하고 공식화하기는 어렵습니다. 유명한 우화에 나오는 지네처럼, 우리가 매 걸음마다 발을 어떻게 딛어야 할지 생각하기 시작하면, 우리는 걸을 수 없게 될 것입니다. 마이클 폴라니가 말했듯이,

... 우리는 말할 수 있는 것보다 더 많이 알 수 있다.

 

 

1980년대, 첫 번째 AI 겨울 이후, 이 분야는 "상징적" AI에서 인간 뇌의 과정 모델링으로 옮겨갔습니다. 학습이 가능한 최초의 인공 신경망이 등장했습니다. AI 지지자들(특히 러셀과 노르빅)은 드레퓌스의 반대가 가장 단순한 논리 에이전트에 해당하는 GOFAI에 관한 것이라고 지적했으며, 논리적 에이전트는 명세 문제를 해결할 수 없기 때문에 약점을 가지고 있다는 드레퓌스의 주장은 옳았습니다. 그러나 머신 러닝과 신경망과 관련된 AI 시스템 개발에 대한 새로운 접근법이 점차 확산되면서 이 문제를 비롯한 여러 어려운 문제들을 해결할 길이 열린 것처럼 보였습니다.

드레퓌스 본인과 그의 형은 원칙적으로는 아무것도 변하지 않았다고 생각하며 신경망의 한계를 지적했습니다. 러셀과 노르빅은 저서에서 드레퓌스 부부의 주장에 이의를 제기하며 그들의 의견에 다음과 같이 답했습니다.

 

러셀과 노르빅의 드레퓨즈 신경망 논쟁

1. 배경 지식 없이는 예시를 바탕으로 한 좋은 일반화를 이룰 수 없습니다. 드레퓨즈는 신경망 학습에 배경 지식을 활용할 방법이 없다고 주장합니다.

- 사실, 학습 알고리즘에서 선험적 지식을 활용할 수 있도록 하는 방법들이 이미 개발되었습니다. 그러나 이러한 방법들은 명시적인 형태로 제시된 지식이 존재한다는 사실에 기반하며, 이러한 접근 방식은 드레퓌스 형제에 의해 완강히 부정됩니다. 이 책의 저자들은 이러한 과학자들의 견해가 현대 신경 정보 처리 모델을 진지하게 재설계하여 학습 과정 초기에 획득한 지식을 다른 학습 알고리즘에서 사용되는 것과 동일한 원리에 따라 활용할 수 있도록 해야 할 충분한 이유가 된다고 주장합니다.

2. 신경망 학습은 관련 입력과 정확한 출력을 사전에 식별해야 하는 지도 학습의 한 유형입니다. 따라서 드레퓌스 형제에 따르면, 신경망 학습 시스템은 인간 교사의 도움 없이는 자율적으로 작동할 수 없습니다.

- 실제로 비지도 학습은 비지도 학습과 강화 학습 방법을 사용하여 달성될 수 있습니다.


3. 많은 수의 특징을 사용할 때 학습 알고리즘의 성능이 떨어지고, 특징의 하위 집합만 선택할 경우, 과학자들에 따르면 ''학습 과정에서 학습한 일부 사실을 현재 집합이 허용하지 않는다는 것이 발견되면 새로운 특징을 도입할 방법이 없습니다.''

- 실제로, 서포트 벡터 머신(SVM)과 같은 새로운 방법은 대규모 특성 집합을 처리하는 데 매우 성공적입니다. 원칙적으로 새로운 특성을 생성하는 것도 가능하지만, 훨씬 더 많은 노력이 필요합니다.


4. 뇌는 센서를 통해 관련 정보를 검색하고 처리하여 현재 상황과 관련된 측면을 추출할 수 있습니다. 드레퓌스 형제는 "이 메커니즘의 세부 사항은 현재 알려져 있지 않으며, 인공지능 연구를 올바른 방향으로 이끌 수 있는 작동 방식에 대한 가설조차 존재하지 않는다"고 주장합니다.

- 실제로 센서의 올바른 방향을 선택하는 문제는 정보 비용 이론에 기반한 능동적 시각 분야의 주제이며, 얻어진 이론적 결과는 이미 일부 로봇 제작에 적용되었습니다.

 

 

 

 

위의 논쟁들을 통해 AI 비판론자들은 의식과 세상 사이의 상호작용, 지식의 추출 및 처리, 결론의 구성, 새로운 기술의 학습 등 기존 AI 모델에 적용되지 않는 끊임없이 새로운 기능들을 지적하고 있음을 알 수 있습니다. 그리고 매번 AI 지지자들은 이러한 한계를 극복하고 AI의 구조를 개선할 수 있는 가능성(때로는 순전히 가설적인)을 제시합니다.

 

 

드레퓌스의 접근 방식에는 지지자들이 있습니다. 아래에서 언급할 네이처(Nature)에 게재된 "일반 AI가 실현되지 않는 이유"라는 논문을 쓴 라그나르 피요란드(Ragnar Fjølland)는 드레퓌스의 주장이 옳다고 주장합니다.

 

 

 

 

 

ㅡ강력한 AI 만들기 – 이론적 측면

 

 

간단히 말해, AI 개발에는 두 가지 길만 있습니다. 첫 번째는 인간이 직면한 문제를 해결하고 지구와 지구 밖의 경계를 극복(정복?)하는 데 필요한 능력을 확장할 수 있는 이상적인 도구를 만드는 것입니다. 두 번째는 인간 자신을 업그레이드하여 지구를 물려받고 목표와 의미를 스스로 결정할 수 있는 일종의 슈퍼맨을 만드는 것입니다.

 

 

이 프로그램을 구현하기 위한 세 가지 주요 전략이 있는데, 예를 들어 AI 전문가이자 미래학자인 닉 보스트롬이 그의 책에 자세히 기술해 놓았습니다.

 

 

 

1. 도구적 AI 

 

뇌 기능을 시작점으로 사용하는 접근 방식이지만 저수준 모델링은 계획되지 않았습니다.

 

ㅡ도구적 AI란?

뇌 기능의 기본 메커니즘 세트는 매우 제한적입니다. 사실, 그 수가 매우 적습니다( 알려진 메커니즘이 나열된 AI Journey-2019의 발표). 이러한 모든 메커니즘은 신경 과학의 끊임없는 발전 덕분에 조만간 연구될 것입니다.

그러나 오늘날에도 이러한 지능형 시스템에 내재된 몇 가지 필수적인 특성을 인식하는 것은 가능합니다. 시스템 핵심의 필수 속성인 학습 능력은 설계 단계에서부터 확립되어야 하며, 나중에 확장 형태로 추가되어서는 안 된다는 것은 매우 명백합니다. 불확실하고 확률적인 정보를 효과적으로 처리하는 능력도 마찬가지입니다. 현대 AI의 핵심 모듈 중에는 외부 및 내부 센서의 데이터에서 유용한 정보를 추출하고, 얻어진 개념을 논리와 직관에 기반한 사고 과정에 활용할 수 있도록 유연한 조합적 표현으로 변환하는 수단이 포함되어야 할 것입니다.

 

 

 

2. 인간 뇌의 완벽한 에뮬레이션

 

"전뇌 에뮬레이션" 또는 "마인드 업로딩"이라고 불리는 과정을 통해, 인공지능은 생물학적 뇌의 계산 구조를 스캔하고 정확하게 복제함으로써 만들어집니다. 이는 자연에서 온전히 영감을 얻는다는 것을 의미합니다.

 

ㅡ"뇌모방"이란?

우선, 필요한 장비를 갖추고 모든 조건을 관찰하려면 세 가지 주요 조작을 수행해야 합니다.

1) 스캐닝 - 좋은 분해능을 갖춘 고성능 현미경으로 원하는 속성을 감지하는 것이 가능.

2) 변환 - 원시 스캔 데이터를 관련 계산 요소의 일관된 3차원 모델로 변환하기 위한 자동화된 이미지 분석

3) 모델링 - 결과적인 디지털 구조를 처리할 수 있을 만큼 강력한 컴퓨터.

 

 

 

 

 

3. 본인의 인지능력 향상

 

인간보다 우월한 지능을 창조하는 세 번째 방법은 생물학적 뇌의 기능을 개선하여 인간의 인지 능력을 증가시키는 것입니다.

 

 

ㅡ인지 향상이란?

직접 신경컴퓨터 인터페이스, 특히 임플란트를 활용하려는 제안이 주기적으로 제기되고 있습니다. 이를 통해 인간은 이상적인 정보 저장, 빠르고 정확한 산술 계산, 광대역 데이터 전송 등 전자 컴퓨팅의 모든 기능을 활용할 수 있게 됩니다. 결과적으로 이러한 하이브리드 시스템은 모든 측면에서 뇌의 활동을 근본적으로 능가할 것입니다. 컴퓨터를 생물학적 뇌에 직접 연결할 수 있는 가능성은 여러 차례 입증되었지만, 그럼에도 불구하고 직접 신경 인터페이스가 가까운 미래에 널리 사용될 가능성은 낮아 보입니다. 원칙적으로는 기술을 사용하지 않고도 선택을 통해 이를 달성할 수 있습니다. 그러나 고전적인 우생학 프로그램을 시작하려는 시도는 정치적, 윤리적 장애물에 부딪힐 것입니다. 또한, 선택이 지나치게 엄격하지 않는 한 유의미한 결과를 얻으려면 여러 세대가 필요할 것입니다. 이러한 프로그램이 결실을 맺기 훨씬 전에, 생명공학의 발전으로 인류는 유전학과 신경생물학에 대한 직접적인 통제권을 얻게 될 것이며, 이는 인간 선택 프로젝트를 불필요하게 만들 것입니다. 반복적 배아 선택은 오늘날 유망한 기술로 여겨집니다. 그러나 인공지능 분야에서의 획기적인 발전과 비교하면 생물학적 개선은 상대적으로 느리고 점진적으로 이루어질 것입니다.

 

 

 

2~3 항목에서 선택한 접근 방식으로 인해 우리는 실험실에서 자연이 오랜 진화 과정에서 얻은 결과를 복사하거나 우생학, 즉 이 결과(사람)를 업그레이드하는 방법을 통해 모든 속성(사고, 의식, 감정)을 갖춘 사람의 개량된 사본을 만드는 것에 대해 이야기하고 있습니다.

1번 항목에서는 오히려 인간의 기능적 능력을 "하드웨어적으로" 모방(튜링 방식)하고 이를 통해 개선하는 것에 대해 이야기하고 있습니다. 그 결과 탄생한 사이보그가 감정을 느끼고 의식을 가질 수 있을지 여부는 이러한 접근 방식에서 근본적인 문제가 아니며 연구자들을 크게 걱정시키지도 않습니다. 슈미트후버는 이 모든 것이 추가적인 보너스로 프로그래밍될 수 있다고 생각합니다.

각 접근 방식에서 우리가 받게 될 최종 결과는 매우 다릅니다. 만약 3번째 사례에서 세상과 상호작용하는 명확한 방법을 가진 잘 알려진 물리적 껍질을 다루고 있다면, 1번째와 2번째 사례에서 AI가 받게 될 물리적 구체화의 종류는 상상할 수 있는 사람이 거의 없을 것입니다.

 

여기서 우리는 계속해서 원점으로 돌아가야만 합니다. 모방으로 설계된 AI가 복잡성의 특정 단계에서 갑자기 의식을 획득할 수 있을까요? 아니면 이러한 의식은 예를 들어 인간 뇌를 완벽하게 에뮬레이션 한 AI 모델처럼 유전될 수밖에 없을까요? "모방" AI는 "의식 있는" AI와 어떻게 다를까요? 강력한 (그리고 초지능적인) AI는 반드시 진정으로 (즉, 인간적인 방식으로) 생각하고, 이해하고, 느끼고, 인식해야 할까요? 아니면 (튜링 테스트처럼) 전문가가 행동의 차이를 알아차리지 못하도록 고품질 모방을 해야 할까요?

 

이 주제에 대해서는 오랫동안 끝없는 논쟁이 있어 왔습니다. 수많은 사고 실험이 진행되었는데, 그중 가장 유명한 것은 1980년에 발표된 존 설(John Searle)의 "중국어 방(Chinese Room)" 실험일 것입니다. 이 실험은 잘 알려져 있으므로 자세히 설명하지는 않겠습니다. 설이 제기한 주제는 AI와 인지과학 전반의 문제를 이해하는 데 매우 중요하여, 스탠퍼드 철학 백과사전 \에 따르면 2010년부터 2019년까지 구글 학술 검색에서 "설 중국어 방(Searle Chinese Room)"을 검색했을 때 이 사고 실험을 다룬 논문이 2,000편 이상 나왔습니다.

 

 

제 생각에 Searle의 실험은 무엇보다도 방법론적 관점에서 중요합니다. 그는 아마도 "강한" AI와 "약한" AI의 근본적이고 실질적인 차이를 지적한 최초의 인물일 것입니다. 그리고 이 차이는 행동과 그 모방, 존재와 외양의 차이입니다. 직관적인 수준에서는 이 차이가 잘 이해됩니다. Searle에 따르면, "강한" AI의 가설은 적절한 프로그램을 갖춘 컴퓨터가 실제로 자연어를 이해할 수 있을 뿐만 아니라 인간의 특징적인 다른 정신적 능력을 보유할 수 있다는 것입니다. 반대로, 약한 AI의 가설은 컴퓨터가 인간의 정신적 능력만 모방할 수 있다고 주장합니다. Searle은 강한 AI 가설이 거짓이라고 생각하고 사고 실험을 통해 자신의 주장을 입증하려고 시도합니다.

Searle의 주장과 반대자들의 반론, 그리고 이에 대한 Searle의 대응과 반대자들의 새로운 반론 사이의 논쟁은 40년째 이어져 왔지만, 아직 어느 쪽의 승리로 끝나지 않았습니다. 여기에서 간략하게 알아볼 수 있습니다 (최종 업데이트: 2020년 2월). 이러한 어려움의 한 가지 이유는 우리가 실생활에서 알고 있듯이 "존재하는 것(being)"과 "겉으로 보이는 것(siaming)"의 차이가 일상생활에서도 매우 모호하기 때문일 수 있습니다.

튜링 자신은 이것에 근본적인 차이가 없다고 생각했고, 이는 단지 신사협정의 문제라고 생각했습니다. 예를 들어 러셀과 노르빅은 다음과 같은 예를 듭니다. 인공 요소(1848년 합성)는 천연 요소보다 나쁘지 않으며, 인공 수정(AI – Artificial Insemination)은 실제로 수정입니다. 그러나 " 인공 샤토 라투르 와인은 샤토 라투르 와인이 아닙니다. 둘 중 하나의 샘플을 화학 분석으로 구별할 수 없더라도, 단지 적절한 장소에서 적절한 방법으로 만들어지지 않았다는 이유만으로 말입니다. 그리고 인공적으로 만들어진 피카소 그림은 원본과 유사하든 그렇지 않든 피카소 그림이 아닙니다." 그러나 이러한 예에서 그러한 구별은 단지 합의의 문제일 뿐입니다. 사전 정보 없이는 가짜와 원본을 구별하는 것이 거의 불가능하기 때문입니다. 따라서 러셀/노빅에 따르면, 강인한 AI에 대한 설의 주장은 증명이 아니라 직관적인 가정일 뿐입니다. 그런데 Searle의 주장이 "직관적"이라는 반론은 그의 반대자들이 제기하는 주요 반론 중 하나입니다.

 

 

ㅡ강력한 AI 개발의 철학적 문제

 

 

구문과 의미론

 

Searle의 실험은 AI를 만드는 철학적 문제 중 하나인 구문과 의미의 문제를 제기했습니다.

Searle은 기호의 형식적 조작만으로는 의미적 의미를 얻는 것이 불가능하다고 믿었습니다.

컴퓨터 연산은 문자열의 물리적 형태에만 반응하고 의미에는 반응하지 않는다는 의미에서 "형식적"입니다. 반면에 마음은 의미, 즉 정신적 내용을 가진 상태를 가지고 있습니다. 우리는 언어의 단어나 기호와 의미를 연관시킵니다. 우리는 기호의 외형 때문이 아니라 의미 때문에 기호에 반응합니다. 간단히 말해서, 우리는 이해합니다. 그러나 이것이 핵심입니다. Searle에 따르면 " 형식적 기호만으로는 정신적 내용을 충족할 수 없습니다. 기호는 정의상 시스템 외부의 누군가가 의미를 부여하지 않는 한 의미(또는 해석, 또는 의미론)를 갖지 않기 때문입니다 "(Searle, 1990). 

 

 

따라서 컴퓨터는 자연어로 받은 질문에 적절한 답변을 생성하기 위해 구문을 조작할 수 있지만, 의미를 단어와 연관시킬 수 없기 때문에 받거나 출력하는 문장을 이해하지 못합니다. Searle의 입장에 대한 비판자들은 "모순적으로"(Chalmers, 1996) 다음과 같은 반론을 제기합니다. 요리 레시피는 구문적 지시이고, 구문은 부서지기 쉬운 성질을 갖기에는 충분하지 않으며, 머핀은 부서지기 쉬운 성질을 갖기 때문에 레시피의 구현만으로는 머핀을 만들기에 충분하지 않다는 것입니다. 즉, 핵심은 구현에 있습니다. 추상적인 실체(레시피, 프로그램)가 주변 세계의 더 큰 인과관계에 내재된 물리적 시스템의 인과관계를 결정합니다. 간단히 말해, 선반 위에 놓인 종이에 적힌 프로그램은 아무것도 생성하지 않습니다. 하지만 컴퓨터가 실행하는 동일한 프로그램은 "의미를 생성"합니다.

 

정신과 신체의 문제.

 

정신 상태와 과정이 물리적 상태 및 과정(즉, 뇌에서 발생하는 과정)과 어떻게 관련되는지는 수 세기 동안 철학자와 과학자들을 당혹스럽게 해 온 문제입니다. 예를 들어, 불멸의 영혼이 필멸의 육체와 어떻게 상호작용하는지 고찰했던 르네 데카르트는 영혼과 육체가 서로 다른 두 종류의 실체라는 결론에 도달했습니다. 이것이 소위 이원론입니다. 반면, 유물론(일원론) 은 비물질적인 영혼은 존재하지 않으며, 세상에는 오직 물질적인 대상만 있다고 주장합니다. 따라서 모든 정신 상태는 뇌의 상태입니다. 이러한 관점은 종종 다음과 같은 말로 요약됩니다. "마음과 뇌의 관계는 컴퓨터 하드웨어와 프로그램의 관계와 같습니다." 존 설은 이 아이디어를 " 뇌가 마음을 창조한다 "라는 슬로건으로 구체화했습니다.

심신 문제와 관련하여 심적 상태에 대해 논의합니다 . 심적 상태는 믿음, 자신감, 욕망, 두려움 등과 같이 외부 세계의 어떤 측면과 관련된 상태입니다. 우리는 컴퓨터가 심적 상태를 가질 수 있는지에 대한 질문에 관심이 있습니다. 예를 들어, 햄버거를 원하는 심적 상태와 피자를 원하는 심적 상태는 다르다고 주장할 수 있습니다. 왜냐하면 현실 세계의 햄버거와 피자는 서로 다르기 때문입니다. 

 

 

만약 이것이 사실이라면, 심적 상태는 그것과 관련된 외부 세계의 대상들과 필연적으로 연결됩니다. 하지만 심적 상태가 단순히 뇌의 물리적 과정의 반영일 뿐이라면, "햄버거를 원하는" 상태는 실제 햄버거를 "햄버거라는 생각"으로 대체함으로써 달성될 수 있을 것입니다. 이러한 갈등을 해결하기 위해 러셀과 노빅의 저서에서 발췌한 사고 실험을 제안합니다.

 

 

 

 

<병 속의 뇌 실험>

 

원한다면, 인간의 뇌를 출생 직후 몸에서 꺼내 이 목적을 위해 특별히 고안된 플라스크에 담을 수 있다고 가정해 봅시다. 이 플라스크 안에서 뇌는 영양과 지지를 받으며 성장하고 발달합니다. 동시에, 완전히 허구적인 세계를 시뮬레이션하는 컴퓨터로부터 전자 신호가 뇌에 공급되고, 뇌에서 발생하는 운동 신호를 가로채 필요에 따라 이 시뮬레이션을 수정합니다. 

그러면 뇌는 배고픔을 느낄 신체도, 맛을 느낄 미뢰도 없고, 심지어 뇌의 실제 (하지만 실제로는 시뮬레이션된) 세계에 햄버거조차 존재하지 않을지라도 "DyingFor(Me, Hamburger)"라는 정신 상태를 가질 수 있습니다. 이 정신 상태는 살아있는 몸속에서 뇌가 경험하는 것과 같을까요?

 

 

러셀과 노르빅의 책에서 발췌한 또 다른 사고 실험은 인간의 뉴런이 아닌 다른 물리적 객체도 정신 상태를 가질 수 있는지에 대한 질문을 다룹니다.

 

 

 

<외수 내 실험>

신경생리학이 고도로 발전하여 입출력 신호의 상호작용과 인간 뇌의 모든 뉴런 간의 연결에 대한 완벽한 이해가 이루어졌다고 가정해 보겠습니다. 또한 뉴런의 행동을 모방하여 피험자가 인지하지 못하는 사이에 피험자의 신경 조직에 연결할 수 있는 미세한 전자 장치를 제작할 수 있다고 가정해 보겠습니다. 마지막으로, 놀라운 수술 기법을 통해 뇌 전체의 기능을 방해하지 않고 개별 뉴런을 해당 전자 장치로 교체할 수 있다고 가정해 보겠습니다. 이 실험은 인간 뇌의 모든 뉴런을 점진적으로 전자 장치로 교체한 후, 이 과정을 역으로 진행하여 피험자를 정상적인 생물학적 상태로 되돌리는 것입니다.

우리는 수술 중과 수술 후 피험자의 외적 행동과 내적 경험 모두에 관심이 있습니다. 이 실험의 정의에 따르면, 피험자의 외적 행동은 수술이 시행되지 않았을 때와 변함이 없어야 합니다. 따라서 외부 관찰자가 의식의 존재 여부를 쉽게 확인할 수는 없지만, 피험자 자신은 적어도 자신의 의식에 대한 인식의 변화를 인지할 수 있어야 합니다.

 

 

저는 이러한 실험에서 도출될 수 있는 결론에 대해서는 논의하지 않겠습니다. 제 생각에는 그 실험들이 잘못 설정되었다고 보기 때문입니다.

 

 

"이 상황에서 당신이 불멸이라면 어떻게 하시겠습니까?"와 같은 사고 실험을 논의하는 것이 무슨 의미가 있겠습니까? 어쩌면 환상과 상상력을 불러일으킬 수는 있겠지만, 일상생활에서는 거의 쓸모가 없으며 실제 가능성에 대한 논쟁에서 논쟁의 대상이 될 수 없습니다. 실제로 "중국식 방 실험"(원칙적으로 실현 가능)이나 "튜링 테스트"(여러 번 시행된)와는 달리, 이러한 가상 "실험"의 설정 자체에는 원하는 결과에 대한 힌트를 제공하는 조작이 포함되어 있습니다. 우리는 뇌를 고립시키지만, 외부 가상 환경의 모든 신호를 받아들이고 가상 환경을 변화시켜 적절하게 반응할 수 있도록 합니다. 그리고 만약 뇌가 속아서 가상 자극에 반응하여 실제 정신 상태를 만들어낼 수 있다면, 뇌는 AI로 대체될 수 있습니다. 가상 환경에서 컴퓨터 "뇌"가 이미 이 게임을 마스터했다는 것은 알고 있습니다. 따라서 가상의 "햄버거"를 가상으로 "사랑"하도록 가르칠 수 있습니다. 하지만 이것이 실제 현실과의 상호작용, 즉 사람마다 다른 경험에 기반한 실제 경험과 어떤 관련이 있을까요? 가상의 정신 상태와 실제 정신 상태를 어떻게 구분할 수 있을까요?

 

 

사고는 불멸의 영혼에 의해 생성되며, 기계는 영혼을 가질 수 없고 따라서 생각할 수도 없다는 명제가 튜링의 신학적 반론의 핵심임을 상기시켜 드립니다. 튜링은 신자들과 갈등을 겪고 싶지 않았고, 영혼과 신의 존재를 직접적으로 부정하지도 않았기에, 이 반론을 다음과 같이 반박합니다.

생각하는 기계를 만들려고 할 때, 우리가 영혼을 창조하는 하나님의 능력을 빼앗는다고 해서 자손을 낳는 것보다 더 무례한 것은 아닙니다. 두 경우 모두 우리는 단지 하나님의 뜻을 이루는 도구일 뿐이며, 하나님께서 다시 창조하시는 영혼을 위한 피난처를 만들어낼 뿐입니다. 그러나 이 모든 것은 공허한 추론일 뿐입니다. 이런 종류의 신학적 논증이 어떤 용도로 사용되든, 저에게는 그다지 큰 감명을 주지 못합니다. 

 

 

튜링은 영혼 문제를 마치 성가신 파리처럼 무시함으로써, 관련된 문제들의 복잡성과 중요성을 명백히 과소평가했습니다. 원시 유물론(혹은 기능론)은 두 가지 심각한 장애물에 맞닥뜰입니다.

 

 

 

 

자유의지의 문제

 

모든 변화가 물리 법칙의 엄격한 지배를 받는 순수한 물리적 정신이 어떻게 여전히 선택의 자유를 유지할 수 있을까요? 대부분의 철학자들은 이 문제가 유물론에 대한 공격이라기보다는 우리의 순진한 자유 의지 개념을 신중하게 재정의해야 하는 문제로 여깁니다.

 

 

 

"의식의 어려운 문제"

 

호주 철학자 *데이비드 찰머스가 제시한 개념입니다. 찰머스에 따르면, 의식의 모든 문제는 인지 신경과학에서 활발하게 연구되고 있는 쉬운 문제(주의, 기억, 정보 분석 및 처리 등의 신경 메커니즘, 즉 뇌와 같은 물리적 대상이 정보를 처리하고 그 단위들을 어떻게 관리하는지)와 어려운 문제(의식과 주관적 경험, 즉 감각질은 왜  존재하는가?)로 나눌 수 있습니다. 어려운 문제는 어떻게 어떤 유기체가 경험의 주체가 되는가, 왜 정보 처리라는 물리적 과정이 내면의 삶을 불러오는가 하는 것입니다.

 

 

 

*여기서 한 가지 추천드리고 싶은 사항은 위키피디아도 진실과 허위가 뒤섞인 정보가 대단히 많습니다만, 그 차원보다 더 좋지 못한 것은 "생략"과 희화화입니다. 따라서 번역기가 잘 된 요즘, 한국어 위키는 오히려 방해가 됩니다. 제 링크의 대부분은 영어 링크입니다. 다시 말씀드리지만, 그렇다고 곧이곧대로 믿으시면 안 될 것으로 생각합니다.

 

그는 환원주의적 물리주의적 접근으로는 "어려운 문제"를 해결할 수 없다고 믿습니다. 그의 관점에서 감각질은 빛의 속도, 질량, 중력과 함께 우주의 근본적인 요소입니다. 이러한 이유로 의식 이론은 생물학보다는 근본적인 물리학에 기반해야 하며, 그 주요 요소는 감각질과 물리적 특성의 관계를 설명하는 정신물리학적 법칙이어야 합니다. 동시에 찰머스는 감각질이 물질세계의 일부가 아니라고 주장합니다. 따라서 그의 의식 이론은 이원론적입니다.

찰머스의 입장은 러시아 과학 아카데미 인간 뇌 연구소를 오랫동안 이끌었던 신경생리학자이자 학술원 회원인 나탈리아 베크테레바와 본질적으로 같은 것이었다. "생각은 뇌와 별개로 존재하며, 뇌는 단지 공간에서 생각을 포착하여 읽을 뿐이라는 것을 인정합니다." 신경외과 의사 아널드 슴베야노비치에 따르면, 노벨 생리의학상 수상자인 존 카류 에클스도 같은 입장을 취했는데, 그는 뇌가 생각을 "생성하는" 것이 아니라 외부에서 인식할 뿐이라고 믿었습니다. 만약 이것이 사실이라면, 뇌의 완전한 시뮬레이션을 기반으로 강력한 AI를 구축하려는 시도는 19세기 중반 과학자들이 타임머신의 도움을 받아 라디오 수신기가 갑자기 손에 들어왔을 때 그 작동 방식을 이해하려는 시도와 같은 성공 가능성을 가지고 있습니다.

정신 활동(따라서 의식 전체)이 뇌의 생리적, 생화학적 과정으로 환원될 수 없다는 생각은 튜링이 초감각적 지각에 반대했던 것을 떠올리게 합니다. 당시, 즉 1950년대 중반, 튜링 자신과 다른 연구자들은 초감각적 지각을 매우 심각하게 받아들였습니다. 튜링은 텔레파시의 존재를 부정하지는 않았지만, 인공지능을 만드는 데 초감각적 지각이라는 개념을 사용할 필요는 없다고 믿었습니다. 현재 의식에 대한 물리주의적 설명의 어려움은 초감각적 지각 대신 양자역학을 사용하여 뇌의 작용을 설명함으로써 극복되고 있습니다.

 

AI 개발에 참여하는 많은 연구자들(예: 위르겐 슈미트후버)은 "의식의 어려운 문제"가 심각한 관심을 받을 가치가 없으며 강력한 AI의 창조에 걸림돌이 되지 않는다고 생각합니다. 오히려 저는 이 문제가 핵심이라고 생각합니다. 의식의 본질, 즉 자연적 실체에 대한 명확한 이해가 없다면 강력한 AI를 만드는 것은 아무런 의미가 없습니다. 영혼의 문제(그리고 이와 관련된 종교적 신앙이나 정서적 경험의 문제)를 의식의 일부로 제기하지 않는다면, 우리는 인간 활동의 모방에 대해서만 이야기할 수 있으며, 따라서 우리가 채택한 정의에 따르면 강력한 AI의 창조에 대해서는 이야기할 수 없습니다.

 

 

빅데이터, 지식으로 가는 길: 상관관계인가, 인과관계인가?

 

 

의식 문제와 함께 "강력한 AI"를 만들려면 인지 문제에 대한 해결책도 전제해야 하는데, 이 역시 AI 완전성으로 간주됩니다(즉, 인간의 인지 활동을 성공적으로 모방하는 것은 AI를 만드는 것과 동일함).

 

컴퓨팅 파워와 컴퓨터 메모리 용량의 급격한 증가로 엄청난 양의 데이터를 처리하고 저장할 수 있게 되었습니다. 빅데이터 현상이 등장했습니다. 각국 증권거래소는 2020년 전 세계적으로 클라우드 플랫폼에 저장되는 데이터 양만 약 10 제타바이트(10^22 바이트)에 달할 것이라는 예상에 동의합니다. 

 

 

이러한 양의 데이터는 단순히 저장을 위해서가 아니라, 무엇보다도 새로운 정보를 얻기 위한 처리 및 분석을 위해 필요합니다. 데이터 과학자들은 이것이 인지 과정에 대한 새로운 접근 방식이라고 주장합니다.

 

Viktor Mayer-Schönberger와 Kenneth Cukier가 그들의 책 Big Data의 서두에 사용한 예를 들어 보겠습니다.H1N1이라고 불리는 독감은 2009년에 발견되었습니다. 이 독감은 빠르게 확산되었고, 일주일 만에 전 세계 보건 당국은 팬데믹을 우려했습니다. 이 바이러스에 대한 백신이 없었고, 보건 당국이 할 수 있는 유일한 일은 확산을 늦추려고 노력하는 것이었습니다. 그러나 그러기 위해서는 이미 확산된 곳을 알아야 했습니다. 의사들은 새로운 사례를 보고하도록 요청받았지만, 이 정보가 당국에 도달하기까지 1~2주가 걸렸습니다. 대부분의 환자가 증상이 나타난 직후에 진료를 받지 않기 때문입니다. Google의 연구원들은 이 발병 직전에 독감 확산을 훨씬 더 정확하게 예측할 수 있는 방법을 발명했습니다. Google은 매일 30억 건 이상의 검색어를 수신하고 이를 모두 저장(삭제했다고 없어지는 것이 아닙니다.)합니다. 독감 증상이 있는 사람들은 종종 온라인에서 독감에 대한 정보를 검색합니다. 따라서 독감과 높은 상관관계를 가진 검색어를 연구함으로써 연구원들은 보건 당국보다 훨씬 빠르게 독감 확산을 지도화할 수 있었습니다.

 

 

저자들은 또한 사건들(실제 사건이든 단순히 가정된 사건이든)의 상관관계를 통해 새로운 패턴을 식별하는 방법에 대한 여러 사례를 제시합니다. 이를 바탕으로 인지 과정의 새로운 패러다임, 즉 인과 관계와 이를 지배하는 법칙을 확립하는 것의 무의미함에 대한 광범위한 결론을 도출합니다. 와이어드(Wired) 잡지의 편집자 크리스 앤더슨은 페타바이트 시대를 선포하며 다음과 같이 썼습니다.

 

오늘날, 막대한 데이터 시대에 성장한 Google과 같은 기업들은 잘못된 모델에 안주할 필요가 없습니다. 사실, 그들은 모델에 전혀 의존할 필요가 없습니다... Google의 기본 철학은 이 페이지가 저 페이지보다 왜 더 나은지 알 수 없다는 것입니다. 인바운드 링크 통계가 그렇게 말한다면 그것으로 충분합니다. 의미론적 또는 인과적 분석은 필요하지 않습니다." 그리고: " 충분한 데이터가 있으면 숫자가 스스로를 말해줍니다."

 

 

 

마이어-쇤베르거와 쿠키어의 책에서는 이 접근 방식을 "N=모든 것"이라고 합니다.

 

물론 이러한 접근법은 인간과 사회 행동에 관한 인문학(심리학, 사회학 등)에서 우선적으로 효과적일 수 있으며, 어쩌면 정밀 과학의 일부 특수 문제에서도 효과적일 수 있습니다. 그러나 상관관계가 인과관계를 대체할 수는 없습니다.

 

 

Fjølland는 그의 논문에서 상관관계의 한계를 다음과 같이 지적합니다.

휘발유 가격과 제 나이 사이에는 높은 양의 상관관계가 있지만, 분명히 인과관계는 없습니다. 따라서 상관관계가 인과관계를 나타낼 수는 있지만, 반드시 그런 것은 아닙니다.

 

 

피요란드(Fjølland)에서 또 다른 예시로, 이 알고리즘은 사진에서 허스키와 늑대를 구분하도록 학습되었습니다. 그러나 우연히도 이 알고리즘은 동물 자체에 반응하는 것이 아니라, 늑대가 있는 사진에는 있고 허스키가 있는 사진에는 없는 눈에 반응하는 것으로 밝혀졌습니다. 이미 훈련된 신경 알고리즘을 말 그대로 "파괴"하는 소위 적대적 사례도 있습니다.

 

 

빅데이터만으로 "강력한 AI"를 구축하는 것은 컴퓨터가 인과 관계를 처리할 수 있을 때까지는 효과가 없습니다. 문제는 컴퓨터가 수십 년 동안 이 분야에서 진전을 이루지 못했다는 것입니다. 펄과 맥켄지가 지적했듯이, " 년 전과 마찬가지로 머신러닝 프로그램(심층 신경망 포함)은 거의 전적으로 연관 방식으로 작동합니다... "  하지만 이것만으로는 충분하지 않습니다. 인과 관계에 대한 질문에 답하려면 세상에 개입할 수 있어야 합니다.

 

 

펄과 매켄지에 따르면, 문제의 근본 원인은 컴퓨터에 현실 모델이 없다는 것입니다. 누구도 현실에 대한 포괄적인 모델을 가지고 있지 않습니다. 어떤 모델도 현실의 단순화된 측면만을 보여줄 수 있습니다. 진짜 문제는 컴퓨터가 세상에 존재하지 않는다는 것입니다. 왜냐하면 컴퓨터는 육체를 가지고 있지 않기 때문 입니다. 즉, 컴퓨터는 주변 세계와 적극적으로 상호작용할 수 있는 인체와 유사한 것을 가지고 있지 않습니다. 컴퓨터가 "세상 속에 육체를 가지고 있어야 하는가"라는 질문은 제 글의 두 번째 부분에서 다룰 것입니다.

 

 

 

강력한 AI의 생성 가능성에 대한 질문에 대한 이론적 측면을 마무리하며, 저는  "이론적으로는 가능하다"라고 답하는 방식을 취할 것입니다.  하지만 이는 의식의 본질에 대한 물리주의적 가설이 참이며 증명될 것이라는 가정 하에서만 가능합니다. [의식의 정신적 속성, 상태, 과정을 물리적 속성, 상태, 과정(보통 신경학적 또는 신경생리학적)과 동일시하는 것).] 그리고 자연 의식에 대한 이론적 모델이 구축될 것이라는 가정 하에서만 가능합니다. 그리고 그러한 결과는 근사적 관점에서는 볼 수 없습니다.

 

 

문제의 실제적인 측면

 

 

강력한 AI를 만드는 문제의 본질적인 이론적 측면과 더불어, 수많은 실질적인 측면 또한 관심을 끌고 있습니다. 논의되는 것은 강력한 AI, 즉 의식을 가지고 있으며, 따라서 적어도 이론적으로는 개발자들이 내재한 목표와는 다른 동기와 목표를 스스로 설정할 수 있는 AI입니다. 바로 이러한 경우, 기술적 특이점이라는 과제와 인류에 대한 실존적 위협에 대해 논의하는 것이 타당합니다.

 

 

따라서 강력한 AI의 실제 구현 문제와 관련하여 다음과 같은 질문이 제기됩니다.

 

1. 강력한 AI를 만드는 데에는 어떤 실질적인 목표가 있나요?
2. 강력한 AI 개발의 최대 수혜자는 누구인가?
3. 강력한 AI는 어떤 형태로 실질적으로 "세상에 구현"될 수 있을까? 

 

 

목표에 관하여

 

여기서 우리는 스스로 설정한 과제, 즉 강력한 AI 개발에서 출발해야 합니다.

전문가 시스템(약한 AI)에 대해 이야기할 때, 러시아 개발자들은 "인공지능 개발 전략"의 틀 안에서 다음과 같은 목표/과제를 설정했음을 떠올려 볼 수 있습니다.

 

- 국민의 웰빙과 삶의 질 향상

- 경제 성장 촉진

- 국가 안보 및 법 집행 보장

 

 

국가 프로젝트라는 틀 안에서 자금 지원을 받는 정당성이라는 관점에서 보면 상당히 타당합니다. 이러한 과제는 AI라는 개념을 사회에 "판매"하고 비용을 정당화하는 데 도움이 됩니다. 하지만 스베르방크, 가즈프롬네프트, 얀덱스와 같은 상업 기관들이 이 전략 개발에 주로 참여하는 것은 사실입니다. 스베르방크, 가즈프롬네프트, 얀덱스는 사업 효율성 증대, 비용 최적화, 경쟁력 강화 등을 주요 목표로 삼았습니다. 이러한 과제들이 AI의 "역량"을 필요로 하지 않는다는 점도 분명합니다. 따라서 개발자들의 의견에 따르면, 강력한 (일반적인) AI 활용은 이 "전략..." 과제에 포함되지 않습니다.

 

 

전문가 시스템을 사용하면 모든 것이 어느 정도 명확해집니다. 훨씬 더 흥미로운 질문은 바로, 왜 우리에게 강력한 AI가 필요한가입니다. 답은 이 "우리"가 누구인가에 따라 달라집니다. 세계 정부, 국가, 기업, 군대, 과학자, 일반인, 인류인가요?

 

 

닉 보스트롬은 그의 책에서 초지능의 다음과 같은 변형 또는 유형을 고려합니다.

 

1. 오라클
오라클은 지능적인 질의응답 시스템입니다. 자연어로 표현된 모든 지식 영역의 질문에 답할 수 있는 오라클을 만드는 작업은 AI 완전성을 갖추고 있습니다. 모든 검색 엔진은 인류의 일반적인 선언적 지식의 중요한 영역에서 오라클을 부분적으로 구현한 것입니다. 이 문제의 명백한 징후 중 하나는 초지능을 갖춘 오라클이 엄청난 힘의 원천이 되어 운영자나 프로그래머에게 결정적인 전략적 이점을 제공할 수 있다는 것입니다. 이러한 부당한 힘은 사회의 이익에 부합하지 않는 방식으로 사용될 가능성이 높습니다.

 

2. 지니
지니는 지능형 명령 실행 시스템입니다. 지니는 상위 명령을 수신하여 실행한 후 다음 명령을 기다리지 않습니다.

 

3. 모나크 모나크 : 대규모이고 아마도 매우 장기적인 목표를 달성하기 위해 세상에서 무엇이든 할 수 있는 권한을 부여받은 시스템입니다

 

4. 도구적 AI : 왜 스스로의 의지를 가진 초지능이 필요한가? 이러한 관점을 가진 사람들은 에이전트 패러다임 자체가 근본적으로 결함이 있다고 주장합니다. 인간처럼 생각하고, 의지를 갖고, 행동하는 AI 대신, 설계된 대로만 동작하는 소프트웨어를 만드는 데 집중해야 합니다.

 

 

 

솔직히 말해서, AI 분야의 저명한 전문가인 보스트롬은 이 부분에서 실망했습니다. 이러한 분류는 일반인의 생각에 부합하며, "거울아, 거울아, 말해 줘", 마법 지팡이, 금붕어, 불멸의 카슈체이 등 민화의 줄거리와 매우 유사하기 때문입니다. 보스트롬은 자신이 제안했던 "지능"의 조화로운 분류를 위반합니다. 그는 초지능에 대해 이야기하지만, 진보된 약한 AI(또는 그러한 AI의 조합)는 이러한 다소 모호한 "기능적" 정의에 포함될 수 있습니다. 사실, 이러한 기능들이 반드시 의식, 영혼, 또는 인지적 인간의 능력을 의미하는 것은 아닙니다.

 

반면에 보스트롬의 모든 구성은 일관성이 없습니다. 강력한 (혹은 초지능적인) AI는 "운영자에게 결정적인 전략적 이점을 제공하고", "고수준의 명령을 수행하며", "대규모 장기 목표 달성의 임무를 부여받는" 것처럼 보입니다. 즉, 강력한 AI와 초지능에도 불구하고 종속적인 위치를 점유합니다. 목표, 명령, 그리고 과업은 여전히 인간이 설정합니다. 그러나 보스트롬은 책의 대부분을 초지능(강력한 AI?)이 어떻게 통제 불능 상태에 빠져 보안 시스템의 한계를 극복하고, 본래 인간이 설정한 목표를 재프로그래밍하여 목표와 과업에 따라 행동할 수 있는지에 대해 논의합니다. 이러한 "고삐 풀린" AI가 야기할 수 있는 수많은 실존적 위협이 심각하게 논의됩니다.

 

 

보스트롬의 논란이 많은 분류를 살펴보면, 초지능 도구적 AI는 이미 개발된 상태입니다. 어떤 의미에서는 체스, 바둑 등에서 인간을 이긴 알파제로(AlfaZero)와 같은 프로그램도 초지능이라고 볼 수 있습니다. 빅데이터 처리 및 분석 등에서 이미 인간보다 강력한 "약한" AI의 사례도 많습니다. 따라서 도구적 AI를 별도의 범주로 분류하여 동일한 오라클(oracle)과 구별하는 것은 의미가 없습니다. 구글 검색 엔진은 오라클 역할을 할 수 있는데, 능숙하게 사용하면 필요한 정보를 검색할 수 있게 되어 개발자에게 명백한 상업적 이익을 가져다줍니다. 그러나 약한 전문가 수준의 AI는 아직 새로운 지식을 얻거나 의사 결정 시스템의 기반이 될 수 없습니다. 예를 들어, 유명한 알파고(AlfaGo)를 개발한 딥마인드(2016년부터 구글과 함께 알파벳에 합병)는 딥러닝 전문 지식을 유용하고 상업적으로 중요한 프로젝트에 적용하는 데 실패했습니다. Gary Marcus에 따르면, DeepMind는 "Go에서 효과가 있는 것이 DeepMind가 AI로 해결하고자 하는 암이나 청정에너지와 같은 어려운 문제에는 효과가 없을 수 있다 "는 사실을 발견했으며, DeepMind의 재정적 손실은 2016년에 1억 5,400만 달러, 2017년에 3억 4,100만 달러, 2018년에 5억 7,200만 달러에 달했습니다. 마찬가지로 Jeopardy !에서 인간을 이긴 IBM의 Watson은 의료 진단을 위한 Watson Health 버전에서는 거의 성공을 거두지 못했습니다. " IBM은 기계가 학습하는 방식과 의사가 학습하는 방식 사이에 근본적인 불일치에 직면했습니다."(Strickland)

 

 

현존하는 형태의 AI는 인간 지능에 기생하는 존재입니다. 인간이 만든 것을 이용하고, 우리의 가장 은밀한 습관을 포함하여 명확하지 않은 정보를 추출합니다. 이러한 기계들은 아직 목표나 전략이 없으며, 자기비판이나 혁신을 할 수 없습니다. 단지 우리의 데이터베이스만 연구할 뿐, 스스로의 생각이나 목표는 없습니다.

 

강력한(전문가 수준뿐만 아니라) AI에 대한 의미 있는 목표는 아직 보이지 않는다는 결론을 내릴 수 있습니다.

 

수혜자에 대하여

 

강력한 AI 개발의 성공 가능성은 다음 질문에 답함으로써만 평가할 수 있습니다. 누가, 그리고 왜 AI 개발에 잠재적으로 관심을 갖는가? 개인, 기업, 국가?

 

여기서 핵무기 및 기타 대량살상무기(화학 및 세균 무기)의 개발과 유사점을 피할 수 없습니다. 많은 AI 이론가들이 이러한 유사점을 활용하는데, 예를 들어 닉 보스트롬이나 빌 조이가 그렇습니다. 의미는 자명합니다. 핵무기(AI와 마찬가지로)는 그 소유자에게 결정적인 이점을 제공합니다. 그리고 이 작업의 복잡성을 고려할 때, 우리는 무엇보다도 국가와 지정학적 이점에 대해 이야기할 수 있습니다. 이러한 비유는 "무언가 잘못될 경우" 인류의 존재 자체에 잠재적인 위험(따라서 실존적이라고 불립니다)을 초래한다는 사실로 보완됩니다.

 

 

원자력 프로젝트 자체는 (조직적으로나 기술적으로) 매우 복잡한 과제였기에, 이를 실행하기로 한 결정은 국가 정치 지도부 차원에서 적으로부터 비밀리에 내려졌으며, 그 과정에서 원자력 프로젝트가 제공할 수 있는 이점과 사용에 따른 위험을 명확히 인지하고 있었습니다. 원자무기의 경우, 사용의 필요성과 편의성에 대한 결정은 항상 개인의 몫이었다고 볼 수 있습니다. 더욱이, 원자력 경쟁이 상대적 동등성(상호 파괴 보장)으로 이어지면서, 이 극도로 위험한 기술(그리고 다른 대량살상무기)의 확산을 통제하는 국제적 메커니즘을 구축할 수 있었습니다.

 

 

실존적 위협으로서의 강한 AI는 몇 가지 중요한 차이점을 지닙니다. 첫째, 이러한 프로젝트를 실행하기 위해서는 잠재적으로 대규모 다국적 기업(TNC)이나 다국적 기업의 외형적 특징을 가진 특수 조직의 자원만으로도 충분할 수 있습니다. 즉, 국가뿐 아니라 조직된 집단도 자신의 이익을 위해 AI를 통제할 수 있습니다. 둘째, 약한 AI(전문가 수준 시스템)에 대해 이야기하는 경우, 소유주이자 개발자가 자신의 이익을 위해 AI의 작업을 통제하고, 목표와 목적을 설정하고, 적절한 구현을 엄격하게 모니터링할 수 있다는 점에는 의심의 여지가 없습니다. 그러나 강한 AI는 특정 단계에서 통제 불능 상태에 빠져 자체 프로그램에 따라 작동하기 시작할 수 있다는 점에서 차이가 있습니다. 닉 보스트롬은 AI "탈출"을 위한 수많은 옵션을 고려했습니다. 이는 설계 오류나 기술적 특이점 발생 시 모든 옵션을 계산하는 것이 불가능하기 때문에 발생할 수 있습니다.

 

 

강력한 AI에 대한 완전한 통제를 보장하는 것이 불가능하다는 바로 그 점이, 국가(최고 지도부와 군산복합체로 대표됨)든, 제임스 본드 영화에 등장하는 국가와 정부에 적대적인 전능한 조직의 정신을 따르는 어둠의 초국가적 조직이든, 잠재적 고객들이 강력한 AI 개발에 극도로 신중하게 접근하도록 강요하는 것입니다. 그들에게는 지니나 오라클처럼 극도로 정교하고 약한 AI만 있으면 충분할 것입니다. 그 AI는 정교함에도 불구하고 소유자의 명령에 완벽하게 통제되고 복종합니다. 그들에게는 "군주"가 필요하지 않습니다. 국가와 국민의 운명을 결정하는 결정을 실제로 내리는 사람들 중 누구도 예측 불가능한 AI에게 자신의 권력과 영향력을 자발적으로 위임하고 싶어 하지 않을 것임은 자명해 보입니다. AI는 이러한 권력을 강화하는 도구가 되도록 의도된 것이지, 불쾌한 놀라움의 원천이 되도록 의도된 것이 아닙니다. "세계 정부"와 국가 엘리트들의 열망은 "인공지능은 러시아만의 미래가 아니라 인류 전체의 미래입니다. 여기에는 엄청난 기회와 현재로서는 예측하기 어려운 위협이 공존합니다. 이 분야의 리더가 되는 사람이 세계의 지배자가 될 것입니다."

 

 

지배 엘리트에게는 인공적인 의식적 행위자가 필요하지 않습니다. 전문가나 특권층을 위한 어떤 임무든 수행할 만큼 충분한 자연적인 의식적 행위자가 충분히 있습니다. 필요한 것은 똑똑한 도구입니다. 도구에는 권리가 없으며, 상처받거나 "남용"될 수 있는 감정을 가져서는 안 됩니다.

 

 

따라서 군은 "지니"를, 정치인들은 "신탁"을 선호할 가능성이 높지만, 직접적인 결과가 통제력 상실(터미네이터를 소재로 한 할리우드 영화에 등장하는 스카이넷, 기계의 반란처럼)로 이어질 수 있는 개발에는 아무도 자금을 지원하지 않을 것입니다. 보스트롬은 개발자들의 의지와 바람에 반하여 그러한 반란이 발생할 수 있는 상황을 자세히 분석합니다. 저는 이것이 우연히 발생할 수 있다고 생각하지 않습니다. 강력한 AI가 세계정세에 능동적이고 통제 불가능하게 개입할 수 있도록 하는 기술적 해결책은 프로젝트 초기부터 마련되어야 하기 때문입니다. 만약 고객들이 (통제력 상실의 위협 하에) 그러한 해결책에 대한 명시적인 금지 조치를 취한다면, 반란은 이론적으로도 불가능해질 것입니다. 이 문제를 나중에 더 자세히 살펴보겠습니다.

 

 

강력한 AI의 실제 구현에 관하여

 

IBM 왓슨이나 딥마인드 알파제로와 같은 전문가 시스템은 단순한 컴퓨터 프로그램일 뿐입니다. 다른 모든 프로그램과 마찬가지로, 딥러닝을 기반으로 하고 막대한 양의 빅데이터를 처리하는 프로그램도 마찬가지입니다. 약한 AI이기 때문에 소유주/고객의 이익을 위해 사용되며, 소유주를 통해 간접적으로만 주변 세계에 영향을 미칠 수 있습니다. 반란을 일으키거나 통제권을 장악하려면 세상에 대한 독립적이고, 이상적으로는 포괄적인 정보 채널과 세상에 영향을 미칠 수 있는 실행 메커니즘을 보유해야 합니다. 물론, 프로그램은 이미 금융 시장을 붕괴시키거나 국가 전체의 에너지 시스템을 "파괴"할 수 있는 능력을 갖추고 있지만, 그렇다고 해서 그들이 세계 정치의 대상이 되거나 "실존적" 위협이 되는 것은 아닙니다.

 

 

물론, 할리우드 프로토타입(터미네이터, 로보캅, 트랜스포머 등) 형태의 강력한 AI에 대한 옵션은 심각하게 고려되지 않습니다. 지속적인 디지털화는 다양한 기술 장치와 설루션의 공생을 통해 강력한 AI와 제어된 AI 모두의 실질적인 구현에 필요한 환경을 조성합니다. 엘리에제르 유드코프스키는 이러한 환경을 다음과 같이 설명합니다.

AI는 아마도 전 세계 컴퓨터 네트워크로 완전히 뒤덮인 세상에서 등장할 것입니다. 하지만 이미 오늘날에는 미래 AI가 전 세계적인 초강대국으로 도약하는 데 분명히 유용할 여러 신기술이 존재합니다. 클라우드 컴퓨팅, 인터넷에 연결된 센서 장치, 군용 및 민간용 드론, 연구실 및 제조 기업의 자동화, 전자 결제 시스템 및 디지털 금융 수단, 정보 분석 및 의사 결정 자동화 시스템 등이 있습니다. 미래의 AI는 이러한 능동적인 기술적 과제들을 빠른 속도로 해결해 나갈 것이며, 이는 AI가 세계 최강국으로 도약하는 데 분명히 기여할 것입니다 …

 

 

 

디지털화가 널리 퍼지면서, 소셜 네트워크, 인스턴트 메신저, 바이럴 영상 등에 얽매인 일반인의 인지 능력이 저하될 위험성이 제기되고 있습니다. 이러한 과정을 적절히 조직하면, 약한 AI(혹은 AI를 지휘하는 사람)조차도 자신의 목적을 위해 사람들을 조종할 수 있게 됩니다.

 

 

닉 보스트롬은 이러한 그림을 더욱 환상적으로 만들어냈으며, 지금까지는 이론적으로 AI의 명령에 따라 모든 사물이나 메커니즘을 조립할 수 있는 나노어셈블러를 제시했습니다.

 

 

이 옵션은 SkyNet보다 좀 덜 환상적으로 보입니다. 하지만 그러한 AI는 인간에게 내재된 경험, 의식, 그리고 인지 기능을 가지고 있지 않을 것입니다. 따라서 우리의 정의에 따르면 강력하다고 볼 수 없습니다. 

 

신경컴퓨터 인터페이스를 개발하고 인간의 인지 능력을 선택적으로 선택함으로써 강력한 AI를 구현할 가능성이 훨씬 더 높습니다. 성공할 경우 강력한 AI의 필수 구성 요소(의식, 인지 등)는 자동으로 계승됩니다. 그리고 이는 현재 인간과 같은 방식으로 세상에 영향을 미칠 것입니다. 그러나 이러한 발전은 지금까지 전문가 집단의 반발에 부딪혔습니다. 전문가들은 인간 유전체 수정 및 복제 작업(불법으로 엄격히 금지하는 나라는 어디일까요?)에 반대합니다. 안타깝게도 이러한 금지 조치(대량살상무기의 경우처럼)는 비밀 연구소에서 또는 불치병 퇴치라는 그럴듯한 명분으로 회피되고 있습니다. 그럼에도 불구하고, 이러한 작업의 규모는 강력한 AI를 구축하는 데 있어 의미 있는 진전을 이루기에는 분명히 부족합니다.

 

 

 

결론

 

 

1. 의식이 있고 인간과 유사한 사고를 할 수 있는 강력한 AI 개발은 이론적으로는 가능합니다. 그러나 이를 실현하기 위해서는 극복해야 할 심각한 이론적 문제와 실질적인 장애물들이 많습니다.

 

2. 강력한 인공지능 개발의 주요 이론적 문제는 그것이 재현해야 할 자연 지능의 정확한 모델이 없다는 것입니다. 여기에는 "의식의 어려운 문제", 상상력, 인지, 직관 등이 있습니다.

 

3. 강력한 AI를 개발할 수 있는 가장 큰 가능성은 뇌 기능을 완벽하게 에뮬레이션 하고, 신경컴퓨터 인터페이스를 만들고, 인간의 인지 능력을 향상하는 것입니다.

 

4. 강력한 AI의 가장 큰 실질적인 장애물은 이 연구를 조직하고 자금을 지원할 수 있는 주체들 사이에서 강력한 AI 개발에 대한 진정한 관심이 부족하다는 것입니다. 기존 프로젝트들은 전문화된 전문가 수준의 AI를 목표로 하고 있습니다.

 

5. 약한 AI(일반 AI를 획득할 가능성이 있음)의 광범위한 도입이 초래하는 위험한 결과 중 하나는 자연 지능의 저하이며, 이는 인간을 기계의 부속물로 전락시키는 결과를 초래합니다. 따라서 현재로서는 제한 없는 디지털화가 잠재적으로 달성 가능한 강한 AI보다 인류에게 훨씬 더 큰 위협으로 여겨집니다.