인공지능, 관계, 정체성: 프랑스 논의를 중심으로

최항섭

국민대 사회학과

기술사회연구회 2016.6.17

1

• Daniel Bourcier, 2001. de l'intelligence artificielle et personne virtuelle. droit et societe. N.49 :847-871

• 1946년생, 정보법학을 프랑스에 도입

• CNRS 명예교수

• ‘거버넌스 법과 기술’ 프로젝트 책임자(2008-)

2

• Phillipe Breton, 1995. A l'image de l'homme : du golem au creature virtuelle. Paris. Seuil.

• 1951년 생 스트라스부르그 대학 미디어학부 교수

• 미디어와 위험사회

• 2012년 ‘커뮤니케이션 폭발’

3

• Joelle Proust. 1987. l'intelligence artificelle

comme philosophie. le debat N.47: 88-102

• 1947년 생. CNRS 논리철학 교수

4

• Jean-Louis Punck-Brentano.1987. les effets de l'intelligence artificielle. Reflexion d'un medecin. Commentaire. N.38 :326-331

• 1924-1997

• 프랑스 뇌의학의 최고권위자 중 한명

5

인공지능＇사회적 영향’에 대한 논의: ‘현재＇에서의 필요

• 정말 걱정스러운 것은 인공지능이 가져올 사회적 영향을 감안하면 현재 법적인 교육적인 대처는 너무도 미흡하다는 것

• 그것에 대해 너무 안이하게 생각

• 인공지능의 진보는 막을 수 있는 것이 아니다.

• 인공지능이 가져오는 사회문화적 영향력이 우리의 미래사회를 지배할 것이다

• 그렇기 때문에 내일이 아닌 오늘부터 그것이 가져올 사회적영향과 대응을 심사숙고해야 하며 사회적 논쟁을 시작해야 한다.

6

인공지능＇사회적 영향’에 대한 논의: ‘현재＇에서의 필요

• 인공지능로봇이 미래에 이미 있을 시기까지 기다려서 그때 사회적 영향을 평가한다면 그것이 이미늦은 일

• 인간의 능력으로 통제할 수 없는 상황이 벌어지기때문

• 이미 인공지능이 인간을 이해하고 있기 때문에 인간도 이제 인공지능을 이해하려고 해야 한다.

• 소수의 과학자가 아닌 인류전체가 이 이해의 작업에 참여해야 한다.

7

인공지능와 인간의 관계

• 인공지능은 기존의 ‘교환’(echange)과 ‘공감’(consentement)의 개념을 바꾸고 있다.

• 교환이라는 것은 도구적 관계에서 대단히 중요하다.

• 공감은 감성적 관계에서 대단히 중요하다.

• 그런데 이 교환과 공감의 능력을 인공지능이 보유하게되면 도구적 관계와 감성적 관계가 반드시 인간과 인간간 관계만이 아니라 인간과 기계와의 관계로 확장된다는 것을 의미한다(Bourcier, 2001: 865).

8

인공지능와 인간의 관계 : 도구적 관계

• 인간은 인공지능과 분업화 관계

• 인공지능이 인간의 역할들을 대체

• 단순한 노동에서 전문노동까지 대체

• 도구를 넘어설 가능성이 큼

• ‘사회적 역할＇을 통한 정체성 부여의 약

화

9

인공지능와 인간의 관계 : 도구적 관계

10

• 도구적 관계 중 일반인과 전문가간의 관계가 존재

• 전문가들은 자신들의 지식을 토대로 하여 위계적, 권력적 관계를 형성

• 전문가들은 자신들만 이해할 수 있는 ‘언어’를 통해 일반인들과의 관계에서 우위를 점해왔다.

• 의사와 환자, 판사와 일반인간의 관계가 예가 될 수 있다.

• 그러나 이러한 언어들이 인공지능을 통해서는 ‘일반적인 언어’로 변화된다.

인공지능와 인간의 관계 : 도구적 관계

11

• 전문가들의 기능은 수행하지만 언어는 전문가들만의 언어가 아닌 일반적인언어를 사용하면서 인공지능이 일반인들과의 관계를 맺는 것이다.

– 당뇨병 환자의 상태를 평가하고 처방을 내리는 인공지능로봇은 환자가 이해할 수 있는 언어들로만 의사소통을 한다.

– 이는 기존의 ‘언어를 통해’ 독점적 지위를 유지해왔던 전문가들 집단에 적지 않은 변화를 가져온다(Brentano, 1987 : 329).

• 전문가들이 지위를 유지할 수 있는 유일한 방법은 자신들의 기능을 대체하는 인공지능의 기술들을 통제하고 조작할 수 있는 능력을 키우는 것

• 그렇지 못한다면 전문가들이 기존에 누리고 있던 제도적인 지위까지도 상실하게 될 것이다.

• 권력적인, 비공정한 인간전문가보다 비권력적이고 공정한 인공지능에 의해통제되는 것을 선호할 가능성

인공지능와 인간의 관계 : 도구적 관계

12

• 전문가들의 기능은 수행하지만 언어는 전문가들만의 언어가 아닌일반적인 언어를 사용하면서 인공지능이 일반인들과의 관계를 맺는것이다.

– 당뇨병 환자의 상태를 평가하고 처방을 내리는 인공지능로봇은 환자가이해할 수 있는 언어들로만 의사소통을 한다.

– 이는 기존의 ‘언어를 통해’ 독점적 지위를 유지해왔던 전문가들 집단에적지 않은 변화를 가져온다(Brentano, 1987 : 329).

• 전문가들이 지위를 유지할 수 있는 유일한 방법은 자신들의 기능을대체하는 인공지능의 기술들을 통제하고 조작할 수 있는 능력을 키우는 것

• 그렇지 못한다면 전문가들이 기존에 누리고 있던 제도적인 지위까지도 상실하게 될 것이다.

인공지능와 인간의 관계 : 감성적 관계

• 인공지능을 탑재한 로봇은 점점 더 인간사회에 동반자로서의 역할을 수행

• 인공지능은 현재 논리와 이성을 중심으로 발전하고 있지만 인공감성(artificial empathy)은 감정을중심으로 발전하는 인공감성(artificial empathy)로진화

• 인공감성이 탑재된 로봇들에게 감정을 느끼지 못하는 것, 그것들을 좋아하지 않는 것 자체가 대단히 어려워질 것

13

인공지능와 인간의 관계 : 감성적 관계

• 물론 이 관계가 인간과 인간간의 관계와완전히 같아질 수는 없음

• 하지만 인간과 애완동물간의 관계 정도는빠른 시일내에 가능

• 인간인공지능기계와의 관계는 계속해서인간과 인간과의 관계를 닮으려고 할 것이기 때문에 그 영향이 더욱 커질 것

14

인공지능와 인간의 관계 : 감성적 관계

15

• 가상현실에서 존재하는 가상적 존재들과 맺는 관계가 중요

• 1993년 가상인간(personne virtuelle) 개념이 이미 제시

• 이 관계에 대한 사회학적, 정치학적인 접근이 필요

• 가상인물은 단순한 이미지가 아니다.

• 그것과 관계를 맺는 인간이 실재의 감정을 느끼게 된다면 그가상인물은 그 인간에게 어떠한 존재인가? 이 관계는 인간의정체성을 어떻게 바꾸어놓을 것인가? 이것이 가상현실과 인공지능이 던지는 중요한 질문이 되는 것이다(Phillipe Queau. 1993. Le virtuel : virtus et vertiges. Champ Vallon. Insitutenational audiovisuel)

인공지능와 인간의 관계 : 감성적 관계

16

• 가상인간이라는 개념은 디지털화된 인간의 모습으로 보여진다.

• 육체의 형상화가 반드시 필요하지는 않다.

– 영화 her에서의 사만타의 모습이 이에 해당된다.

• 형체는 없지만 현실의 인간은 가상인간과 관계를 맺으면서 자신의 정체성을 변화시켜 나간다.

• 최근 발전하고 있는 인공지능과 가상현실기술은 가상인간으로 하여금 인간처럼 사고하고 느끼도록 하는 방향으로, 인간의 육체의 형상화를 하는 방향으로 진화시키고 있다(Bourcier, 2001: 865)

인공지능기계 법적 보호

• 인공지능로봇을 보호하는 법이 대단히 중요

• 물리적으로 보호한다는 의미보다는 인류가지닌 다른 존재와의 관계에서의 감성을 보호한다는 측면이 큼

• 프랑스에서는 인공지능로봇에 대한 법적인윤리적인 문제에 대해 국가의 주요 연구기관이 연구를 진행

• CNRS(국립과학연구센터)가 대표적

17

인공지능와 인간의 정체성 : 복제의 욕구

18

• 인간이 스스로를 복제하고자하는 끊임없는 욕구에서 인공지능기술이 발전

• 인간은 유일하게 ‘하나로만’ 존재하는 것이었으며, 그 하나로만의 존재를 중심으로 정체성과 관계를형성

• 그러나 인간은 자신에게 주어진 ‘하나로만의 존재’를 복제하고 확장시키기 위해서 수많은 과학기술들을 발전

• 이것이 최근 들어 인공지능의 형태로 구체화

인공지능와 인간의 정체성 : 복제의 욕구

19

• 인간은 이 기술을 실제에서 구현시키면서 지속적인 실험을 통해 인간과 점점 비슷해져 종국적으로는 인간의 능력과 특성을 복제하는 수준까지 발전

• 그리고 이 실험결과를 통해 사회가 열광하거나 두려워하는 것을 바탕으로 그 다음 단계의 기술진화의 동력을 얻는

– 예) 2016년 구글의 알파고 테스트가 대표적인 사례

인공지능와 인간의 정체성 : 복제의 욕구

20

• 그것은 인간의 한계를 뛰어넘고자 하는 것이었으며, 인간의 육체적 능력을 복제하는 것으로부터 인간의 지능적, 감성적 능력을 복제

• ‘이해하기, 평가하기, 번역하기, 계산하기’와 같은능력들을 인공지능이 그대로 구현

• 이것이 인공지능이 해낸 일인지, 인간이 해낸 일인지 구별하기가 어려워지며, 구별자체가 무의미해

• 오히려 인공지능이 해낸 일에 대한 인간의 신뢰가더 높아질 수도 있다

인공지능와 인간의 정체성 : 복제의 욕구

21

• 이는 인간의 정체성에 큰 변화를 야기한다.

• 인간의 정체성은 인간이 스스로 내리는 판단, 평가, 성찰 등의 행위를 통해서 형성

• 이러한 능력을 인공지능이 계속 하게 되면인간의 정체성 역시 인간 스스로가 형성하는 것에서 인공지능의 영향력이 개입될 가능성이 큼

인공지능와 인간의 정체성 : 복제의 욕구

22

• 인간의 이해하기, 평가하기, 번역하기, 계산하기와 같이 뇌가 해오던 일들을 인공지능에게맡기게 되면 인간의 뇌는 퇴화

• ‘나는 사고한다, 그러므로 존재한다’라는 명제가 제대로 성립되지 않을 수가 있는 것이다.

• 인간의 사고기능이 인공지능에 의해 대체되는 것은 인간을 그 순간에는 편하게 만들지만존재 자체를 위협할 수 있는 위험요소

인공지능와 인간의 인식과 행동 변화

23

• 인공지능을 우리가 조작하는 것만이 아니고 그것들에의해 우리가 프로파일링되고, 우리의 정체성이 계속해서 추적당하고, 분석되고, 재구성(reconstructed), 활용되어지고(exploited), 변형되기까지(detourne) 한다.

• 문제는 대부분의 경우 우리가 이를 모르는 채 이루어진다는 것이다.

• 이렇게 된 가상사회(인공사회)에는 단지 인식(perception)만 변화시키지 않는다. 우리의 행동양식까지도 변화시킨다.

인공지능와 인간의 인식과 행동 변화

24

• 가상세계를 계속 경험하면서 현실세계로 왔을 때현실세계를 더 뚜렷하게 보거나 왜곡적으로 보거나하는 영향을 미치는 것이다.

• 이때 우리는 심각한 판단오류를 범할 수도 있다.

• 들뢰즈에 의하면 점점 발전하는 그래픽기술, 인체기술을 통해서 가상은 점점 더 ‘엄청난 현실성’을가지기 때문 Gilles Deleuze, 1968. Difference et Repetition. Paris. PUF

25