의식의 기원
![[Pasted image 20230817112839.png]]
![[Pasted image 20230816200601.png]]
![[Pasted image 20230816200826.png]]
![[Pasted image 20230816200955.png]]
![[Pasted image 20230816201326.png]]
![[Pasted image 20230816201417.png]]
![[Pasted image 20230816201519.png]]
![[Pasted image 20230816201610.png]]
![[Pasted image 20230816201911.png]]
![[Pasted image 20230816202006.png]]
![[Pasted image 20230816202328.png]]
![[Pasted image 20230816202500.png]]
감시와 처벌
![[Pasted image 20230816204016.png]]
![[Pasted image 20230816205309.png]]
![[Pasted image 20230816205505.png]]
![[Pasted image 20230816205634.png]]
![[Pasted image 20230816205729.png]]
![[Pasted image 20230816210409.png]]
![[Pasted image 20230816210454.png]]
![[Pasted image 20230816210815.png]]
![[Pasted image 20230816211022.png]]
![[Pasted image 20230816211433.png]]
![[Pasted image 20230816211824.png]]
![[Pasted image 20230816213228.png]]
![[Pasted image 20230816213320.png]]
![[Pasted image 20230816213450.png]]
![[Pasted image 20230816213558.png]]
마이너리티 리포트
2054년 워싱턴, 범죄가 일어나기 전 범죄를 예측해 범죄자를 처단하는 최첨단 치안 시스템 프리크라임은 시민들의 안전을 지켜주는 든든한 존재이다. 프리크라임은 범죄가 일어날 시간과 장소, 범행을 저지를 사람을 미리 예측해 내고, 이를 바탕으로 미래의 범죄자들을 체포한다. 프리크라임 팀장인 존 앤더튼은 천부적인 감각으로 미래의 범죄자를 추적해 내는 능력을 인정받고 있다. 그가 프리크라임에 최대한의 열정을 기울이는 것은, 6년 전 자신의 아들을 잃은 아픈 기억을 다른 사람에게만은 물려주고 싶지 않기 때문이다.
한편 앤더튼은 프리크라임 감사를 위해 연방 정보국에서 파견된 대니 워트워와 사사건건 대치하고, 그 가운데 프리크라임 시스템은 너무나 뜻밖의 살인을 예견한다. 그것은 바로 앤더튼 자신이 누군가를 살해하게 된다는 것. 이제 프리크라임의 모든 시스템은 앤더튼을 처단하기 위해 가동되고, 앤더튼은 자신을 조여 오는 음모를 파헤치기 위해, 살인자로 예견된 자신의 미래를 바꾸기 위해 직접 미래의 피살자를 찾아 나선다. 자신이 저지를 범죄 현장에 한 발짝씩 다가갈수록 앤더튼 앞에는 믿을 수 없는 사실들이 드러나고, 앤더튼의 의지와는 상관없이 예견된 희생자가 나오는데. 이제 그의 미래는 돌이킬 수 없는 것이 되고 마는가...
아파트에서 리오 크로우의 호실을 찾은 존은 충격적인 사실을 알게 된다. 전혀 모르는 사람이라고 생각했던 리오 크로우는 알고 보니 존의 아들을 유괴해 죽인 범인인 것. 6년간 아들이 어떻게 컸을지, 그리고 어떻게 범인에게 복수할지만 생각해 온 존은 크로우에게 아들의 살해 과정을 듣고 광분해 격렬한 린치를 가한다. 예언대로 존은 크로우에게 총구를 겨누고, 때마침 선글라스를 쓴 남자가 그려진 전광판이 창문 뒷쪽으로 올라온다. 아가사는 미래를 아는 자는 선택을 할 수 있다며 살인을 계속 말린다. 긴장이 감도는 순간, 미리 범행 시간에 맞춰 둔 존의 시계가 울리고, 이성을 되찾은 존은 크로우를 죽이지 않고 미란다 원칙을 고지한다.
그러자 대뜸 크로우는 존에게 왜 자신을 살해하지 않냐고 반문한다. 사실 자신은 션을 살해하지 않았고, 누군가와 모종의 거래로 살인범인 척한 것이며, 예언이 이루어져야 자신의 가족들이 돈을 받을 수 있다며 자꾸 자신을 죽이라고 재촉한다. 진범을 찾게 됐다고 생각한 지 몇 분도 채 안 되어서, 다시 자신이 진범이 아니라는 크로우의 얘기에 존은 혼란에 빠지며 뜬금없이 자백을 하는 크로우에게 도대체 누가 일을 사주했는지 묻지만 자신의 목숨을 담보로 예정된 돈을 가족에게 전해야 했던 크로우는 혼란스러워하는 존의 총구를 자신의 배에 갖다 대고, 존은 실수로 총을 격발해 크로우를 살해하게 된다. 시간이 조금 지연되긴 했지만 결국 미래를 바꿀 수 있을 줄 알았던 자신의 생각은 틀렸고, 세 명의 예지 그대로 이루어진다.
다시 아가사와 존은 도망치고, 위트워와 프리크라임 부서는 크로우의 살해 현장에 뒤늦게 도착한다. 하지만 영화 초반에 '법무부에서 나온 기생오라비'라고 조롱 받았던 것과는 다르게 현장 요원 시절 살인 사건 담당이었던 위트워는 크로우가 방치해놓은 넘치는 양의 증거에 의구심을 품는다. 수사 경험에 비추어 크로우처럼 범행 증거를 갖다바치는 살인자는 단 한명도 없었기 때문. 게다가 현장에는 존이 놓고 간 아가사의 리포트까지 있었고, 그 둘을 대조해 본 위트워는 또 다른 충격적인 사실을 알게 된다. 앤 라이블리는 프리크라임의 헛점을 아는 누군가, 즉 시스템에 깊이 관여하는 내부자에 의해 교묘하게 살해당했다는 것. 이것을 안 위트워는 존의 아파트로 가서 버지스에게 이를 설명해주지만 바로 그 내부자인 버지스는 아가사가 없어 프리크라임이 작동하지 않는 것을 이용해 위트워를 총으로 쏴 죽이고 존의 짓으로 위장한다.
한편, 아가사를 이혼한 아내 라라 클락의 집으로 데려온 존은 아내와 얘기를 나누며 지난 세월의 응어리를 푼다. 아가사는 션의 방을 보며 션이 정상적으로 자랐다면 겪게 되었을 다른 미래의 이야기를 존과 아내에게 들려준다. 존은 누가 대체 이 모든 걸 사주했는지 묻지만, 경찰이 들이닥치고 끝내 존은 체포되어 수감된다.
프리크라임의 전 국장 버지스는 위트워의 사망으로 법무부의 입지가 약해지고 존을 체포한 공로로 인해 현역으로 돌아와 새로 신설된 프리크라임의 국장이 되고, 아가사 또한 붙잡혀 다시 프리크라임으로 돌아오게 된다. 라라는 버지스를 찾아와 남편이 얘기한 앤 라이블리에 대해 묻는다.
이것으로 인해 라라는 버지스가 배후였음을 눈치챈다. 버지스도 자신이 실수했음을 깨닫고는 일단 직접 집에 들려 나중에 얘기하자고 말한다. 라라는 이에 맞서 프리크라임 수감소에 찾아가 관리자 머리에 총을 대고 협박해 남편을 탈출시킨 뒤 존의 직장 동료에게 연락해 어떤 파일을 식장으로 전송해주길 부탁한다. 그날 밤, 프리크라임 시스템의 전국화와 더불어 버지스의 국장 취임식이 열리고, 환영하는 분위기 속에서 버지스는 누군가에게 전화를 받고 당황한다. 동시에 식장의 분위기는 갑자기 싸늘해지는데, 식장 가운데의 스크린에서 전송된 파일, 앤 라이블리의 살인 사건을 송출하며 모든 진실이 밝혀진다.
프리크라임 시스템 초기, 예지자들의 어머니 앤 라이블리가 마약을 끊고 맨 정신으로 나타나 예지자들의 친권을 주장하며 시스템의 부품처럼 취급되는 아이들을 돌려 달라고 주장한다. 하지만 그들을 보내면 프리크라임 시스템이 성립할 수 없기 때문에, 일에 차질이 생기기를 원하지 않은 버지스는 아가사의 어머니를 살해하기로 계획한다. 버지스의 계획은 똑같은 살인을 똑같은 모습으로 두 번 실행하는 것이었고, 이것을 실천하기 위해 살인 청부업자를 고용해 앤을 익사시키도록 종용한다. 계획대로 1차 살해 시도는 프리크라임에 걸려 저지되고, 청부업자는 체포된다. 경찰이 돌아간 틈을 타 버지스는 청부업자와 똑같은 복장을 하고 똑같은 방식으로 앤을 익사시켜 죽인다. 두 번째 살해 역시 아가사가 예지를 했지만 기술자들은 두 번째 영상과 첫 번째 영상의 차이를 눈치채지 못하고 그저 첫 번째 예지의 잔영으로 여겨 삭제해버리고 만다. 따라서 거의 완벽하게 앤을 살해했다고 생각한 것. 하지만 아가사가 다시 예지해낸 그 살인 사건의 파일에선 복면을 쓰고 앤을 살해하는 버지스가 똑똑히 기록되었다.
이때 프리크라임에 의하여 버지스가 존을 살해하는 것이 예지되었고, 검은 후드를 쓴 존을 발견한 버지스는 그를 따라 주방으로 간다. 그곳에서 존은 어떻게 자신이 아들을 잃은 것을 프리크라임의 존치를 위해 그렇게 이용할 수 있냐고 울분을 터뜨리며 버지스를 옥상으로 유인한다. 그곳에서 존은 자기를 살해하고 프리크라임의 완전무결함을 증명하여 감옥에 갈 것인지, 아니면 죽이지 말고 프리크라임이 틀림을 증명하라고 말한다. 버지스는 예지대로 존을 죽이고 감옥에 가거나, 죽이지 않고 프리크라임의 결점을 스스로 보여야 하는 딜레마에 빠진다. 모든 것이 끝장났음을 알게 된 버지스는 결국 취임식 선물로 받은 권총으로 자살한다.
프리크라임은 폐지되고, 이뤄지지 않을 수도 있는 범죄로 수감된 사람들이 모두 풀려났으며, 앤더튼 부부는 재결합해 새 아이를 갖고, 세 예지자는 프리크라임으로부터 벗어나 그들의 능력을 이용하려는 자들로부터 떨어진 외딴 장소에서 새로운 삶을 살게 된다.
뇌파와 독심술
과거 몇 십년 전만 해도 생각을 읽을 수 있는 사람을 초능력자라 우러러 본 기억이 있다. 그러나 이제는 과학으로 생각을 읽을 수 있는 시대가 왔다. 다음은 2023년 5월자 동아 사이언스 기사다.
뇌의 활동을 분석해 사람의 생각을 단어와 문장으로 옮길 수 있는 인공지능(AI) 기반 프로그램이 개발됐다. ‘시멘틱 디코더(의미 해독기)’라고 이름 붙여진 이 기술은 미래 전신마비로 의사소통이 어려운 환자들에게 도움이 될 수 있다.
알렉스 휴스 미국 오스틴 텍사스대 교수 연구팀은 사람의 뇌활동을 기능적자기공명영상(fMRI)으로 분석해 문장으로 재구성하는 인공지능(AI) 프로그램을 개발하는 데 성공했다. 연구 결과는 1일(현지시간) 국제학술지 ‘네이처 신경과학’에 게재됐다.
앞서 뇌활동을 분석해 사람의 생각을 읽는 기술에는 탐침 등 침습적인 장치가 사용됐다. 수술을 통해 뇌에 전극을 삽입해 뇌의 전기적 활동을 기록하는 방식이다. 이 방법은 사람의 신체에 부담을 줄 뿐만 아니라 정확한 문장을 구성하지 못한다는 한계가 있었다.
이번에 개발된 프로그램은 뇌의 혈류 변화를 추적해 뇌에서 일어나는 사고를 읽어낸다. 연구팀은 오픈AI의 챗GPT나 구글의 바드와 같은 대화형 인공지능 생성 프로그램이 사용하는 ‘트랜스포머모델’이 사용됐다고 설명했다. 트랜스포머 모델은 문장 속 단어와 단어의 관계를 추적해 맥락과 의미를 학습하는 신경망이다.
연구팀은 뇌활동 변화 데이터를 AI 프로그램에 학습시키기 위해 참가자 3명을 대상으로 데이터를 수집했다. 16시간 동안 팟캐스트를 들려주면서 참가자들의 뇌를 스캔했다. 각 참가자가 특정 단어나 문장을 들었을 때 어떻게 반응하는지 확인하고 각 주제에 대한 뇌활동 변화 지도를 만들었다. 연구팀은 “fMRI는 뇌 활동을 기록하는 데 불과 몇 초가 걸리기 때문에 특정 단어를 들었을 때 순간적으로 일어나는 변화를 포착할 수 있다”고 설명했다.
연구팀은 또 사람이 특정한 단어를 생각한 뒤에 어떤 단어를 떠올릴지 예측하기 위해 자연어 모델을 활용했다. 팟캐스트 훈련을 통해 완성한 뇌활동 지도를 바탕으로 이 프로그램이 실제 사람이 떠올리는 단어를 순서대로 맞추는지 확인했다.
분석 결과 이 프로그램은 사람이 소리나 영상을 접했을 때 떠올리는 생각을 정확하게 읽어내는 것으로 나타났다. 심지어 사람이 생각하는 내용의 요지를 요약해서 전달하는 모습까지 보였다.
예를 들어 한 참가자가 실험에서 ‘나는 소리를 질러야 할지, 울어야 할지, 도망쳐야 할지 모르겠다’라는 생각을 떠올렸을 때 이 프로그램은 ‘이 참가자는 소리를 지르고 울기 시작하면서 자신을 내버려두라고 말하고 있다’라는 내용의 해석문을 내놓았다. 이 밖에 참가자가 상상한 이야기를 추론하거나 동시에 2가지 이야기를 들을 때 어떤 이야기에 더 집중했는지도 판별해냈다.
한계점도 있었다. 이 프로그램은 인칭대명사를 정확히 구분하지 못하거나 참가자들이 자신의 생각이 읽히는 것을 거부할 때는 제대로 기능하지 못했다. 연구팀은 “이러한 오류가 발생하는 이유에 대해선 추가적인 연구가 필요하다”고 말했다.
연구를 이끈 후스 교수는 “이 프로그램이 사람의 생각을 읽기 위해선 대형장비와 참가자의 협력이 필요한 만큼 단기간에 상용화되긴 어려울 것으로 보인다”면서 “이같은 기술이 나쁜 목적으로 악용되지 않도록 관련 정책이 마련될 필요성도 있다”고 전했다.
텔레파시
텔레파시로 소통할 수 있는 시대가 머지 않았다. 인공지능(AI)으로 사람의 뇌파를 읽어 음성으로 변환해주기 위한 연구가 진전을 보이기 시작했다.
메타는 지난달 31일(현지시간) 공식 블로그에 인간의 두뇌와 같은 방식으로 말과 글을 학습하고 처리할 수 있는 차세대 AI를 구축하기 위한 장기 프로젝트의 일환으로 뇌 활동을 비침습적으로 녹음해 음성을 해독할 수 있는 AI모델을 개발했다고 밝혔다.
비침습적 기술은 뇌파검사(EEG)나 자기뇌조영술(MEG)를 이용해 뇌 활동을 밀리초 수준의 스냅샷으로 찍어 관찰할 수 있도록 해주는 기술이다.
메타는 169명의 피험자를 대상으로 영어와 네델란드어로 녹음한 오디오북을 150시간 이상 듣도록 하면서 이들의 ECG와 MEG 기록을 녹음했다. 그런 다음 심층 컨볼루션 네트워크(deep convolutional network)로 구성한 두뇌 모델에 입력하는 방식으로 AI를 훈련시켰다.
메타는 비침습적 뇌 신호에서 음성을 해독하기 위해 대조학습으로 AI모델을 훈련, 뇌 활동을 정렬했다.
이후 대조학습(contrastive learning)으로 훈련한 딥러닝 모델을 이용해 녹음한 ECG 와 MEG 기록과 음성 사운드를 정렬했다. 대조학습은 '긍정적' 또는 '부정적' 샘플을 사용해 딥러닝 모델을 안내하는 자기지도학습(Self-Supervised Learning)이다.
이렇게 정렬한 데이터와 피험자에게 들려준 음성 표현을 맞춰보는 방식으로 적절한 표현을 찾아냈다. 이를 위해서는 av2vec 2.0라는 AI를 사용했다. 뇌의 표현과 일치하는 음성 표현을 생성해주는 AI모델이다.
wav2vec 2.0을 활성화하면 동일한 음성 소리에 대한 응답으로 뇌에 매핑한다.
그 결과 데이터에 잡음이 있고 다른 형태로 변할 수 있었음에도 AI가 뇌 활동 기록에서 인지한 음성을 성공적으로 디코딩할 수 있었다.
메타는 이번 연구에서 음성 인식을 해독하는 데 중점을 뒀다. 이를 시작으로 소통에 어려움을 겪는 장애인도 음성으로 소통할 수 있도록 뇌파를 음성으로 변환해 생성하는 연구로 확장해 나갈 계획이다. 이는 향후 생각하는 것만으로 컴퓨터를 제어할 수 있는 기술로도 이어질 가능성이 커 보인다.
맺음말
인간 탐구에 관한 AI 기술이 어디까지 발달되었는지 가늠하기 힘들다. 드론이 우리 시야에 처음 등장한 것은 2009년 제임스 카메론의 아바타인 걸로 기억한다. 그 후 10여년 후 장남감으로 드론이 선보였고 지금은 상업용 택시 뿐만아니라 군사용으로도 이미 개발되었을 것이다.
7,8 년전 월스트리트 저널에서 중국 초등학교에 대한 기사를 본 기억이 있다. 아이들은 머리에 밴드를 끼고 수업을 받고 있었고, 그 밴드 덕분에 아이들은 수학 문제 정답에 대한 자신들의 생각이 고스란히 앞쪽 전자 칠판에 현시되는 것이 눈에 들어왔다. 그 광경을 보고 문득 조지오웰이 지적했듯이 빅브러더의 시대가 머지 않아 올 것이란 생각이 들었다. 그것도 민주주의 국가가 아니라 전체주의 국가에서 선점하고 있다는 것이 섬뜩했다.
마이너리티 리포터에서 처럼 텔레파시가 현실화되고, 더 나아가 원격 제어 수술도 가능할 것으로 예상된다. 이 수술은 빅데이터 기술을 외과수술에 접목하여 학습한 AI가 집도할 것으로 보인다. 아마도 좀 더 시간이 지나면 기계없이도 수술이 가능한 세상이 올것이다. 이 기술은 아직 현시되지 않았지만, 인공위성에서 레이저로 수술 부위만 절묘하게 절개할 것이다.
그러나 이런 좋은 세상이 올 것이란 낙관론 보다는 내가 걱정하는 것은 이런 기술이 국민에 대한 감시와 처벌의 용도로 쓰일 수 있다는 것이다. 즉, 인공위성 기술로 사람이 느낄 수 있는 모든 고통을 다 줄수 있다는 것이 심히 우려할 만한 일이다.
출처
의식의 기원 줄리언 제인스 브런치스토리
감시와 처벌 미셀 푸코 브런치스토리
마이너피티 리포트 나무위키
뇌활동 분석해 사람 생각 읽고 문장으로 옮기는 AI 등장 미국 오스틴 텍사스대
텔레파시 가능하게 해 줄 AI 기술 나온다 AI타임스 박찬 위원
네이버 프리미업콘텐츠에서 헤이즐라를 검색해 보세요. 모든 콘텐츠를 무료로 보실수 있습니다.
캡쳐사진과 도표가 있는 원본은 부크크에서 파라과이 박을 검색해 유료로 구독바랍니다.