최신 뉴스는 선별적으로 접하는 나는 매일 아침 1년 전 뉴스를 일률적으로 듣는다. 미래를 예견한 책도 신간보다 10년쯤 지나 읽길 즐긴다.
2017년 쓰인 이 책도 마찬가지. 파리기후협약 뒤 포스트 2020 기후체계가 새 패러다임이 될 걸 의심하는 이는 얼마 없었다. 그러나 오늘의 현실은 딴판. 저자의 예측 대다수가 빗나가는 이유가 여기에 있다. 전 세계적 합의를 두 차례나 깬 미국과 그에 별다른 문제제기를 하지 못한 국제사회를 맨 정신으론 예상할 수 없었던 지성인의 한계다.
이로부터 독자가 가져야 할 태도가 비웃음이어선 안 될 일. 인류는 불과 10여 년 전 파리에서 지속 가능한 에너지 세계를 약속했다. 그러나 오늘의 전쟁, 각국의 퇴행적 전원믹스는 그 약속이 실질적으로 무너졌음을 보인다.
이 책으로부터 내가 구하려 한 건 현실이 되지 못한 기회, 그를 뒤집어낼 아직은 남은 희망의 단서다. 아쉽게도 충분치가 못하였다.
챗GPT 오픈AI의 창업자 샘 올트먼의 이기적이고 어두운 면.
제목의 '제국'이란 표현처럼 수단과 방법을 가리지않고 기술권력을 휘두르고,
AI가 인류에 미칠수 있는 부정적 영향을 견제하지 않은채 돌진하는 모습을 취재하고 폭로해온 시각들을 모아놓았다.
읽어볼만하다.
AI광풍속에 우리는 무엇을 돌아봐야하는지 시사점을 제공한다.
단순히 올트먼을 비난하는 것이 목적은 아님.
대부분의 사람들은 일상에서 AI에 대하여 중앙집권적, 노동착취적, 이런단어들이 어울리는줄 느끼지 못할터인데 - 그 실체도 알아야할만 내용이다.
ai 자체가 하나의 독립된 인격체가 되고 각각의 노동으로 세금을 내며, 그 세금으로 기존의 인류는 노동에서 해방될 수도 있다니..
그냥 도구라고만 생각해봤지 하나의 인격으로 탄생될 수 있다고는 못 느껴봤다
군사영역에서도 전쟁윤리에 측면에서 다수의 드론, 무기체계가 스스로 적국의 무기체계 뿐 아니라 군인, 심지어 민간인 까지 무자비하게 학살할 경우(전쟁범죄 등)
이를 해당 ai의 인격 삭제로 처벌은 끝날수 있는가?
언젠가는 인간의 통제가 거의 없이 전투가 진행이 될 것이다.
그렇다면 개발자나, 운용을 승인한 제대에서 책임을 져야 흐는가? 아니 책임을 질 수나 있는가?
ai는 도덕적 죄책감을 느끼고 이로인해 범죄 및 안전사고에 악용되지 않도록 발전될수 있는가?
이러한 부작용을 막을 수 있는 장치는?
러우전쟁, 최근 미국-이란의 전쟁의 양상,
'아이 인 더 스카이'라는 영화를 보며 교전 승인권은 어디까지 위임될수 있는가에 대해 고민이 든다.
https://m.blog.naver.com/typeface_/224208557455
📃 도저히 ‘나’라고 부를 수 없으니 ‘그’라고 지칭하겠다.
📃 지킬은 지극히 불안해하면서도 탐욕스러운 열정으로 하이드의 쾌락과 모험에 동참했다. 그러나 하이드는 지킬에게 관심이 없었다. 그저 산적이 쫓길 때 몸을 숨기는 동굴 정도로 지킬을 기억할 뿐이었다. 지킬은 여느 아버지 이상의 관심을 보였지만, 하이드는 여느 아들보다 무관심했다.
📃 어쨌든 죄를 지은 사람은 하이드였다. 하이드가 단독으로 죄를 지은 것이다. 지킬이 악해진 건 아니지 않은가.
📃 그럼에도 거울에서 그 추한 형상을 보았을 때 혐오감이 들기는커녕 오히려 반가웠다. 이 또한 나 자신이므로 자연스럽고 인간적으로 보였다. 내 영혼을 눈앞에 생생히 구현한 것 같았다. 여태껏 익숙하게 나라고 여겼던 불완전하고 분열된 얼굴보다 정확하고 꾸밈없는 형체였다.
📃 “만약 두 요소를 각각 별개의 육신에 담을 수 있다면 견딜 수 없는 모든 고통에서 해방되지 않을까?” 하고 혼잣말을 하곤 했다. 부정한 자아는 한결 올바른 쌍둥이 자아의 열망과 가책에서 벗어나 자신의 길을 갈 수 있을 것이다. 정의로운 자아는 자신과 관련 없는 사악한 자아가 저지른 행위 때문에 망신당하거나 부끄러워할 일 없이, 선행 속에서 기쁨을 발견하는 향상의 길로 굳건하고 안전하게 나아갈 수 있을 것이다. 이 어울리지 않는 한 쌍이 함께 묶여 있다는 것, 즉 극단적으로 다른 쌍둥이가 고통스러운 의식의 자궁 속에서 끊임없이 갈등하고 싸워야 하는 것이야말로 인류의 저주 아니겠는가. 그렇다면 이들을 어떻게 분리할 것인가?
