마린블루스 2.5부1

나래슈즈

@talaria_naraeshoes

🤔 최근 국내외를 막론하고 경제적·사회적 불안이 일상처럼 이야기되고 있다.

😳 여기에 AI 기술의 급격한 발전이 더해지며, 대규모 실직과 인간의 역할 상실에 대한 우려도 함께 증폭되고 있다.

🧐 "AI가 일자리를 대체할 것인가", "우리는 곧 쓸모없는 존재가 되는 건 아닐까"라는 질문이 더 이상 과장이 아닌 듯 들리는 시대다.

☝️ 이 책은 이러한 공포와 기대를 한발 떨어져 차분하게 해부한다. 이 책은 AI를 맹목적으로 찬양하지도, 막연히 두려워하지도 않는다.

😌 대신 지금 우리가 믿고 있는 AI에 관한 신화와 과장을 하나씩 걷어내며, 기술을 둘러싼 현실을 직시할 것을 요구하고 있다.

.
1️⃣ 예측형 AI는 왜 자주 틀리고, 더 위험한가

✨️ 이 책이 가장 강하게 비판하는 대상은 '예측형 AI'다.

✨️ 예측형 AI는 제한된 데이터와 특정 지역의 패턴을 전체 사회에 일반화하는 구조적 결함을 안고 있다.

✨️ 대표적인 사례로 소개되는 범죄 위험 예측 모델(PSA)은 지역별 범죄율과 개인의 맥락을 무시한 채 숫자만으로 판단해, 실제로는 위험하지 않은 사람을 수개월간 구금하는 인권 침해를 낳았다.

✨️ AI는 피고인의 반성, 경찰의 실수, 사회적 배경 같은 맥락과 의미를 이해하지 못한다.

✨️ 오히려 기존 데이터에 담긴 인종·성별 편견을 그대로 학습해 무작위 추측보다 약간 나은 수준의 결과를 '과학적 판단'처럼 포장할 뿐이다.

✨️ 저자는 이 지점에서 중요한 질문을 던진다. "틀리는 기술"보다 더 위험한 건, 그 결과를 비판 없이 신뢰하는 인간의 태도라고 말이다.

.
2️⃣ 너무 잘 작동하는 AI가 만드는 또 다른 문제

✨️ 흥미롭게도 저자는 어떤 AI는 "너무 잘 작동해서" 위험하다고 지적한다.

✨️ 이미지 분류나 안면 인식 AI는 높은 정확도로 인해
정부의 대중 감시, 특정 소수 집단 식별 등 인권 침해의 도구로 악용될 가능성이 크다.

✨️ 채용 시장에서도 비슷한 문제가 발생한다. AI가 이력서를 걸러내는 과정이 일반화되자, 지원자들은 AI만 인식할 수 있는 흰색 키워드를 숨겨 넣는 등 시스템을 속이기 위한 전략을 사용하기 시작했다.

✨️ 그 결과 채용은 공정성과 인간적 판단을 잃고,
지원자와 기업 모두가 보이지 않는 알고리즘과 싸우는 전쟁터가 되었다.

✨️ AI는 효율을 높이기 위해 도입되었지만, 정작 과정은 더 불투명하고 비인간적으로 변해가고 있는 셈이다.

.
3️⃣ 생성형 AI, 그리고 'AI 신화'의 실체

✨️ 챗봇과 AI 에이전트에 대한 기대 역시 이 책에서는 냉정하게 다뤄진다.

✨️ 현재의 생성형 AI는 인간처럼 세상을 경험하며 배우지 않는다.

✨️ 이미 수집된 데이터를 사후적으로 처리할 뿐,
실시간 학습이나 자율적 오류 수정 능력은 매우 제한적이다.

✨️ 저자는 AI 열풍이 과거의 가상화폐나 웹3와 닮아 있다고 지적한다.

✨️ 공익성과 현실적 한계는 외면한 채, AI를 '블랙박스'나 '초지능'으로 신비화할수록 우리는 스스로 대응할 능력을 포기하게 된다는 것이다.

✨️ 진짜 위험은 AI 자체가 아니라, AI를 악용해 권력을 휘두르는 인간이라는 점을 이 책은 반복해서 강조한다.

.
🎯 마무리 : AI를 두려워하기보다, 정확히 이해하라

✨️ 이 책은 AI가 모든 직업을 대체할 것이라는 공포를 과장이라고 제시한다.

✨️ 전문직 시험 성적은 실제 업무의 복잡성과 맥락을 반영하지 못하며, 어떤 기술이든 조직에 안착하고 실질적으로 활용되기까지는 긴 시간이 필요하다.

✨️ 이 책이 독자에게 요구하는 태도도 단순하다.
📌 AI를 맹신하지도, 막연히 거부하지도 말 것.
📌 신화 대신 구조를 이해하고, 공포 대신 비판적 사고를 가질 것.

✨️ 불확실한 시대일수록 필요한 것은 기술 예언이 아니라, 기술을 다루는 인간의 판단력임을 이 책은 분명하게 보여준다.

AI 버블이 온다

아르빈드 나라야난, 사야시 카푸르 (지은이), 강미경 (옮긴이) 지음
윌북 펴냄

1명이 좋아해요

4분 전

1

0

좋은하루

@min_ju

내가 나를 찾아

간밤의 아름다운 꿈이
가뭇없이 멀어지고 말듯이
아침 햇살에 반짝이는
풀잎 이슬이 굴러내리듯이

잡지 못하는 순간과 찰나를
언제까지 보내야만
잃어버린 나를 찾게 될는지

꿈으로만 머무르는 꿈같이
사라져버린 이슬같이
덧없는 세월이라 할지라도
내가 나를 찾아간가

p.14