챗GPT로 대표되는 ‘생성형 AI’의 과장된 마케팅을 걷어내고, 채용·의료·치안 등 우리 삶을 결정하는 ‘예측형 AI’가 어떻게 19세기 ‘뱀기름(Snake Oil)’ 사기극처럼 작동하는지 과학적으로 증명한다. 수조 달러가 오가는 AI 시장에서 ‘진짜 혁신’과 ‘가짜 기술’을 구분하는 가장 냉철하고 실용적인 기준을 제시하는 책이다.
이 책 어때요?
Q&A
이 책의 한줄평
0
아직 등록된 한줄평이 없습니다.
게시물
2
이 책이 담긴 책장
요약
AI 버블이 온다 - 우리는 진짜 인공지능을 보고 있는가? 내용 요약 🤖
오늘날 우리는 챗GPT를 필두로 한 생성형 AI의 폭발적인 성장 속에 살고 있습니다. 사람들은 인공지능이 인간의 지능을 뛰어넘어 곧 모든 문제를 해결할 것처럼 말합니다. 하지만 프린스턴 대학교의 컴퓨터 과학자 아르빈드 나라야난과 사야시 카푸르는 이 뜨거운 열기 뒤에 숨겨진 차가운 진실을 직시해야 한다고 경고합니다. 저자들은 현재의 AI 열풍이 기술적 실체보다 과도한 기대와 마케팅에 의해 부풀려진 '버블'일 가능성을 제기하며, 우리가 보고 있는 AI가
🤔 최근 국내외를 막론하고 경제적·사회적 불안이 일상처럼 이야기되고 있다.
😳 여기에 AI 기술의 급격한 발전이 더해지며, 대규모 실직과 인간의 역할 상실에 대한 우려도 함께 증폭되고 있다.
🧐 "AI가 일자리를 대체할 것인가", "우리는 곧 쓸모없는 존재가 되는 건 아닐까"라는 질문이 더 이상 과장이 아닌 듯 들리는 시대다.
☝️ 이 책은 이러한 공포와 기대를 한발 떨어져 차분하게 해부한다. 이 책은 AI를 맹목적으로 찬양하지도, 막연히 두려워하지도 않는다.
😌 대신 지금 우리가 믿고 있는 AI에 관한 신화와 과장을 하나씩 걷어내며, 기술을 둘러싼 현실을 직시할 것을 요구하고 있다.
.
1️⃣ 예측형 AI는 왜 자주 틀리고, 더 위험한가
✨️ 이 책이 가장 강하게 비판하는 대상은 '예측형 AI'다.
✨️ 예측형 AI는 제한된 데이터와 특정 지역의 패턴을 전체 사회에 일반화하는 구조적 결함을 안고 있다.
✨️ 대표적인 사례로 소개되는 범죄 위험 예측 모델(PSA)은 지역별 범죄율과 개인의 맥락을 무시한 채 숫자만으로 판단해, 실제로는 위험하지 않은 사람을 수개월간 구금하는 인권 침해를 낳았다.
✨️ AI는 피고인의 반성, 경찰의 실수, 사회적 배경 같은 맥락과 의미를 이해하지 못한다.
✨️ 오히려 기존 데이터에 담긴 인종·성별 편견을 그대로 학습해 무작위 추측보다 약간 나은 수준의 결과를 '과학적 판단'처럼 포장할 뿐이다.
✨️ 저자는 이 지점에서 중요한 질문을 던진다. "틀리는 기술"보다 더 위험한 건, 그 결과를 비판 없이 신뢰하는 인간의 태도라고 말이다.
.
2️⃣ 너무 잘 작동하는 AI가 만드는 또 다른 문제
✨️ 흥미롭게도 저자는 어떤 AI는 "너무 잘 작동해서" 위험하다고 지적한다.
✨️ 이미지 분류나 안면 인식 AI는 높은 정확도로 인해
정부의 대중 감시, 특정 소수 집단 식별 등 인권 침해의 도구로 악용될 가능성이 크다.
✨️ 채용 시장에서도 비슷한 문제가 발생한다. AI가 이력서를 걸러내는 과정이 일반화되자, 지원자들은 AI만 인식할 수 있는 흰색 키워드를 숨겨 넣는 등 시스템을 속이기 위한 전략을 사용하기 시작했다.
✨️ 그 결과 채용은 공정성과 인간적 판단을 잃고,
지원자와 기업 모두가 보이지 않는 알고리즘과 싸우는 전쟁터가 되었다.
✨️ AI는 효율을 높이기 위해 도입되었지만, 정작 과정은 더 불투명하고 비인간적으로 변해가고 있는 셈이다.
.
3️⃣ 생성형 AI, 그리고 'AI 신화'의 실체
✨️ 챗봇과 AI 에이전트에 대한 기대 역시 이 책에서는 냉정하게 다뤄진다.
✨️ 현재의 생성형 AI는 인간처럼 세상을 경험하며 배우지 않는다.
✨️ 이미 수집된 데이터를 사후적으로 처리할 뿐,
실시간 학습이나 자율적 오류 수정 능력은 매우 제한적이다.
✨️ 저자는 AI 열풍이 과거의 가상화폐나 웹3와 닮아 있다고 지적한다.
✨️ 공익성과 현실적 한계는 외면한 채, AI를 '블랙박스'나 '초지능'으로 신비화할수록 우리는 스스로 대응할 능력을 포기하게 된다는 것이다.
✨️ 진짜 위험은 AI 자체가 아니라, AI를 악용해 권력을 휘두르는 인간이라는 점을 이 책은 반복해서 강조한다.
.
🎯 마무리 : AI를 두려워하기보다, 정확히 이해하라
✨️ 이 책은 AI가 모든 직업을 대체할 것이라는 공포를 과장이라고 제시한다.
✨️ 전문직 시험 성적은 실제 업무의 복잡성과 맥락을 반영하지 못하며, 어떤 기술이든 조직에 안착하고 실질적으로 활용되기까지는 긴 시간이 필요하다.
✨️ 이 책이 독자에게 요구하는 태도도 단순하다.
📌 AI를 맹신하지도, 막연히 거부하지도 말 것.
📌 신화 대신 구조를 이해하고, 공포 대신 비판적 사고를 가질 것.
✨️ 불확실한 시대일수록 필요한 것은 기술 예언이 아니라, 기술을 다루는 인간의 판단력임을 이 책은 분명하게 보여준다.
요약
독서 가이드
