출판사 리뷰
“내가 내린 선택은 진짜 내 생각일까?
아니면 알고리즘이 고르게 만든 걸까?”
친구와 잠깐 게임 얘기를 나누었을 뿐인데 화면마다 쏙쏙 뜨는 게임 광고,
손가락을 올리기 바쁘게 내가 좋아할 만한 강아지가 줄줄이 나타나는 쇼츠,
머리를 싸매던 복잡한 숙제도 질문 한 줄이면 3초 만에 뚝딱 해치우는 챗GPT,
주문 버튼을 누르기 무섭게 다음 날 아침이면 집 앞에 도착하는 배송 트럭!
혹시 AI가 내 모든 일상과 머릿속 생각까지 낱낱이 읽고 있는 걸까?
스마트한 만큼 오싹하고 교묘한 AI 알고리즘의 두 얼굴
똑똑한 AI에 휘둘리지 않고 ‘내 생각의 주인’으로 살아가는 법!
출간의 의의
인공 지능 시대를 주도할 우리 아이들의 '생각하는 힘' 업그레이드!요즘 초등학교 교실에서는 아이들이 디지털 기기로 정보를 검색하고, 블록 코딩으로 로봇을 움직이는 모습을 흔하게 볼 수 있어요. 2022 개정 교육 과정에서도 디지털 기초 소양을 강조하며, 인공 지능과 빅 데이터 같은 새로운 기술을 이해하도록 정보 교육을 한층 강화하고 있지요.
학교 밖에서도 인공 지능은 이미 아이들의 일상에 깊숙이 자리하고 있습니다. 유튜브나 넷플릭스에서 추천 콘텐츠를 보고, 내 행동에 실시간으로 반응하는 게임 속 캐릭터를 만나며, 챗지피티에게 모르는 것을 물어보는 일이 꽤 익숙하지요. 그런 뜻에서 인공 지능은 이제 우리 아이들에게 공부와 놀이, 정보 탐색을 함께하는 친숙한 도구인 셈이에요.
하지만 인공 지능을 자주 사용한다고 해서 그 원리까지 제대로 알고 있다고 할 수는 없어요. 챗지피티가 내놓은 답이 어떤 과정을 거쳐서 만들어지는지, 유튜브나 넷플릭스는 왜 하필 그 콘텐츠를 내게 추천하는지 알아차리기는 쉽지 않으니까요. 인공 지능을 이용하는 시간이 늘어날수록 그 결과를 무조건 받아들이기보다는 한 번 더 생각해 보는 태도가 더욱더 중요해진다고 할 수 있어요.
지금 우리 아이들에게 필요한 것은 단순히 인공 지능을 능숙하게 다루는 기술만이 아닙니다. 챗지피티가 제시한 답을 공책에 그대로 옮기기 전에 사실인지 확인하고, 알고리즘이 골라 준 추천 목록 너머의 정보를 스스로 찾아볼 줄 알아야 해요. 인공 지능의 잘못된 판단이 누군가에게 피해를 주지 않는지도 깊이 고민해 보아야 하고요.
그런 의미에서 《AI가 내 생각을 읽는다고?》는 인공 지능 시대를 살아갈 우리 아이들에게 꼭 필요한 ‘생각하는 힘’과 ‘디지털 판단력’을 함께 길러 줄 든든한 길잡이가 되어 줄 거예요. 인공 지능을 둘러싼 여러 가지 궁금증을 아주 쉽고 친근하게 풀어 주고 있거든요.
알고리즘의 기초 개념에서 시작해 기계 학습의 예측 메커니즘, 넷플릭스나 유튜브의 추천 시스템과 챗지피티 같은 생성형 AI의 기술적 본질, 인간의 편견을 답습하는 데이터 편향, 여론을 왜곡하는 반향실 효과, 가짜 정보와 딥 페이크의 악용, 더 나아가 인공 지능의 통제와 책임을 둘러싼 윤리적 고민까지 폭넓은 정보와 지식을 아우르고 있어요.
무엇보다 이러한 내용들을 아이들의 생생한 일상과 연결해 다정하고 친근하게 들려줍니다. 학습용(훈련용) 데이터가 한쪽으로 치우치면 인공 지능의 판단에도 편견이 생길 수 있고, 추천 시스템은 자극적인 콘텐츠를 확산시킬 수 있다는 점을 짚어 주며, 인공 지능이 내놓은 결과가 언제나 정확하거나 공정하지는 않다는 사실도 일깨워 주지요.
결국 이 책은 아이들이 인공 지능을 무조건 맹신하거나 막연히 두려워하지 않고, 그 기술을 비판적으로 이해하며 책임감 있게 사용하도록 이끌어 주고 있습니다.
이 책의 특징
피자와 브라우니로 만나는 흥미진진 ‘인공 지능 알고리즘’의 원리! ‘인공 지능’ 하면 무엇이 가장 먼저 떠오르나요? 아마 사람처럼 말하고 걸어 다니는 SF 영화 속 로봇을 떠올리는 사람이 많을 거예요. 하지만 우리가 일상에서 만나는 인공 지능은 대부분 눈에 잘 보이지 않습니다. 검색 결과의 순서를 정하고, 좋아할 만한 영상을 추천하며, 게임 속 캐릭터를 움직이는 ‘알고리즘’의 형태로 우리의 생활 곳곳에서 일하고 있으니까요.
이 책에서는 ‘알고리즘’을 브라우니 요리법에 빗대어 설명합니다. 재료를 정해진 순서대로 섞어 오븐에 넣는 것처럼, 알고리즘도 컴퓨터가 따라야 할 지시 사항을 순서대로 모아 놓은 조리법과 같다는 것이지요.
같은 행동을 되풀이하는 ‘루프’는 피자를 먹는 과정으로 보여 줍니다. 배가 부르지 않으면 피자를 더 먹고, 배가 부르거나 남은 피자가 없으면 상자를 닫는 식입니다. 이처럼 친숙한 상황의 설정을 따라가다 보면 조건에 따라 행동이 달라지는 인공 지능의 원리를 저절로 이해하게 됩니다.
기계 학습은 강아지의 품종과 몸무게를 이용한 예측으로 풀어는데요. 인공 지능이 데이터를 살펴보며 분류와 예측의 기준을 찾아가는 과정에서 평균과 최빈값, 중간값 같은 기초 개념도 함께 익힐 수 있지요. 튜링 테스트와 챗지피티, 게임 속 NPC, 영화 추천, 온라인 광고, 새벽 배송 시스템 등 일상적인 사례를 통해 인공 지능의 놀라운 능력과 뚜렷한 한계까지 차근차근 짚어 나갑니다.
AI가 공정할 거라는 착각, 알고리즘의 덫과 미디어의 이면인공 지능에는 감정이 없으니 언제나 공정할 것처럼 보이지요? 하지만 인공 지능은 인간이 제공한 데이터를 바탕으로 학습합니다. 학습용 데이터가 한쪽으로 치우치면 그 결과에도 편견과 오류가 나타날 수밖에 없어요.
이 책에서는 풋볼 리그의 남성 선수 사진을 주로 학습한 인공 지능이 여성 선수의 경기 사진을 제대로 알아보지 못한 사례를 소개합니다. 누구도 차별하라고 가르치지 않았지만, 학습 데이터가 한쪽으로 쏠려 있었기 때문에 차별적인 결과가 나온 것이지요. 이를 ‘6만 나오는 주사위’에 빗대어, 학습용 데이터가 잘못되어 있으면 알고리즘의 판단도 한쪽으로 치우칠 수밖에 없다는 걸 다시 한번 설명해 주어요.
실제 사건도 함께 살펴보는데요. 마이크로소프트의 챗봇 ‘테이’는 사용자들의 차별과 증오 표현을 따라 하다가 공개된 지 16시간 만에 운영이 중단되었다고 해요. 또, 오스트레일리아의 ‘로보데트’는 복지 수당을 잘못 계산해 엉뚱한 사람들에게 반환 고지서를 보내고선, 오류를 증명할 책임을 당사자에게 떠넘기기까지 했다나요.
그리고 추천 알고리즘이 사람들의 생각과 감정에 미치는 영향도 짚어 봅니다. 검색 엔진과 소셜 미디어는 클릭과 댓글이 많은 콘텐츠를 흥미로운 정보로 판단하기 때문에, 사람들이 반응하기 쉬운 자극적인 기사나 편견이 담긴 주장이 더 널리 퍼지는 경향을 띠지요. 또, 한쪽 정보만 계속 접할 경우 판단력에 어떤 영향을 미치는지도 상세하게 보여 주어요.
정답 없는 윤리적 딜레마 속에서 ‘자기만의 단단한 판단력’ 장착하기인공 지능은 방대한 자료를 빠르게 분석하는 데 매우 뛰어납니다. 그렇다면 무엇이 옳고 그른지를 판단하는 도덕적 문제까지 인공 지능에게 맡겨도 될까요?
이 질문에 답하려면 먼저 법과 윤리의 차이를 짚어 보아야 하는데요. 이 책은 칸트주의와 공리주의 같은 윤리적 기준을 끌어온 뒤 어린이 눈높이에 맞추어 풀어냅니다. 모두가 지켜야 할 원칙을 따를 것인지, 더 많은 사람에게 이로운 결과를 선택할 것인지에 따라 같은 문제도 전혀 다른 답에 이를 수 있다는 걸 보여 주지요.
이러한 고민은 자연스럽게 ‘자율 주행 자동차의 사고 상황’으로 이어집니다. 피할 수 없는 사고가 일어난다면 인공 지능은 과연 누구를 보호해야 할까요? 사고의 책임은 자동차를 산 사람과 만든 회사, 알고리즘을 개발한 엔지니어 가운데 누구에게 물어야 할까요?
또, 아이작 아시모프의 ‘로봇 3원칙’에 숨어 있는 허점과 유명한 ‘클립 생산 기계’ 사고 실험을 다루는 대목에서도 흥미로운 질문을 던집니다. 클립을 더 많이 만들라는 명령을 받은 인공 지능이 오직 그 목표만 쫓다가 지구상의 모든 것을 클립 만드는 재료로 써 버리는 이야기인데요. 이를 통해 인공 지능에는 목표만 제시할 것이 아니라, 반드시 지켜야 할 한계와 안전 기준도 함께 정해 주어야 한다는 사실을 알려 주어요.
챗지피티를 공부에 활용하는 방법에 대해서도 조언을 하는데요. 모르는 개념을 묻거나 새로운 아이디어를 얻는 데는 무척 유용하지만, 글쓰기와 숙제를 처음부터 끝까지 모두 맡기면 스스로 고민하고 배우는 소중한 과정을 놓칠 수 있다고 경고합니다.
결국 가장 중요한 것은 인공 지능을 쓸 것인지 말 것인지가 아니라, 무엇을 위해 어디까지 사용할지 ‘자신만의 단단한 기준’을 세우는 일이라고 해요. 그래서 이 책에 등장하는 질문들에는 단 하나의 ‘모범 답안’이 정해져 있지 않습니다. 아이들이 스스로 여러 선택지 가운데 하나를 고른 뒤 그 이유와 결과를 따져 보고, 친구나 어른의 의견과 비교하면서 자신만의 건강한 판단 기준을 세워 갈 수 있게 도와주지요. 짧고 경쾌한 설명과 재치 있는 그림, 핵심을 콕콕 짚어 주는 ‘보글보글 팁 박스’가 읽는 재미를 더해 준답니다.
인공 지능의 기계적인 원리를 알려 주는 데서 그치지 않고, 이 기술을 앞으로 어떤 기준으로 이해하고 책임 있게 사용해야 할지 깊이 생각하게 만든다는 점이 바로 이 책의 가장 큰 매력이라 할 수 있어요.
교과 연계 : <실과 5> 새로운 기술의 발달과 일·직업의 세계
<도덕 6-1> 1. 내 삶의 주인은 바로 나
<실과 6> 4. 소프트웨어와 로봇
<국어 6-2> 3. 보거나 듣고 판단해요
<보고 싶은 영화도 탁탁!>
여러분은 아마 의식하지 않았겠지만, OTT 서비스의 알고리즘은 여러분이 무엇을 시청하는지 끊임없이 추적해요. 여러분이 보고 싶은 영화를 더 쉽게 찾게 해 주려고, 보고 싶은 예능 프로그램을 찾아 목록을 다 뒤지지 않게 해 주려고요. 그러면 좋은 거 아닌가요?
그런데 이런 식의 추적하기는 OTT에서 끝나지 않아요. 여러분이 인터넷에서 뭔가를 검색할 때도 마찬가지거든요. 화면 속 사이트나 광고창은 모두 여러분의 검색 기록, 그리고 여러분과 비슷한 것을 검색한 사람들의 클릭 횟수 등을 토대로 나타나는 거예요. 뭔가 오싹하다는 느낌이 들 수도 있어요. 실제로 그렇기도 하고요. 그렇지만 그것이 현재 우리의 기술이 작동하는 방식의 한 단면이에요.
이런 식의 추적하기는 여러분이 SNS를 할 때도 계속돼요. 만약 인스타그램이나 유튜브 계정을 가지고 활동한다면, 추천 목록 생성 알고리즘이 계속 따라다닐 거예요. 여러분이 어떤 걸 좋아하고 어느 글에 댓글을 다는지만 보는 것이 아니라 어떤 영상에서 멈추는지, 멈춘다면 얼마나 오래 머무르는지까지도 확인하거든요.
인스타그램은 버튼을 클릭해서 알고리즘에 ‘관심 있음’과 ‘관심 없음’, 즉 호불호를 직접 알리는 기능을 가지고 있어요. 만약 스포츠가 그다지 취향이 아니라면 ‘관심 없음’을 클릭해서 알고리즘에 스포츠 관련 영상은 덜 보겠다고 알릴 수 있지요. 요리가 취향이라면 ‘관심 있음’을 클릭해서 알고리즘에 요리 영상을 더 보여 달라고 알릴 수도 있고요.
<칸트주의와 공리주의는 뭐가 다른데요?>
칸트주의 윤리의 기본 개념은 다음과 같아요. 대체 무슨 말일까요?
'내 행동이 모두의 행동이 되어도 좋도록 행동하세요.'
이해하기 쉽게 우리의 초콜릿 문제를 이 칸트주의 규범에 대입해 보지요. 여러분은 초콜릿을 훔쳐야 할까요? 칸트주의 윤리대로 하면 모든 사람이 초콜릿을 훔쳐야 만족스러워지는 거예요. 그러면 그 뒤에는 어떻게 될까요?
대혼란이겠죠! 여러분이 초콜릿을 훔치고 돌아선 순간, 누군가 여러분이 손에 든 초콜릿을 훔쳐 가요. 그럼 여러분은 초콜릿을 또 훔치면 되지만, 그 초콜릿도 금세 누가 훔쳐 가겠죠. 그래서 세 번째로 초콜릿을 훔치기 위해서 돌아서면, 매대에는 이미 초콜릿 재고가 없어요. 다른 사람이 다 훔쳐 갔으니까요. 이제는 여러분도 다른 사람의 초콜릿을 훔칠 수밖에 없어요.
곧 걷잡을 수 없는 초콜릿 훔치기 전쟁이 벌어져요! 사람들은 초콜릿을 찾아 헤매고, 초콜릿을 자꾸 도둑맞으니 화가 나고, 결국 하나둘 폭력적으로 변하고……. 절대로 좋은 생각이 아닌걸요! 그래서 칸트주의 윤리는 우리에게 이렇게 말해요. 초콜릿을 훔치지 마세요.
![[세트] 장풍쌤의 과학 풍딱지 6~7 세트 (전2권) 이미지](https://image.imilkbook.com/HanBook/Simg/cover/891/397082891.jpg)
