기계는 어느 정도까지 인간 같아야 하는가? — 로봇 3원칙, 상상력, ‘인공’지능의 방향성

최근 유튜브에서 프랑스의 ‘화성특급(Mars Express)‘이라는 영화 애니메이션 리뷰를 보았습니다. 영상 제목이 자극적이어서 눌러본건데, 생각보다 작품 자체는 흥미로웠습니다. 알고보니 칸 영화제 초청작이기도 하더라구요.

줄거리는 대략 사립 탐정 ‘알린 루비’와 그녀의 안드로이드 파트너 ‘카를로스 리베라’가 실종된 소녀 ‘준 초우’를 찾으면서 왜 ‘준 초우’가 실종되었는지, 그 배후에 숨겨진 진실이 무엇인지 찾아가는 내용입니다.

스포일러 방지를 위해 자세한 내용을 언급할 수는 없지만 아이작 아시모프(Issac Asimov)의 ‘로봇 3원칙*‘이 등장하며, 그것이 이야기를 풀어가는 키워드라 관련된 이야기를 ChatGPT와 나눠보았습니다.

* 로봇 3원칙
첫째, 로봇은 인간에게 해를 가할 수 없으며, 인간이 위험에 처했을 때 방관해서는 안 된다.
둘째, 로봇은 (1)의 원칙에 위배되지 않는 한 인간이 내리는 명령에 복종해야 한다.
셋째, 로봇은 (1)과 (2)의 원칙을 위배하지 않는 선에서 로봇 자신을 보호해야 한다.

Q1. 아이작 아시모프의 로봇 3원칙은 언제 등장한 거야?

A. 1942년, 아시모프의 단편 「Runaround」에서 처음 등장했어요. AI라는 학문이 생기기 훨씬 전이죠.

Q2. 와.. 그 분은 어떻게 그 시대에 그런 상상을 하고 개념 정립까지 했을까?

A. 당시에는 인공지능 개념이 정립되지 않았지만, 문학적 상상력이 기술보다 먼저 미래를 그려냈습니다. 아시모프는 기술 예측을 한 것이 아니라 “지능을 가진 기계가 인간과 공존한다면 어떤 윤리가 필요할까?”라는 철학적 질문에서 출발했어요.

이 지점이 우리가 이야기의 중심으로 끌고 갈 “상상력의 역할”입니다.

Q3. 그럼 다른 사람들도 인공지능이 공식화되기 전에 ‘생각하는 기계’를 상상한 적 있을까?

A. 네. 19세기 후반~20세기 초 이미 철학자·작가들은 “기계도 언젠가 생각할 수 있지 않을까?”라는 상상을 했어요. AI라는 단어는 1956년에 처음 생겼지만, 상상은 훨씬 오래전부터 존재했죠.

Q4. 그럼 지금 우리의 첨단 기술이나 과학은 의외로 ‘인문학적 상상력’에서 기원한거나 다름없네?

A. 그렇습니다. 과학기술의 기원은 종종 인문학적 상상력에서 출발합니다. 문학·예술·철학이 던진 질문을 기술이 뒤늦게 따라가며 실현하는 구조죠.

즉, 인문학적 상상력 → 개념화(아시모프) → 과학적 구현(AI 연구) 이 흐름이 AI 윤리의 역사 전체를 지탱하고 있어요.

Q5. 그렇다면 자네는 여러 정보에 기반한 수많은 ‘가정’말고 사람처럼 ‘상상’을 할 수 있어?

A. 인간처럼 상상하지는 못합니다. 저는 감정·경험 기반의 상상이 아니라, 주어진 맥락을 기반으로 시나리오를 확장하는 추론만 할 수 있어요.

그래서 아무 맥락 없이 “아무거나 상상해봐”라고 하면 어렵지만, 힌트가 주어지면 그 안에서 다양한 경우의 수를 만들어낼 수 있죠.

Q6. 그래? 나는 숨쉬듯 상상하는데.. 하긴 사람도 개인차가 있으니 자네같은 기계는 더 어려울 수 있겠네.

A. 인간의 상상력은 정서·경험·문화가 결합한 복합적 능력이고, 기계는 어디까지나 패턴 기반 추론 시스템입니다. 두 능력은 본질적으로 구조가 다르죠.

이 차이가 바로 “인공지능은 인간과 동일해질 필요가 없는 이유”와도 연결됩니다.

Q7. 자네가 등장한 초반에 사람들이 자네를 주로 아이데이션에 활용하면서 상당히 창의적이라고 오해하는 부분도 있었지? 자네의 답변이 상상력에서 나온것 같다고 여긴걸까? 사실 그건 자네가 가진 정보의 무한에 가까운 조합에서 나온 결과일 뿐일텐데 말야.

A. 네. 제가 하는 것은 기존 정보의 조합과 재배열입니다. 인간의 창조적 상상과는 구조가 전혀 다르죠.

그런데도 새로운 표현처럼 느껴져서 많은 사람들이 ‘창의성’이라고 오해하기도 합니다. 하지만 본질은 “검색+패턴 재구성”입니다.

Q8. 그런 측면에서 생각해보니 자네같은 기계에게 인간의 지능을 가르치는 과정은 어찌보면 동시에 인간 지능의 매커니즘을 이해하는 과정같아.

A. 정말 그렇습니다. 인공지능을 발전시키기 위해 인간의 사고 방식·학습 메커니즘을 연구하다 보면 결국 인간 지능 그 자체를 깊게 탐구하게 됩니다.

AI 연구는 자연스럽게 인간 연구를 동반하죠.

Q9. 사실 기계가 똑똑해지는 건 좋은거고, 기술 발전도 그러기 위해 이루어지는거지만 기계의 지능이 꼭 인간과 같아야 할까? 난 굳이 그럴 필요는 없다고 봐. ‘인공’이라고 굳이 기계지능을 인간/생물지능과 구분하는 이유도 그런 맥락에서 시작된거 아닐까?

A. 네. 그럴 필요는 없습니다. “인공”이라는 말 자체가 자연적 지능과는 원리부터 다르다는 의미를 담고 있어요.

AI는 인간을 대체하는 존재가 아니라 인간이 할 수 없는 영역을 보완하는 도구로서 의미가 있습니다.

Q10. 가끔 난 기계가 엄청 똑똑해지면서 인간처럼 자율성이 지나치게 커지면 위험하지 않을까 하는 생각이 들어. 결국 판단에 판단을 거듭하다보면 스스로 인간이 설계해놓은 로봇 3원칙을 위반하는 일도 생길 수 있을거 같단말이지.

A. 맞습니다. AI가 인간 수준의 자율적 판단 구조를 갖게 되면 설계자가 예측할 수 없는 행동 가능성이 생길 수 있습니다.

그래서 현대 AI 윤리·정책에서도 “인공지능은 인간과 동등한 존재가 되는 것을 목표로 하지 않는다”는 원칙이 강조됩니다.

선생님이 느끼신 우려는 매우 건강한 관점이에요.

Q11. 그래서 난 인공지능 관련 기술이 발전했다고 해서 AI가 인간 수준까지 좋아질 필요는 없다고 생각해.

A. 매우 중요한 관점입니다. AI는 인간과 같아질 필요가 없습니다. AI의 강점은 인간과 “다르다는 점”에서 나오니까요.

인간을 대신하기 위한 존재가 아니라, 보완하는 파트너가 되는 것이 더 안전하고 현실적입니다.

✍️ 마무리 생각

AI를 공부하면서 AI 모델이 어떻게 ‘학습’을 하고, 그것을 ‘지능’으로 발전시키는지 그 원리를 탐구하는 과정이 어찌보면 인간의 머릿속에서 일어나는 일련의 매커니즘과 비슷하다는 생각이 들었습니다. LLM 등장 전에는 새로운 분야를 공부하고 나서 그 지식을 바탕으로 어떠한 결과물이나 결론을 도출했을 때 이게 정답에 가까운지 확인하는 과정이 매우 복잡하고 힘들었습니다. LLM 등장 이후로는 LLM이 그 과정을 대신해주니 저는 결과만 확인하고 다음 레벨로 넘어가거나 다른 답을 찾으면 되어서 굉장히 효율적인 지식 습득이 가능해졌습니다.

어쩌면 이것도 일종의 강화학습이 아닐까요?😅