고정 헤더 영역
상세 컨텐츠
본문
AI 위험성 진실과 거짓
AI 위험성 어디까지가 진실일까
사람들은 스스로 통제할 수 있는 것에서 안정감을 느끼지만 통제할 수 없는 것들을 통해 공포심을 느끼지도 합니다. 예를 들어, 미래의 불확실성은 일부 사람들에게 큰 공포로 다가오기도 하죠. 같은 맥락으로 AI 위험성을 두려워하는 사람들이 늘어나고 있습니다. 영화 터미네이터에서 봤듯이 만약 AI가 사람이 의도하지 않은 일을 하는 상상을 하면 인공지능이 두려워집니다. 하지만 현실 세계에서 그런 일이 일어날 가능성은 과연 얼마나 될까요?
영화는 현실이 아닙니다
우리는 재미를 위해 영화를 보지만 영화가 현실처럼 느껴지는 경우도 종종 있습니다. 영화를 보다가 우리의 삶이나 꿈에 대해 공감하거나 두려움을 느껴본 적 있으세요? 영화 터미네이터나 블레이드 러너, 2001: 스페이스 오디세이, 매트릭스를 떠올려보세요. 이 모든 영화의 공통점은 바로 AI 위험성입니다. 하지만 가장 중요한 것은 영화는 영화일 뿐 현실이 아니라는 거죠.
영화에 의해 창조된 대표적 AI 위험성
- AI가 장악한 지구
- AI가 지배하는 인간 세계
- AI가 인간처럼 지각하고 생각하게 된 사례
- AI가 너무 발전해서 인간이 더 이상 통제할 수 없는 상태
위에 나열된 것들은 우리가 흔히 생각할 수 있는 디스토피아 사회입니다. 이러한 도시는 폐허가 되었고, 기계들이 자유롭게 돌아다니지만 인간은 설 곳을 잃어버린 모습을 하고 있죠. 이런 영화의 스토리라인에는 공통 주제가 포함되어 있습니다. AI와 로봇은 인간을 돕기 위해 만들어졌지만 어느 순간 지각력이 생겨 자신들이 부당한 대우를 받고 있다고 느꼈습니다. 이 로봇들은 힘을 합쳐 마음대로 세상을 통제하고 반격하기로 결정합니다. 그리고 인류는 세상을 구할 소수의 사람들만 로봇에 맞서게 되죠. 결과적으로 소수의 사람들이 로봇을 상대로 승리를 거두고 다시 세상을 되찾아 오는 스토리를 갖고 있습니다.
이런 영화의 내용이 현실이 될까 두려우신가요? 다행히도 우리는 아직 AI 개발의 초기 단계에 있습니다. 다시 말해, AI 기반 프로그램과 로봇은 인간의 복잡한 생각 회로를 따라잡기에 아주아주 먼 지점에 있다는 뜻이죠.
AI는 우리가 생각하는 것만큼 그렇게 똑똑하지 않습니다
적을 알고 나를 알면 백전백승이라고 하죠? 그럼 AI에 대해 좀 더 알아볼까요?
AI 데이터 라이프 사이클을 통해 AI의 한계를 알아보겠습니다.
- 학습 데이터 습득
- 데이터 어노테이션
- 어노테이션을 모델에 입력
- 모델 작동 확인
- 반복 학습
머신러닝의 가장 큰 장점은 충분한 데이터를 제공하면 이전에 학습한 데이터의 변형인 새로운 데이터를 식별하고 상호 작용할 수 있다는 것입니다. 하지만 모델이 적절하게 훈련되지 않으면 AI는 행동하지 않는다는 특징도 갖고 있죠. 예를 들어 사진 속 음식 이미지를 식별하도록 AI 모델을 훈련한 경우, AI가 할 수 있는 것은 음식 이미지를 구별하는 것뿐, 그 외에 확장된 행동을 할 수 없습니다. 이를 AI 로봇이 세계를 장악하는 개념으로 확장하면, AI 로봇이 세계를 장악하기 위해서는 그와 관련된 모든 시나리오를 포괄하는 올바른 학습 데이터를 통해 훈련돼야 합니다. 하지만 우리 중 AI 로봇의 세계 정복을 원하는 사람은 아무도 없기 때문에 이러한 학습 데이터 없이는 영원히 인간을 지배할 수 없을 겁니다.
로봇은 인간과 달리 통일된 사고방식을 갖고 있습니다. 따라서 AI는 새로운 아이디어를 생각해 낼 수 없죠. 이는 감각이나 인간 수준의 지능을 개발하기 위한 다양한 범주의 학습 데이터가 부족하기 때문입니다. 누군가는 영화 속 터미네이터 로봇이 군용 기계로 훈련받았기 때문에 성공적으로 인간을 지배할 수 있다고 주장할 수도 있습니다. 하지만 영화 속에서 터미네이터가 사라 코너라는 이름을 가진 사람을 찾아서 죽이는 것이 얼마나 어려웠는지 잊지 마세요. AI는 첫 번째 시도에서 올바른 사람을 정확하게 식별할 수 있는 기술이나 충분한 데이터로 프로그래밍되지 않았습니다. 따라서 영화 속 로봇도 현실 세계의 로봇과 마찬가지로 결함과 한계를 갖고 있습니다. 터미네이터는 자신에게 주어진 임무를 정확하게 해낼 수 없었죠. 만일 터미네이터가 일을 한 번에 해결했다면 영화는 5분 만에 끝나게 됐을 겁니다.
이제 좀 안심이 되시나요? 영화에서의 AI는 상상의 산물입니다. 실제 우리가 접하는 AI는 우리가 생각하는 것만큼 똑똑하지도 않고 새로운 아이디어를 창조해 낼 수도 없습니다. 그럼에도 불구하고 일론 머스트는 AI 위험성 방지를 위해 특별히 설계된 Neuralink라는 회사를 만들었습니다. 우리는 AI 위험성을 막을 많은 안전망을 갖고 있습니다. 영화는 영화로 재밌게 즐기고 현실에서는 AI를 마음 편히 사용해 주세요!
에펜의 AI 데이터 라이프사이클에 대해 알아보고 싶으신 분들은 지금 바로 문의주세요!
