최근에는 인공지능이 인간보다 더 뛰어난 능력을 보여 어떤 측면에서는 두려움의 대상으로
부각되기도 한다.
인공지능 알파고가 2016년 3월 당시 세계 바둑의 최고봉 이세돌과 대국을 펼쳐 4승 1패로 승리했다. 인간의 능력을 뛰어넘는 인공지능의 무한대에 이를 것 같은 능력에 다수의 사람들은 SF영화나 소설 속에서 인간을 지배하는 로봇의 모습이 떠올렸을 지도 모른다.
이처럼 인간의 편리함을 위해 생겨난 인공지능은 비교적 최근에 생겨난 과학기술인 것 같지만 실은 70여 년 전부터 생겨나 축적된 가운데 오늘의 발전을 이뤘다. 그동안 대다수는 AI의 장밋빛 미래를 전망한다. 관련 서적들도 그러한 내용들이 많다. 반면 인공지능이 인류를 파멸로 이끌수 있다는 부정적인 전망을 하는 부류도 있다
4차 산업혁명시대, ‘기계 제어권’ 인간→기계로
책의 구성은 1장에서 인공지능에 대한 총론을 이야기하면서 이어지는 3개의 장에서 각각 자율주행, 로봇닥터, 자율 무기로봇에 대한 본질과 우려를 논한다. 결론부분인 마지막장에서는 AI를 대하는 우리 마음가짐에 대한 이야기로 책을 마무리한다.
제1~3차 산업혁명에서는 교통, 운송수단 및 공장의 자동화가 진행됐어도 최종적으로 그것을 통제하는 쪽은 인간이었다. 3차 산업혁명의 주역이었던 산업용 로봇 역시 미세 단위의 절단이나 용접, 다양한 부분의 조립을 실행하지만, 이는 어디까지나 사전에 엔지니어가 프로그래밍한 명령에 따라 정해진 작업을 수행하는 것에 지나지 않았다.
각종 기계를 통제하는 주체가 인간이었다는 것이다. 하지만 제4차 산업혁명에서는 ‘기계 제어권’이결국 기계에 넘어가려고 한다. ‘인간을 배제한 제어시스템’ 혹은 ‘초자동화’에 해당하는 이 점이 이전 산업혁명과는 결정적으로 다른 점이라고 저자는 분석한다.
그래서 초자동화가 폭주하거나 오작동을 일으키거나 통제 불능에 빠진다면 그 공포와 피해는 훨씬 크고 파멸적일 것이라고 말한다.
특히 이 책에서 저자는 초자동화의 선두주자로 자율주행 자동차를 꼽는다. 즉 자율주행은 거스를 수 없는 시대의 흐름이라는 것이다. 이 시대에 자동차는 기존 운전의 도구에서 탈피해 공간에서 공간을 옮겨주는 전자장비로 바뀌어가고 있다는 것이다. 그 핵심적인 내용이 바로 자율주행차다. 하지만 자율주행 레벨3 이상의 시범주행에서 사고 발생의 소식이 들려온다.
아직 테스트 중인만큼 사고의 원인에 대해, 제조사에서 밝힌 공식 이유를 제외하면 이에 대한 조사·분석이 전무하다. 여기서 저자는 자율주행차 테슬라의 사고 자체에 초점을 두지 않고 테슬라의 오토파일럿이라는 자율주행 AI가 노출시키는 단점에 대해 이야기한다.
즉 언론에 보도되는 자율주행 자동차는 교통량이 비교적 적은 시간대에 고속도로를 순조롭게 주행한다. 이런 영상을 보면 자율주행 자동차는 지금 당장이라도 상용화할 수 있을 정도로 완벽한 기술에 도달한 것 같다.
하지만 사실은 다르다. 주도면밀하게 준비되는 방송용 주행과는 달리 실제 도로에서는 무슨 일이 일어날지 모른다는 것이다.
AI의료과실의 책임은
또 저자는 의료 로봇에 대해 이야기한다. 의료 AI분야 상징적인 존재인 미국 IBM의 ‘왓슨’을 사례로 저자는 이제 의사를 홍보하는 것이 아니라 로봇 도입을 홍보하는 시대가 도래했음을 알린다.
미국에서 약 1,000건의 암 사례 중 규칙기반 AI인 왓슨은 수많은 기계적 학습을 통해 인간을 뛰어넘는 판단을 보여주고 있다. 의사를 돕는 보조의사로서의 역할을 톡톡히 하고 있다.
그러나 저자는 한 가지 우려를 표명한다. 새로운 의료과실의 위험성이 그것이다. 왓슨의 조언을 참고해 최종적인 어떤 상황에서 왓슨과 주치의의 의견이 달랐을 때 의사는 어떤 결론을 우리에게 내릴 것인가에 대한 것이다.
왓슨이 제공한 진단이나 치료법이 절대적 정답이 아닌, 어디까지나 정답일 확률이 높은 의료정보에 지나지 않는다. 의사가 의료 AI에게 크게 의존하는 시대가 도래 했을 때 AI가 일으킬 의료과실은 현재와는 비교할 수 없을 정도로 복잡한 양상을 보일 것이다.
저자는 또 이 책에서 AI가 가장 필요한 분야는 바로 군사부문일 것으로 전망한다. 아군의 피해 없이 적군을 가능한 한 많이 죽이거나 피해를 최대화시키는 것이 바로 군의 목표이기 때문에 자율살상무기 개발에 진력하는 것이 어찌 보면 당연하다는 지적이다. 저자는 이 책에서 이런 점들을 우려하지만 뾰족한 수가 없다는 점도 내비친다.
저자는 이 책의 결론에 도달하면서 AI(혹은 그것을 탑재한 로봇)는 인간과 같은 마음을 갖고 있지 않다는 점을 분명히 한다. 인간의 생사나 운명을 좌우하는 중대한 사안에서 결정적인 열쇠를쥔 것은 당사자 주변 사람들의 마음일 때가 많다는 것이다.
“AI가 가져오는 진정한 위험은 AI가 인간을 죽이는 것이 아니라. 오히려 인간성을 죽이는 것일 지도 모른다. 우리가 진짜 경계해야 할 것은 바로 그 점일 것이다.”
