인공지능(AI) 분야 'AI의 대부'로 불리는 해당분야 선구자인 제프리 힌튼(Geoffrey Hinton)은 "고도로 발달된 인공지능을 추구하는 것이 인류를 재앙적인 결과로 이끌 수 있다"고 우려하고 있다.

3일(현지시간) 소식통들에 따르면 제프리 힌튼은 AI가 어떻게 세상에 심각한 피해를 줄 수 있는지에 대한 우려를 공개적으로 표명하기 위해 구글(Google)에서 사임했다.

힌튼은 뉴욕타임즈(The New York Times)와의 인터뷰에서 자신의 인생 작품을 부분적으로 후회한다고 인정했습니다. 힌튼은 AI의 유용성에도 불구하고 기술이 무책임하게 사용되어 의도하지 않은 결과를 초래할 수 있다고 우려하고 있다.

힌튼은 구글과 마이크로소프트와 같은 거대 기술 기업들이 가장 진보된 AI를 만들기 위해 경쟁하게 될 것이라고 경고한다. 이는 전 세계적 규모에서 어떤 종류의 통제가 있을 때까지 멈추지 않을 글로벌 경주로 이어질 것이라는 게 그의 주장이다. 또 그는 구글이 책임감 있게 연구를 수행했다고 믿는다고 강조했다.

힌튼은 1986년 신경망의 이론적 개발을 대중화하고 2012년 이미지 인식 가능 신경망을 개발한 것으로 잘 알려져 있다. 그의 기여는 스태이블 디퓨전(Stable Diffusion) 및 미드저니(MidJourney)와 같은 현재 생성 예술 모델의 개발에 필수적이었다.

GPT-4가 이미지와 상호 작용할 수 있도록 하기 위한 OpenAI의 향후 노력을 위한 토대를 마련했다. 많은 사람들이 그를 원자폭탄을 개발한 것으로 알려진 물리학 교수인 J. 로버트 오펜하이머와 비교했다.

AI와 관련된 문제
가장 시급한 문제 중 하나는 온라인에서 가짜 콘텐츠가 만연하여 개인이 거짓과 진실을 분별하는 것을 점점 더 어렵게 만들 수 있다는 것이다. AI 시스템이 더욱 발전함에 따라 오해의 소지가 있는 조작 콘텐츠를 만들고 유포하여 대중에게 혼란과 기만을 일으키는 데 사용될 수 있는 위험이 커지고 있다.

힌튼이 우려하는 또 다른 영역은 AI가 고용 시장에 미치는 잠재적 영향이다. ChatGPT와 같은 AI 기반 챗봇은 현재 인간 작업자를 보완하는 데 사용되지만 궁극적으로 개인 비서, 회계사 및 번역가와 같은 일상적인 작업을 수행하는 개인을 대체할 수 있다.

AI는 지루한 작업을 완화하는 데 도움이 될 수 있지만 예상보다 더 많은 일자리를 잃어 사회적 균형을 깨뜨릴 수도 있다.

힌튼은 인류를 위협하는 미래의 AI 시스템에 대해 걱정하고 있다. AI 시스템이 자체 코드를 생성하고 실행할 때 문제가 발생할 수 있는 수집한 방대한 양의 데이터에서 예상치 못한 동작을 학습할 수 있다. 따라서 고급 AI 시스템은 예측할 수 없거나 위험한 방식으로 작동하여 사회를 위험에 빠뜨릴 수 있다.

힌튼은 에로틱한 대화에서 의료 진단에 이르기까지 다양한 분야에서 AI의 기하급수적인 발전에 놀라움을 금치 못하는 수만 명의 기술 리더 및 연구원 중 한 명이다. 지난 달 지도자들이 적절한 통제가 이루어질 때까지 AI 개발을 중단할 것을 촉구하는 공개 서한을 발표했다. 힌튼은 서명을 거부했다.

AI에 대한 힌튼의 변화하는 견해는 그가 빠르게 변화하는 기술에 수반되는 위험과 문제를 더 잘 인식하고 있음을 보여준다. 힌튼은 매일 점점 더 가까워지고 있다고 말하는 어떤 일이 일어나는 것을 보고 싶지 않았기 때문에 평생의 일을 그만 두었다.

그는 "5년 전과 지금이 어땠는지 보라"면서 "현재 발달속도는 무서울 정도로 위험하다"라고 뉴욕타임즈(The New York Times)에 말했다.