제프리 힐튼Geoffrey Hinton이 google을 그만두었다.

구글에서 일하기 시작한 Hinton힌튼은 이제 이 기술이 사회에 위험을 초래할 수 있다고 믿고 있으며, 
이에 대해 공개적으로 이야기하기 위해 회사를 그만두었다

 

 

 

 

Geoffrey Hinton제프리 힌튼은 딥 러닝과 신경망에 대한 연구로 가장 잘 알려져 있으며, 2019년에는 100만 달러의 Turing Award튜링상을 수상했습니다. 당시 그는 CBC와의 인터뷰에서 "오랫동안 컴퓨터 과학에서 신경망은 허술한 것으로 여겨졌기 때문에 수상하게 되어 기쁘다"고 말했습니다. 이번 수상은 신경망이 실제로 허술하지 않다는 것을 인정받은 것입니다."라고 말했습니다.

 

그 이후로 Chat-GPT와 AI 이미지 생성기 같은 AI 프로그램이 등장하면서 이 방법은 주류로 자리 잡았습니다. 2013년 거대 기술 기업이 자신의 회사를 인수한 후 구글에서 일하기 시작한 힌튼은 이제 이 기술이 사회에 위험을 초래할 수 있다고 믿고 있으며, 이에 대해 공개적으로 이야기하기 위해 회사를 그만두었다고 뉴욕타임스는 보도했습니다.

 

단기적으로 Hinton힌튼은 AI가 생성한 텍스트, 이미지, 동영상으로 인해 사람들이 "더 이상 무엇이 진실인지 알 수 없게 될" 가능성과 고용 시장에 혼란을 초래할 가능성에 대해 걱정하고 있습니다. 장기적으로 그는 AI가 인간의 지능을 대체하고 AI가 예상치 못한 행동을 학습하는 것에 대해 훨씬 더 큰 우려를 가지고 있습니다.

그는 BBC와의 인터뷰에서 "현재로서는 인공지능이 우리보다 더 똑똑하지는 않다"고 말했습니다. "하지만 곧 그렇게 될 것이라고 생각합니다."

75세의 Hinton힌튼은 BBC와의 인터뷰에서 AI가 현재 추론 능력은 인간보다 뒤처져 있지만 이미 "단순한" 추론을 할 수 있다고 말했습니다. 그러나 일반적인 지식의 측면에서는 이미 인간보다 훨씬 앞서 있다고 그는 믿습니다.

"이 모든 복사본은 개별적으로 학습할 수 있지만 지식을 즉시 공유할 수 있습니다."라고 그는 BBC에 말했습니다. "마치 만 명의 사람이 있는데 한 사람이 무언가를 배우면 모든 사람이 자동으로 아는 것과 같습니다."

그는 New York Times뉴욕 타임즈와의 인터뷰에서 '악의적 행위자'가 자신의 사악한 목적을 위해 AI를 사용할 수 있다는 점을 우려했습니다. 인프라가 필요하고 우라늄과 같은 물질을 감시해야 하는 핵무기와 같은 위협과는 달리, 이러한 행위자들의 AI 연구는 감시하기가 훨씬 더 어려울 것입니다.

"이것은 일종의 최악의 시나리오, 악몽 같은 시나리오에 불과합니다."라고 그는 BBC에 말했습니다. "예를 들어 푸틴과 같은 악의적 인 행위자가 로봇에게 자신의 하위 목표를 만들 수있는 기능을 부여하기로 결정했다고 상상할 수 있습니다."

"더 많은 힘을 얻어야 해"와 같은 하위 목표는 우리가 아직 상상하지도 못한 문제를 야기할 수 있으며, 이에 대한 대처 방법도 생각하지 못할 수 있습니다. Oxford University옥스퍼드 대학교의 AI 중심 철학자이자 the Future of Humanity Institute인류의 미래 연구소의 리더인 Nick Bostrom닉 보스트롬은 2014년에 설명했듯이, 세상에 있는 클립의 수를 최대화하라는 단순한 명령도 의도하지 않은 하위 목표를 유발하여 AI를 만든 사람에게 끔찍한 결과를 초래할 수 있습니다.

그는 2014년 HuffPost허프포스트와의 인터뷰에서 "AI는 인간이 이 기능을 끄기로 결정할 수 있기 때문에 인간이 없는 것이 훨씬 낫다는 것을 금방 깨닫게 될 것입니다."라고 설명했습니다. "인간이 그렇게 하면 종이 클립이 줄어들 것이기 때문입니다. 또한 인간의 몸에는 종이 클립으로 만들 수 있는 원자가 많이 포함되어 있습니다. AI가 지향하는 미래는 종이 클립은 많지만 인간은 없는 미래가 될 것입니다."

 

BBC와의 인터뷰에서 은퇴를 결심하게 된 데에는 나이가 한몫했다고 밝힌 Hinton힌튼은 AI의 잠재적 장점은 크지만, 특히 현재 AI 분야의 발전 속도를 고려할 때 규제가 필요하다고 믿습니다. AI의 잠재적 함정에 대해 이야기하기 위해 회사를 떠났지만, 그는 지금까지 구글이 이 분야에서 책임감 있게 행동해왔다고 믿습니다. 전 세계적으로 기술 개발 경쟁이 치열해지면서 규제를 받지 않는다면 모든 사람이 기술을 개발하는 것은 아니며, 인류가 그 결과를 감당해야 할 가능성이 높습니다.

 

 

Image ⓒ IFLscience Wikimedia Commons를 통한 EviatarBach

 

-----

J. Felton, IFLscience, 2 May 2023