AI 전문가들은 머스크를 부인한다

Nov 27, 2023

(이 3월 31일 기사는 6항에서 머스크 재단이 FLI의 주요 기부자가 아닌 주요 기부자임을 보여주기 위해 수정되었습니다.)

마틴 쿨터

런던(로이터) - 일론 머스크가 공동 서명한 공개 서한에서 인공지능 전문가 4명이 자신의 연구 결과가 인용된 후 긴급 연구 중단을 요구하며 우려를 표명했습니다.

3월 22일자 서한에는 금요일까지 1,800명 이상의 서명이 포함되어 인간과 같은 대화를 할 수 있는 Microsoft 지원 OpenAI의 새로운 GPT-4보다 "더 강력한" 시스템 개발에 6개월 간의 서킷 브레이커를 요구했습니다. , 노래를 작곡하고 긴 문서를 요약합니다.

지난해 GPT-4의 전신인 ChatGPT가 출시된 이후 경쟁사들은 서둘러 유사 제품 출시에 나섰다.

공개 서한은 대학 학자와 OpenAI, Google 및 자회사 DeepMind의 전현직 직원을 포함한 전문가의 12가지 연구를 인용하면서 "인간과 경쟁하는 지능"을 갖춘 AI 시스템이 인류에 심각한 위험을 초래한다고 밝혔습니다.

이후 미국과 EU의 시민사회단체는 국회의원들에게 OpenAI의 연구를 통제하라고 압력을 가해왔습니다. OpenAI는 논평 요청에 즉시 응답하지 않았습니다.

비평가들은 이 서한을 작성한 조직인 FLI(Future of Life Institute)가 인종차별적 또는 성차별적 편견과 같은 AI에 대한 보다 즉각적인 우려보다 가상의 종말론적 시나리오를 우선시한다고 비난했습니다. 머스크 재단은 FLI의 주요 기부자입니다.

인용된 연구 중에는 이전에 Google에서 윤리적 AI 연구를 감독했던 Margaret Mitchell이 ​​공동 집필한 유명한 논문인 "확률적 앵무새의 위험에 대하여"가 있습니다.

현재 AI 회사 허깅 페이스(Hugging Face)의 최고 윤리 과학자인 미첼은 이 서한을 비판하면서 무엇이 "GPT4보다 더 강력하다"고 간주되는지가 불분명하다고 로이터에 말했습니다.

그녀는 "의심스러운 많은 아이디어를 주어진 것으로 다루면서 FLI 지지자들에게 이익이 되는 AI에 대한 일련의 우선순위와 설명을 주장합니다"라고 말했습니다. "현재 실제 피해를 무시하는 것은 우리 중 일부에게는 없는 특권입니다."

그녀의 공동 저자인 Timnit Gebru과 Emily M. Bender는 트위터에서 이 편지를 비판했으며, 후자는 그 주장 중 일부를 "unhinged"라고 브랜드화했습니다.

FLI 회장인 Max Tegmark는 이번 캠페인이 OpenAI의 기업 이익을 방해하려는 시도가 아니라고 로이터에 말했습니다.

그는 "매우 재밌다. 사람들이 '엘론 머스크가 경쟁 속도를 늦추려고 한다'고 말하는 것을 본 적이 있다"고 말했다. 머스크는 편지 초안 작성에 아무런 역할도 하지 않았다고 덧붙였다. "이것은 한 회사에 관한 것이 아닙니다."

지금의 위험

코네티컷 대학의 조교수인 시리 도리-하코헨(Siri Dori-Hacohen)도 편지에 자신의 연구가 언급된 것에 대해 문제를 제기했습니다. 그녀는 작년에 AI의 광범위한 사용이 이미 심각한 위험을 초래하고 있다고 주장하는 연구 논문을 공동 집필했습니다.

그녀의 연구는 현재 AI 시스템의 사용이 기후 변화, 핵전쟁 및 기타 실존적 위협과 관련된 의사 결정에 영향을 미칠 수 있다고 주장했습니다.

그녀는 로이터 통신과의 인터뷰에서 "AI가 이러한 위험을 악화시키기 위해 인간 수준의 지능에 도달할 필요는 없다"고 말했습니다.

"정말로 중요하지만 할리우드 수준의 관심을 받지 못하는 존재하지 않는 위험이 있습니다."

FLI의 Tegmark는 이러한 비판에 대해 논평해 달라는 질문에 AI의 단기 및 장기 위험을 모두 심각하게 받아들여야 한다고 말했습니다.

"우리가 누군가를 인용한다는 것은 단지 그 사람이 그 문장을 지지한다고 주장한다는 뜻일 뿐입니다. 그렇다고 그들이 그 편지를 지지한다는 뜻이거나 그들이 생각하는 모든 것을 우리가 지지한다는 뜻은 아닙니다."라고 그는 로이터에 말했습니다.

서한에도 언급된 캘리포니아 소재 AI 안전 센터의 댄 헨드릭스 소장은 내용을 고수하며 로이터 통신과의 인터뷰에서 가능성이 없어 보이지만 파괴적인 결과를 초래할 수 있는 블랙 스완 사건을 고려하는 것이 합리적이라고 말했습니다.

공개 서한은 또한 생성 AI 도구가 인터넷을 "선전과 허위"로 범람시키는 데 사용될 수 있다고 경고했습니다.

Dori-Hacohen은 머스크가 플랫폼을 인수한 후 트위터에서 잘못된 정보가 증가했다고 보고된 것을 언급하면서 머스크가 서명한 것은 "상당히 부자"라고 말했습니다. 이는 시민 사회 단체인 Common Cause 등이 기록한 것입니다.