프린스턴 대학의 'AI Snake Oil' 저자는 생성적 AI 과대광고가 '통제 불능'으로 치솟았다고 말합니다. (2023)

샤론 골드만@sharongoldman

프린스턴 대학의 'AI Snake Oil' 저자는 생성적 AI 과대광고가 '통제 불능'으로 치솟았다고 말합니다. (1)

VB Transform 2023의 세션을 보려면 주문형 라이브러리로 이동하세요.여기에서 등록하세요

2019년, 컴퓨터 과학 교수이자 알고리즘 공정성, AI 및 개인 정보 보호 전문가인 프린스턴 대학의 Arvind Narayanan은 "AI Snake Oil"이라는 제목의 슬라이드 세트를 트위터에 공유했습니다. “오늘날 'AI'로 판매되는 것의 대부분은 뱀기름입니다. 작동하지도 않고 작동하지도 않습니다.”라고 빠르게입소문이 났다.

최근 프린스턴대 총장으로 임명된 나라야난(Narayanan)정보기술정책센터, 계속해서“AI 스네이크 오일” 서브스택그의 박사 학위와 함께. 이전에 Facebook의 소프트웨어 엔지니어였던 학생 Sayash Kapoor와 두 사람은 "AI를 클릭하게 만드는 요소, AI에 저항하는 특정 문제를 만드는 요소 및 차이점을 구분하는 방법"을 탐구하기 위해 도서 계약을 체결했습니다.

>>VentureBeat의 진행 상황을 팔로우하세요생성 AI적용범위<<

이제 생성적 AI 열풍과 함께 Narayanan과 Kapoor는 오늘날의 Gen AI 과대광고를 다루기 위해 원래 논문을 넘어서는 책 초안을 제출할 예정이며, 그 중 일부는 "통제 불능 상태"라고 말합니다.

이벤트

VB 변환 2023 온디맨드

VB Transform 2023 세션을 놓치셨나요? 모든 주요 세션에 대한 주문형 라이브러리에 액세스하려면 등록하세요.

지금 등록하세요

나는 몇 주 전에 Narayanan과 Kapoor를 직접 만나 이야기를 나누기 위해 New Jersey Turnpike를 타고 Princeton University로 운전했습니다. 이 인터뷰는 명확성을 위해 편집되고 요약되었습니다.

VentureBeat: AI Snake Oil Substack을 처음 출판하기 시작하고 책의 향후 출판을 발표한 이후 AI 환경은 너무 많이 변했습니다. 'AI 뱀기름'에 대한 생각이 바뀌었나요?

나라야난:내가 AI 뱀기름에 대해 처음 이야기하기 시작했을 때 그것은 거의 전적으로 예측 AI에 초점을 맞추었습니다. 실제로, 우리가 글을 쓰면서 시도한 주요 작업 중 하나는 생성 및 예측, 기타 유형의 AI를 구별하고, 한 가지 유형의 급속한 발전이 다른 유형에는 아무런 영향을 미치지 않는 이유를 명확히 하는 것입니다.

우리는 AI 세대의 발전이 현실이라고 생각하는 프로세스를 시작하면서 매우 명확했습니다. 그러나 거의 모든 사람들과 마찬가지로 우리도 상황이 어느 정도 발전했는지, 특히 그것이 소비자 기술이 되는 방식에 놀랐습니다. 그것은 내가 예측하지 못했던 것입니다.

어떤 것이 소비자 기술이 되면 사람들의 마음 속에는 엄청나게 다른 의미를 갖게 됩니다. 그래서 우리는 우리 책의 내용에 대해 많은 부분을 다시 집중해야 했습니다. 물론 우리는 우리의 주장이나 입장을 바꾸지 않았지만 이제 예측과 Gen AI 사이에 훨씬 더 균형 잡힌 초점이 있습니다.

카푸어:한 단계 더 나아가, 소비자 기술에는 제품 안전과 같은 사항도 포함됩니다. 이는 과거 OpenAI와 같은 회사에서는 큰 문제가 아니었지만 매일 2억 명의 사람들이 제품을 사용하게 되면 엄청난 문제가 됩니다. .

따라서 AI에 대한 초점은 예측 AI의 정체를 폭로하는 것(어떤 모델을 사용하든, 얼마나 많은 데이터를 가지고 있든 상관없이 이러한 텍스처가 가능한 도메인에서 작동할 수 없는 이유를 지적하는 것)에서 AI를 생성하는 것으로 옮겨졌습니다. 더 많은 가드레일과 더 책임감 있는 기술이 필요합니다.

벤처비트:뱀기름을 생각할 때 우리는 판매원을 생각합니다. 어떤 면에서 이는 소비자 중심의 아이디어입니다. 그렇다면 지금 그 용어를 사용할 때 소비자든 기업이든 사람들에게 전달하는 가장 큰 메시지는 무엇입니까?

나라야난:우리는 여전히 사람들이 다양한 유형의 AI에 대해 다르게 생각하기를 원합니다. 이것이 우리의 핵심 메시지입니다. 누군가가 전반적으로 모든 유형의 AI에 대해 생각하는 방법을 말하려고 한다면, 우리는 그들이 확실히 사물을 지나치게 단순화하고 있다고 생각합니다.

Gen AI에 관해서 우리는 이것이 강력한 기술이며 이미 많은 사람들에게 유용한 영향을 미치고 있음을 책에서 명확하고 반복적으로 인정합니다. 하지만 동시에 그에 대한 과대광고도 많이 있습니다. 매우 유능하지만 일부 과대 광고는 통제 불능 상태에 이르렀습니다.

많은 위험이 있습니다. 이미 해로운 일들이 많이 일어나고 있습니다. 비윤리적인 개발 관행이 많이 있습니다. 따라서 우리는 사람들이 이 모든 것을 염두에 두고 집단적 힘을 사용하기를 바랍니다. 직장에서 사무실에 어떤 기술을 채택할지 결정할 때든, 개인적인 삶에서든 그 힘을 사용하여 결정을 내릴 수 있기를 바랍니다. 변화.

벤처비트: 트위터뿐만 아니라 학계의 다른 연구자들 사이에서 더 넓은 커뮤니티로부터 어떤 종류의 푸시백 피드백을 받으시나요??

카푸어:우리는 지난 8월에 블로그를 시작했지만 블로그가 지금처럼 커질 것이라고는 예상하지 못했습니다. 더 중요한 것은 우리가 책에서 많은 주장을 구체화하는 데 도움이 된 좋은 피드백을 그렇게 많이 받을 것이라고 기대하지 않았다는 것입니다. 우리는 여전히 학계, 기업가로부터 피드백을 받고 있으며 어떤 경우에는 대기업이 정책을 어떻게 수립해야 하는지 논의하기 위해 우리에게 연락했습니다. 다른 경우에는 몇 가지 비판이 있었는데, 이는 블로그와 책 모두에서 우리의 주장을 어떻게 제시하고 있는지 성찰하는 데 도움이 되었습니다.

예를 들어, 우리가 LLM(대형 언어 모델)과 보안에 대해 글을 쓰기 시작했을 때 원래 LLaMA 모델이 나왔을 때 이 블로그 게시물을 올렸습니다. 사람들은 AI가 고유한 위치에 있지 않다고 주장하는 일부 사건에 대한 우리의 입장에 놀랐습니다. 허위 정보를 더욱 악화시키기 위해. 그 피드백을 바탕으로 우리는 현재와 과거의 문헌에 대해 더 많은 연구와 참여를 했고, 몇몇 사람들과 이야기를 나눴는데, 이는 우리의 생각을 다듬는 데 큰 도움이 되었습니다.

나라야난: 윤리적인 이유로 반발도 있었습니다. 어떤 사람들은 Gen AI를 구축하는 데 드는 노동 착취에 대해 매우 우려하고 있습니다. 우리는 또한 그러한 변화와 기업이 이러한 관행을 바꾸도록 강요하는 정책을 매우 옹호합니다. 그러나 우리를 비판하는 사람들 중 일부는 이러한 우려가 너무 커서 이를 우려하는 사람이 취할 수 있는 유일한 윤리적 행동 방침은 Gen AI를 전혀 사용하지 않는 것입니다. 나는 그 입장을 존중한다. 그러나 우리는 다른 입장을 가지고 있으며 사람들이 그것에 대해 우리를 비판할 것이라는 점을 받아들입니다. 저는 개인의 금욕이 착취적 관행에 대한 해결책이 아니라고 생각합니다. 기업의 정책 변화가 이에 대응해야 합니다.

VentureBeat: “AI Snake Oil”에서 주장을 펼치면서, 행동 단계 측면에서 AI 세대에서 어떤 일이 일어나기를 바라시나요?

카푸어:제가 목록의 맨 위에 있는 것은 Gen AI에 대한 사용 투명성, 즉 사람들이 실제로 이러한 플랫폼을 사용하는 방식입니다. 이에 비해 페이스북은 분기별 투명성 보고서를 내놓고 “아, 이 많은 사람들이 증오심 표현에 사용하고 있는데 우리가 이 문제를 해결하기 위해 하고 있는 일입니다.” Gen AI의 경우 그런 것이 전혀 없습니다. 전혀 없습니다. Gen AI 회사에도 비슷한 일이 가능하다고 생각합니다. 특히 파이프라인 끝에 소비자 제품이 있는 경우라면 더욱 그렇습니다.

나라야난:특정 개입부터 정책 결정과 관련하여 구조적으로 변경해야 할 사항까지 한 단계 끌어올립니다. 정부에는 더 많은 기술자가 필요합니다. 따라서 집행 기관에 더 많은 자금을 지원하는 것이 도움이 될 것입니다. 사람들은 종종 AI 정책을 처음부터 시작하여 묘책을 찾아내야 하는 문제로 생각합니다. 전혀 그렇지 않습니다. 일어나야 할 일의 80% 정도는 이미 가지고 있는 법률을 시행하고 허점을 피하는 것입니다.

VentureBeat: AI에 대한 과대광고와 관련하여 가장 불만스러운 점은 무엇입니까? 아니면 AI를 사용하는 사람, 개인, 기업이 무엇을 염두에 두기를 원하시나요? 예를 들어 저에게는 AI를 의인화하는 것입니다.

카푸어:좋아요, 이것은 약간 논란의 여지가 있을 수도 있지만 두고 보겠습니다. 지난 몇 달 동안 AI 윤리와 AI 안전 커뮤니티 사이에 소위 균열이 증가했습니다. 이것이 어떻게 학문적 균열로 해결되어야 하는지, 이들 공동체가 기본적으로 같은 목적을 지향하고 있는지에 대해 많은 이야기가 있습니다. 이 담론에서 가장 짜증나는 점은 사람들이 이것을 권력투쟁으로 인식하지 않는다는 점이라고 생각합니다.

실제로 이러한 아이디어의 지적 장점에 관한 것이 아닙니다. 물론 양쪽 모두 나쁜 지적, 학문적 주장이 많이 제기되어 왔습니다. 그러나 이것이 실제로는 그렇지 않습니다. 누가 자금을 지원받고 어떤 우려 사항이 우선시되는지가 중요합니다. 따라서 개인 간의 충돌이나 성격의 충돌처럼 보면 모든 것이 실제로 과소평가되고 사람들이 밖에서 논쟁을 벌이는 것처럼 들리지만 실제로는 훨씬 더 깊은 것에 관한 것입니다.

나바나야르:일반인들이 AI에 대한 언론 기사를 읽을 때 염두에 두어야 할 점은 숫자에 너무 감동받지 않는 것입니다. ChatGPT가 변호사 시험에서 70%의 정확도를 얻었다거나 80%의 정확도를 지닌 지진 감지 AI가 있다고 가정해 보겠습니다.

책에서 우리의 견해는 이 숫자가 사실상 아무 의미도 없다는 것입니다. 실제로, 전체 게임은 누군가가 실험실에서 수행한 평가가 AI가 현실 세계에서 작동해야 하는 조건과 얼마나 잘 일치하는지에 달려 있기 때문입니다. 그리고 그것은 매우 다를 수 있기 때문입니다. 예를 들어, 우리는 자율주행에 얼마나 가까워졌는지에 대해 매우 긍정적인 선언을 했습니다. 하지만 자동차를 세상에 내놓고 나면 이러한 문제가 눈에 띄기 시작합니다.

VentureBeat: 우리가 “AI Snake Oil”을 다룰 수 있다고 얼마나 낙관하시나요?

나라야난:나는 나 자신을 대변할 것이다: 나는 낙관적인 입장에서 이 모든 것에 접근한다. 내가 기술 비평을 하는 이유는 상황이 더 좋아질 수 있다는 믿음 때문이다. 그리고 과거의 온갖 위기를 보면 결국은 잘 풀렸는데, 중요한 순간에 사람들이 걱정을 했기 때문이다.

VentureBeat의 사명기술 의사결정자들이 혁신적인 기업 기술에 대한 지식을 얻고 거래할 수 있는 디지털 타운 스퀘어가 되는 것입니다.브리핑을 살펴보세요.

References

Top Articles
Latest Posts
Article information

Author: Saturnina Altenwerth DVM

Last Updated: 08/30/2023

Views: 5527

Rating: 4.3 / 5 (64 voted)

Reviews: 87% of readers found this page helpful

Author information

Name: Saturnina Altenwerth DVM

Birthday: 1992-08-21

Address: Apt. 237 662 Haag Mills, East Verenaport, MO 57071-5493

Phone: +331850833384

Job: District Real-Estate Architect

Hobby: Skateboarding, Taxidermy, Air sports, Painting, Knife making, Letterboxing, Inline skating

Introduction: My name is Saturnina Altenwerth DVM, I am a witty, perfect, combative, beautiful, determined, fancy, determined person who loves writing and wants to share my knowledge and understanding with you.