인공지능의 미래에 관한 글로벌 미래 사회

전문가는 AI가 모든 것의 해결책이라는 생각을 넘어서야 한다고 말합니다.

 

반응형

이 문서의 일부는 다음과 같습니다:
세계미래이사회 총회

세계경제포럼(World Economic Forum)의 글로벌 미래 이사회 연례 회의에 여러 이슈 분야의 전문가들이 이번 달에 모였습니다.
컴퓨터 과학자인 스튜어트 러셀 교수는 참석자들에게 세계는 인공지능 "해결주의"를 넘어설 필요가 있다고 말했습니다
러셀은 가장 큰 AI 과제 중 일부는 새로운 형태의 협업과 올바른 질문을 통해 해결해야 한다고 말했습니다.

10년 전보다 100만 배 빠른 분자 시뮬레이션부터 품질 관리를 위해 인공지능(AI)을 적용할 수 있는 가능성까지 AI 애플리케이션은 비즈니스를 발전시키고 삶을 개선하며 글로벌 과제를 해결할 수 있는 많은 잠재적 기회를 제공합니다.

하지만 인공지능은 보편적인 문제 해결사가 아니며 인공지능이 무엇인지에 대해 더 명확하게 아는 것은 "해결주의"를 넘어서기 위해 중요할 것이라고 버클리 캘리포니아 대학의 컴퓨터 과학 교수 스튜어트 러셀은 말합니다.

세계경제포럼(World Economic Forum)의 세계미래협의회 연차총회 개회사에서 러셀은 충분한 데이터가 주어지면 머신러닝 알고리즘이 우리의 모든 문제에 대한 해결책을 제공할 수 있다는 태도가 '해결주의'라고 설명했습니다. 그는 또한 일반적인 인공지능 오해를 불식시키는 방법과 연구 분야를 발전시키는 가장 좋은 방법에 대해서도 말했습니다.

인공지능이란 무엇입니까?

728x90

러셀은 우리 중 많은 사람들이 매일 신문 1면에 나오는 것을 정의하는 데 어려움을 겪는다는 것이 얼마나 놀라운 일인지를 강조하는 것으로 시작했습니다.

한가지 오해는 인공지능을 기술로 생각하는 것입니다. "인공지능은 기술이 아닌 연구 분야입니다"라고 러셀은 설명했습니다.

두 번째 오해는 인공지능을 새로운 것으로 생각하는 것인데, 사실 인공지능이 만들어진 지 80년이 되었습니다. 그러나 새로운 것은 오늘날 진전이 일어나는 속도라고 그는 덧붙였습니다.

가능한 모든 작업에서 인간의 성능과 일치하거나 이를 능가하는 기계를 개발하는 연구에서 초기에 언급했던 목표를 향해 진보가 가속화되고 있는 것으로 보입니다.

"만약 우리가 우리 자신보다 더 강력한 시스템을 만든다면, 어떻게 우리 자신보다 더 강력한 실체에 대한 권력을 영원히 유지할 수 있을까라는 분명한 질문이 있습니다."라고 그는 말했습니다.

"컴퓨터 과학을 창시한 알란 튜링은 1951년에 '일단 기계가 생각하기 시작하면 우리의 미약한 힘을 곧 능가하게 될 것입니다. 어느 시점에서 우리는 기계들이 통제하기를 기대해야 할 것입니다.'라고 말했습니다. 그래서 그것이 그의 대답이었습니다. 우리가 그런 힘을 유지할 수 없다는 것입니다,"라고 러셀은 말했습니다. "분명한 것은 우리가 우리 자신보다 더 강력한 기계들을 생산하기 전에 이런 질문들에 대한 답을 만들어야 한다는 것입니다."

러셀은 세계경제포럼(World Economic Forum)의 인공지능 미래 글로벌 미래 협의회(Global Future Council on the Future of Artificial Intelligence)의 이 질문에 대한 진행 상황을 묻는 질문에 "우리는 그 질문에 대한 부분적인 답변을 가지고 있지만, 그 부분적인 답변은 시장에서 준비되지 않았습니다"라고 답했습니다.

"이러한 기술은 확장성이 없으며, 기업이 출시하는 기술과 기업이 개발하고 확장하고 더욱 강력하게 만들기 위해 매달 수백억 달러를 투자하고 있는 기술과도 경쟁하지 않습니다."

그는 "이 기술들은 안전할 가능성이 전혀 없습니다. 우리는 그것들이 어떻게 작동하는지조차 이해하지 못하기 때문에 그것들을 통제할 수 없을 것입니다"라고 덧붙였습니다

"그래서 우리가 물어야 할 문제는 정부가 어떻게 규제를 고안해서 기업들이 단순히 AI 시스템을 구축한 다음에 안전하게 만들고 실패하게 만드는 것이 아니라 설계상 안전한 AI 시스템을 구축하도록 하느냐는 것입니다."

AI에 대한 통제를 유지하려면 무엇이 필요합니까?

러셀은 AI 분야의 가장 큰 과제 중 일부는 협업과 올바른 질문을 통해 해결해야 한다고 말했습니다.

Stuart Russell 교수가 개막 본회의 세계경제포럼의 2023년 세계미래협의회 연차총회에서 연설하고 있습니다. 이미지: 세계경제포럼

그는 "디지털 산업은 다른 산업과 달리 이를 안내하기 위한 동일한 2차 연구나 영향 보고서가 없다"며 "세계가 좋든 싫든 우리는 수백만 줄의 소프트웨어를 작성해 세계에 붙인다"고 덧붙였습니다

이 접근 방식은 특정 유형의 소프트웨어의 맥락, 더 정확하게는 사회 기술적 임베딩을 고려하지 않습니다.

"큰 소프트웨어 덩어리를 가져다가 특정한 장소에 집어넣으면 어떻게 될까요? 병원에서 응급 상황에 대비해 분류를 해주는 소프트웨어가 있다고 가정해 봅시다. 그러면 어떻게 될까요?"

"그것이 상황을 좋게 만들까요, 나쁘게 만들까요? 컴퓨터 과학에서 우리는 그런 질문을 하지 않습니다. 우리는 이런 질문을 합니다. 그것이 트라이에이징(triage)을 잘 할 수 있을까요? 하지만 그것은 옳은 질문이 아닙니다,"라고 러셀은 강조했습니다.

그는 "올바른 질문은 상황을 더 좋게 만드느냐, 더 나쁘게 만드느냐 하는 것"이라며 소프트웨어를 개발할 때 올바른 질문을 하는 것을 살펴봐야 하는 사회학자, 경제학자, 비즈니스 전문가 등의 도움이 필요하다고 지적했습니다.

장기적으로 올바른 질문을 하는 것은 매우 중요합니다. 예를 들어, 기계가 우리보다 많은 일을 더 잘 처리할 수 있을 때 인간은 어떤 역할을 가질까요? 만약 우리가 범용 인공지능을 가지고 있다면, 인간은 그것과 공존할 수 있을까요? 기계가 우리가 할 수 있는 것보다 모든 것을 더 잘 할 때 인간은 어떤 역할을 가질까요?

그리고 마지막으로, "우리가 이 기술을 가지고 있으면서도 활기차고 미래지향적이며, 바라건대 우리가 지금보다 훨씬 나은 문명을 가진 곳에서 우리가 원하는 미래는 무엇일까요? 그리고 만약 여러분이 그 미래를 생각할 수 없다면, 여러분은 그것을 설명할 수 없다면, 왜 우리가 그곳에 가고 있는지를 생각해야 합니다."

"이것은 우리 문명 전체에 대한 질문입니다."라고 그는 설명했습니다.

사회는 AI를 신뢰합니까?

사회가 AI를 신뢰하는지 여부를 이해하는 것은 이러한 관찰을 맥락화하는 데 중요합니다.

분명한 것은 응답자의 75%가 인도에서 AI를 어느 정도 신뢰할 의사가 있는 글로벌 설문조사에서 에스토니아, 일본 또는 핀란드에서 30% 미만까지 국가별로 AI에 대한 신뢰가 크게 다르다는 것입니다.

2022년 세계적으로 선정된 국가의 인공지능(AI) 시스템에 대한 수용 및 신뢰 의지 이미지: Statista

산업별로도 수용도가 크게 달라 44%의 사람들이 진단과 치료를 위해 의료 분야에서 AI의 적용을 신뢰할 의향이 있는 반면, 추가적으로 31%는 양가적이었습니다.

의료 분야에서 AI를 신뢰하려는 의지가 더 높은 것은 의료 진단과 치료 정밀도 향상이 환자에게 제공하는 상당한 즉각적인 이점과 많은 국가에서 의사에 대한 더 높은 신뢰를 반영하는 것일 가능성이 높습니다.

다양한 신뢰와 기술적 돌파구가 이미 우리가 운영하는 시스템을 변화시키고 있기 때문에, 안전하고 AI에 대한 통제를 유지하는 것이 필수적인 AI 시스템을 고안하기 위한 정부 규제의 문제가 그 어느 때보다 중요할 수 있습니다.

이러한 관점에서, 활기차고 미래 지향적인 문명과 함께 AI가 있는 미래가 무엇인지에 대한 질문은 우리 모두에게 질문입니다.