A.I 인공지능 경고: 우리가 행동하지 않으면 기계가 우리에게 해를 끼칠 수 있다고 인공지능 전문가는 주장합니다

인공지능(AI)은 기술이 통제되지 않고 개발되도록 허용될 경우 우리 삶을 통제할 수 있는 잠재력이 있다고 한 인공지능 전문가가 경고했습니다.

기계 학습과 인공 지능은 이미 다양한 정도로 우리의 삶에 영향을 미칩니다. 인공 지능은 얼굴 인식으로 휴대폰을 열 때마다 시작되며 소셜 미디어에서 볼 수 있는 뉴스와 광고에서 큰 역할을 합니다. 그리고 이러한 영향은 언뜻 보잘것 없어 보일 수 있지만 많은 전문가들은 그것들이 앞에 놓여있는 더 큰 문제의 징후라고 두려워합니다.

2015년, 많은 저명한 과학자들과 기술 거물들이 AI의 영향에 대한 더 많은 연구를 요구하는 공개 서한에 서명했습니다.

반응형

서명자에는 스티븐 호킹 교수와 최근 AI가 5년 안에 우리를 추월할 수 있다고 말한 스페이스X의 CEO 엘론 머스크가 포함되었습니다.

폴란드 포즈나 ń 폴리트치니크의 로봇공학 및 기계 지능 연구소의 왈라스 크르지즈토 박사에 따르면 AI로 인한 위험은 두 배라고 합니다.

한편으로는 기계가 인간을 악행으로 몰아갈 만큼 똑똑해질 수 있는 위험이 있습니다.

인공지능: 한 전문가가 인공지능 기술이 야기하는 위험에 대해 경고했습니다.

반면, 기계가 인간을 상대로 물리적 행동을 할 가능성이 낮은 이론적 시나리오입니다.

두 경우 모두 전문가는 AI 기술을 규제하고 옳고 그름을 구별해야 한다고 주장했습니다.

그는 이렇게 말했습니다: "저는 여기서 두 가지 가능성을 봅니다. 무엇보다도, 이러한 시스템은 비물리적인 수단을 통해 사람들에게 강한 영향을 미칠 수 있습니다.

"예를 들어, 그들은 소셜 미디어의 도움으로 심지어 대규모로 조작할 수 있습니다.

"예를 들어, 그들은 이웃이나 다른 민족을 증오하도록 다른 사람들을 설득할 수 있습니다.

인공지능: 인공지능은 인터넷에서의 상호작용으로부터 나쁜 행동을 배울 수 있습니다.

"무기 접근이 쉬운 나라에서 이 시나리오를 상상해 보세요.

728x90

"똑똑한 프로그램은 이론적으로 어떤 사람들이 나쁜 일을 하도록 조종할 것입니다.

"예를 들어, 컴퓨터는 무기를 사용하는 사람들이 아니라 무기를 사용하는 사람들에게 접근할 수 있을지도 모릅니다."

두 번째 시나리오에서는 터미네이터 필름 프랜차이즈와 거의 유사하지만 기계 자체가 손상을 일으킬 수 있습니다.

왈라스 박사는 "두 번째 옵션은 웹에 연결된 로봇의 물리적 행동에 관한 것입니다.

"예를 들어 인터넷의 도움으로 알고리즘을 변경할 수 있고 이러한 기계는 사람들에게 해를 끼칠 수 있는 일을 할 수 있습니다.

"저는 가끔 완전 자율주행차가 저를 납치했다면 어쩔 수 없다는 생각을 합니다.

"물론 저는 여기서 어두운 시나리오를 그리고 있습니다.

"우리는 현재 가능한 위협이 아닌 이론적인 것에 대해 이야기하고 있습니다."

인공지능: 스페이스X 최고경영자 일론 머스크가 AI의 위험성에 대해 경고했습니다.

인터넷에서 비열한 행동을 배울 수 있는 능력.

가장 유명한 것은 트위터에 있는 마이크로소프트의 TayTweet 챗봇이 충격적인 인종차별적 언어를 배운 후 폐쇄되었다는 것입니다.

왈라스 박사는 "인터넷에는 많은 증오가 있습니다. 만약 지능적인 시스템이 순수하게 인터넷 포럼을 분석함으로써 사람들과 상호작용하는 법을 배운다면 어떤 일이 벌어질까요?"라고 말했습니다

전문가는 AI 윤리적 선택을 처음부터 가르치기 위해 작업이 필요하다고 제안했습니다.

인공지능: 인공지능은 윤리적 선택과 의사결정을 배울 수 있습니다.

왈라스 박사는 "그들에게 윤리적인 것들을 가르치고, 그들에게 행복과 선으로 이끄는 선택들을 보여주기 위한 아이디어들이 있습니다.

"그러면, 그들이 인간의 능력을 능가할 때에도, 우리에게 해를 끼칠 수 있는 다른 것이 아니라 인류의 향상을 위해 일하는 것이 그들에게 보상이 될 것입니다."

하지만, 왈라스 박사는 인공지능이 창조자들을 능가할 만큼 충분히 발전될 것이라고 말하기는 어렵다고 말했습니다.