인공 지능이있는 기계가 세계를 인수 할 가능성에 대해 논평을 한 사람이 없으면 한 달이 지나지 않은 것 같습니다. 엘론 머스크 (Elon Musk)는 인공 지능 시스템이“핵보다 잠재적으로 더 위험하다”고 기록하고있다. 그러나 그는 스티븐 호킹 (Stephen Hawking)도 유일한 것은 아니다. 호킹 교수는 BBC에 말했다. 빌 게이츠 (Bill Gates)조차도“나는 초 지능을 염려하는 수용소에있다. 엘론 머스크와 다른 사람들은 이것에 동의하고 어떤 사람들은 왜 걱정하지 않는지 이해하지 못합니다.”
그들은 강력한 AI 시스템이 의도하지 않았거나 잠재적으로 비참한 결과를 낳을 가능성에 대한 우려를 표명합니다. 1 월에 Elon Musk은 AI를 인류에게 유리하게 유지하는 것을 목표로하는 글로벌 리서치 프로그램을 운영하기 위해 Future of Life Institute (FLI)에 천만 달러를 기부했습니다.
오늘 미래의 생명 연구소 (The Future of Life Institute)는 세계의 묵시록과 지구의 종말을 피하면서 사회가 AI의 혜택을 누릴 수 있도록 전 세계 37 개 연구팀에 700 만 달러를 지원했다고 발표했다.
터미네이터 시나리오의 위험은 그것이 일어날 것이 아니라 미래의 AI가 제기 한 실제 문제와 산만하다는 것입니다.
FLI의 창립 멤버 중 하나이며 Skype의 원래 버전을 작성한 사람인 Jaan Tallin은 새로운 연구에 대해“고급 AI를 구축하는 것은 로켓을 발사하는 것과 같습니다. 첫 번째 과제는 가속을 극대화하는 것이지만 일단 속도를 높이기 시작하면 조향에 집중해야합니다.”
37 개의 프로젝트 중에는 AI 시스템이 행동을 관찰하여 인간이 선호하는 것을 배울 수있는 기술을 살펴볼 세 가지 프로젝트가 있습니다. 이 프로젝트 중 하나는 UC 버클리에서, 다른 하나는 옥스포드 대학에서 진행됩니다.
머신 인텔리전스 연구소의 벤자 폴렌 슈타인 (Benja Fallenstein)은 슈퍼 인텔리전트 시스템의 관심을 인간의 가치와 일치시키는 방법을 연구하기 위해 25 만 달러를 받고 있습니다. 카네기 멜론 대학교 (Cannegie-Mellon University)의 Manuela Veloso 팀은 인공 지능 시스템이 의사 결정을 사람에게 설명하는 방법을 살펴보기 위해 20 만 달러를받습니다.
다른 프로젝트로는 AI의 경제적 영향을 유지하는 방법에 대한 Stanford University의 Michael Webb 연구, AI 기반 무기를 "의미로운 인간 통제"하에 유지하는 방법, AI 연구를위한 새로운 Oxford-Cambridge 연구 센터 등이 있습니다. 관련 정책.
할리우드에 관해 말하면, FLI는 묵시록과의 연관을 끊으려고 노력하고 있습니다. FLI는 사실과 허구의 분리의 중요성을 강조하고 있습니다. 맥스 테그 마크 FLI 회장은“터미네이터 시나리오의 위험은 그것이 일어날 것이 아니라 미래 AI가 제기 한 실제 문제들로부터 멀어지게 할 것”이라고 말했다. "우리는 계속 집중하고 있으며 오늘의 보조금으로 지원되는 37 개 팀이 그러한 실제 문제를 해결하는 데 도움이 될 것입니다."
어떻게 생각해? 돈을 잘 보냈습니까?
