마이크로소프트의 브래드 스미스는 AI가 무기화될 수 있다고 말한다

주요 AI 개발사인 마이크로소프트(Microsoft)의 최고 경영자는 초지능 기계가 무기로 사용될 수 없도록 항상 인간이 통제해야 한다고 말했습니다.

월요일에 방송된 CNBC와의 인터뷰에서 거대 기술 기업의 브래드 스미스 사장은 인공지능이 “도구이자 무기가 될 수 있다”고 경고했습니다.

그는 AI의 파괴 가능성에 대해 경종을 울리는 유일한 기술계 유명인이 아닙니다. 소위 "AI의 대부" 중 두 사람과 ChatGPT 창시자인 OpenAI의 창립자는 기술의 전망에 대해 암울한 경고를 발표했습니다.

Tesla CEO Elon Musk는 이것이 인류 종말의 촉매제가 될 수 있다고 경고하기까지 했습니다.

Smith는 CNBC의 Martin Soong과의 인터뷰에서 “지금까지 발명된 모든 기술은 도구이자 무기가 될 가능성이 있다고 생각합니다.”라고 말했습니다. “우리는 AI가 인간의 통제를 계속 받도록 해야 합니다. AI를 사용하여 중요한 인프라를 자동화하는 것을 고려하는 정부, 군대 또는 어떤 종류의 조직이든 우리는 인간이 제어할 수 있도록 하고 속도를 늦추거나 끌 수 있도록 해야 합니다. ”

Microsoft 자체는 올해 초 OpenAI에 100억 달러를 투자하고 회사의 생성 AI 챗봇인 ChatGPT를 주력 검색 엔진인 Bing에 통합하는 등 AI에 막대한 투자를 하고 있습니다. 업데이트된 Bing은 초기 사용자에게 엇갈린 결과를 가져왔습니다.

Smith는 월요일 인터뷰에서 AI 사용과 관련된 잠재적 위험 때문에 Microsoft는 기업이 "올바른 일을"하고 안전 프로토콜을 준수하도록 보장하는 새로운 법률 및 규정을 옹호해 왔다고 덧붙였습니다.

“우리는 다른 곳에서도 이에 대한 필요성을 보았습니다.”라고 그는 말했습니다. “전기가 회로 차단기에 달려 있다고 상상해 보세요. 비상 브레이크가 있다는 것을 알고 자녀를 스쿨 버스에 태웠습니다. 우리는 이전에 다른 기술에 대해 이 작업을 수행한 적이 있습니다. 이제 AI에도 그렇게 해야 합니다.”

최첨단 AI 기술 개발에 수십억 달러가 투자되면서 많은 사람들이 이 기술이 우리의 일상 생활을 어떻게 혼란에 빠뜨릴지 추측하고 있습니다. 이는 치명적인 기계에 대한 예측, 더 큰 AI 거버넌스 요구, 세계가 곧 그렇게 될 것이라는 예측으로 이어집니다. 새로운 AI 시대의 시작을 확인하세요.

그러나 전문가들은 AI가 인류에게 르네상스를 가져올 것인지 아니면 종말을 가져올 것인지에 대해 의견이 분분한 것으로 보입니다.

올 여름 초 초대받은 예일대 CEO 서밋에서 설문조사에 참여한 CEO 중 거의 절반은 AI가 향후 5~10년 내에 인류를 파괴할 잠재력이 있다고 믿고 있다고 말했습니다.

지난 3월, 머스크와 애플의 공동 창업자인 스티브 워즈니악을 포함한 1,100명의 저명한 기술자 및 AI 연구자들이 강력한 AI 시스템 개발을 6개월간 중단할 것을 요구하는 공개 서한에 서명했습니다. 그들은 이러한 시스템이 이미 인류 문명을 위협할 수 있는 초지능으로 향하는 길에 있을 가능성을 지적했습니다.

Tesla와 SpaceX의 공동 창업자인 머스크는 이 기술이 사람들을 "소행성처럼" 타격할 것이라고 별도로 말했으며 "터미네이터"가 될 가능성이 있다고 경고했습니다. 이후 그는 자신의 AI 회사인 xAI를 설립했는데, 이는 "우주를 이해"하고 인류의 멸종을 막기 위한 노력이라고 말했습니다.

그러나 모든 사람이 초지능 기계가 인류를 멸망시킬 수 있다는 머스크의 견해에 동의하는 것은 아닙니다.

지난 달에는 1,300명 이상의 전문가가 모여 AI에 대한 불안을 진정시키고 '사악한 로봇 군주' 무리를 만들어냈으며, 소위 AI의 대부 3명 중 한 명은 기술이 실존적 위협이 되는 것에 대한 우려를 '터무니없을 정도로 터무니없다'고 표시했습니다.

Meta의 최고 경영자인 Nick Clegg도 최근 인터뷰에서 기술에 대한 우려를 잠재우려고 시도했으며, 현재 형태의 대규모 언어 모델은 "아주 멍청하고" 아직 문명을 구하거나 파괴할 만큼 똑똑하지 않다고 주장했습니다.

그러나 AI의 부상에 대한 우려를 불러일으키는 것은 사악한 기계가 세상을 장악할 것이라는 전망만이 아닙니다.