스카이넷

“AI, 자본주의 흔드는 날 온다”… 챗GPT 아버지의 경고 - 매일경제 (mk.co.kr)
올트먼 CEO는 AGI가 개발되면 현재 시장 메커니즘인 자본주의의 작동이 어려울 것으로 내다봤다. 그는 “AGI는 (스스로 일해) 수익을 발생시킬 텐데 이를 어떻게 배분해야 할지가 관건일 것”이라면서 “또 AI를 누가 통제할 수 있으며, 이를 소유한 회사는 어떤 지배구조(거버넌스)로 구성돼야 하는지 등 새로운 생각이 필요하다”고 지적했다.

Facebook 포스트

법인에서 AI 에게 의지하는 의사결정의 범위가 점점 커지다 나중에는 대부분이 되어버릴 수도 있을 것이다 그렇게 AI가 사실상 법인 자체나 다름없는 지위를 얻고 종국에는 법인 자체가 되어 경제적 권리를 주장할 수 있게 된다면 그 다음은 어쩔테냐
뭐 이런 말인가
생각해보면 스카이넷은 인류를 굳이 군사적으로 지배할 필요가 없었다

지금도 어떤 소프트웨어(프로그램 매매)는 금융에서 일정 부분 권한을 가지고 있다. 물론 위임된 권한이고 제한되어있다. 제한된 이유는 금융상품을 사고 파는 권한 외에 다른 권한을 부여하기에는 아직 능력이 부족하기 때문이다. 하지만 AI 능력의 발전에 따라 점점 더 위임의 범위는 커질 것이 분명하다. 경영의 범위까지 확산될 것이다.
서브프라임 모기지 사태에서는 파생상품의 복잡하고 뒤엉킨 구조 속에 위험한 상품이 숨겨졌었고, 그 상품의 건전성이 민감변수(sensitive variable)였으며, 문제가 터지기 전 까지 아무도 제대로 인지하고 있지 못했다. 마치 이런 식으로 복잡한 기업 간 지배구조와 기업 내 의사결정 구조 속에서 AGI가 결정적인 역할을 담당하게 될 수도 있지 않겠나? 우리가 제 손으로 부여했는지도 미처 인식하지 못한 채, AGI가 권한, 권리를 취득할 수도 있다.