防止创造掠夺性超智能

YAML 问题

Gyvybei evoliucionuojant Žemėje, mes kuriame įvairius "supra-organizmus", pvz., įvairias organizacijas. Mes taip pat kuriame naujas terpes, kaip kad Internetą. Tačiau yra įmanoma įsivaizduoti, kad tokiose terpėse galėtų išsivystyti tam tam tikros organizacijos ir informacinės struktūros, kurios pasidarytų super-intelektualiomis ir grobuoniškomis: taip, kaip kad mes, žmonės, tapome ekologinės mitybos grandinių piramidės viršūne, nutinka ir su organizacijomis, kurios tampa pasaulio ekonominės piramidės viršūnėmis.

Šiuo metu jau egzistuoja grupės žmonių, kurie laiko kitus žmones ir kompanijas -- paprasčiausiai darbo jėga. Pastebint tai, kad kai kurios tokios struktūros kolektyviškai strateguoja pasiekti savo grobuoniškiems tikslams, jos yra panašios į modernias super-intelektualius supra-organizmus.

Tačiau, tokie supra-organizmai nebūtinai turi būti paremti žmonių intelektu. Gali būti, kad naujose terpėse atsiras kažkas sudėtingesnio, kaip kad organizmai paremti masinėmis informavimo priemonėmis ir kitais agentais (patraukliai atrodančia informacija), kuri užburs žmonių protus, panašiai, kaip kai kurie mikroorganizmai (pvz. Toxoplasma gondii) psicho-chemiškai keičia žmonių elgesį ir intelektą, taip ir tie supraorganizmai "marketingiškai" keis žmonijos elgesį.

Būtų puiku, jeigu rastume idėjų, kaip išvengti scenarijų, kai aukšesnio lygio intelektas ir organizacijos monopolizuoja resursų valdymą.




投票 (可选) (别通知) (可选)
请,登录
语言