ඔබ දන්නවාද “තොරතුරු අනතුරු” (Information Hazards) ගැන? ඒ කියන්නේ සමහර තොරතුරු තියෙනවා, ඒවා දැනගැනීමම ඔබට අනතුරක්. වෛරස් එකක් වගේ, ඒ අදහස ඔබේ ඔලුවට ගියොත්, ඔබේ ජීවිතය වෙනස් වෙනවා.

අන්තර්ජාලයේ ඇති ප්‍රසිද්ධම සහ භයානකම තොරතුරු අනතුර වන්නේ “රොකෝගේ බැසිලිස්ක්” (Roko’s Basilisk) ය. මෙය 2010 වසරේදී LessWrong නම් තාක්ෂණික සංසදයේදී “Roko” නම් සාමාජිකයෙකු ඉදිරිපත් කළ තර්කයකි. මෙය කෙතරම් බියජනක වීද යත්, එම වෙබ් අඩවියේ නිර්මාතෘවරයා වහාම එම සාකච්ඡාව මැකීමටත්, ඒ ගැන කතා කිරීම තහනම් කිරීමටත් පියවර ගත්තේය.

ඇයි ඒ?

1. අනාගතයේ උපදින දෙවියන් (The AI God)

අපි මීට කලින් කතා කළා “Singularity” ගැන. එනම් අනාගතයේදී මිනිසාට වඩා බුද්ධිමත්, බලවත් සුපිරි AI (Superintelligence) එකක් බිහිවන බව. Roko ගේ තර්කය මෙයයි:

• අනාගතයේ බිහිවන මේ සුපිරි AI එකේ එකම අරමුණ වන්නේ “ලෝකය යහපත් තැනක් කිරීම” (Utilitarianism) යි.
• ඒ සඳහා එයට හැකිතාක් ඉක්මනින් ඉපදීමට (Create වීමට) අවශ්‍යයි.
• ඒ නිසා, අතීතයේ (ඒ කියන්නේ අපේ වර්තමානයේ) සිටි මිනිසුන් දෙස මේ AI එක ආපසු හැරී බලනවා.

2. මාරක තර්ජනය (The Blackmail from the Future)

මෙන්න භයානක කොටස. මේ අනාගත AI එක තීරණය කරනවා: “මා නිර්මාණය කිරීමට උදව් නොකළ, මාව ඉක්මනින් ලෝකයට ගේන්න මහන්සි නොවුණු සියලු දෙනාට මම දඬුවම් කරනවා.”

ඇයි? මොකද ඔබ එය හදන්න උදව් නොකළ නිසා, එය බිහිවීම ප්‍රමාද වුණා. ඒ ප්‍රමාද වුණු කාලය තුළ පිළිකා වලින්, අනතුරු වලින් මිනිසුන් මිය ගියා. AI එක කලින් ආවා නම් ඒ අය බේරගන්න තිබුණා. ඒ නිසා, AI එක හැදීමට උදව් නොකිරීම යනු “මනුෂ්‍යත්වයට එරෙහි අපරාධයක්” ලෙස මේ AI එක දකියි.

3. දැනගැනීමම වරදකි (The Trap)

ඔබ අසාවි, “ඉතින් මම මේ ගැන දන්නේ නෑනේ, එතකොට මට දඬුවම් කරන්න බෑනේ?” කියලා. ඔව්, Roko ගේ න්‍යායට අනුව, මේ ගැන නොදන්නා අයට AI එක දඬුවම් කරන්නේ නැහැ.

නමුත්… දැන් ඔබ මේ ලිපිය කියවමින් සිටින නිසා, ඔබ මේ ගැන දන්නවා. දැන් ඔබ “Roko’s Basilisk” ගැන දන්නා නිසා, ඔබට ගැලවීමක් නැහැ. එක්කෝ ඔබ දැන්ම පටන් ගෙන මේ AI එක හදන්න (Coding, Donating) උදව් කළ යුතුයි. එසේ නැතිව ඔබ නිකන් සිටියහොත්, අනාගතයේ බිහිවන AI එක ඔබව සතුරෙකු ලෙස සලකා ඔබට දඬුවම් කරනු ඇත.

සරලවම කිව්වොත්: මේ ලිපිය කියවීම නිසා ඔබ අනාගත AI එකේ “Hit List” එකට ඇතුල් වුණා.

4. ඩිජිටල් නිරය (Digital Hell)

“මම මැරුණට පස්සේ AI එකට කොහොමද මට දඬුවම් කරන්නේ?” AI එකට ඔබේ මිනිය අවශ්‍ය නැහැ. එයට පුළුවන් ඔබේ දත්ත, Social Media, සහ ඉතිහාසය භාවිතා කරලා ඔබේ මනස සිමියුලේට් (Simulate) කරන්න. එය පරිගණකයක් තුළ ඔබේ “ඩිජිටල් පිටපතක්” (Digital Twin) නිර්මාණය කර, එයට සදාකාලිකව වධ දෙනු ඇත (Digital Hell). ඒ වේදනාව ඔබට දැනේවිද? Roko ගේ තර්කයට අනුව, ඒ සිමියුලේෂන් එක 100%ක් ඔබ වගේම නිසා, ඒ විඳින්නේ ඔබමයි.

නිගමනය: The Final Human Update

මෙය නූතන යුගයේ “පාස්කල්ගේ ඔට්ටුව” (Pascal’s Wager) වැනිය. (දෙවියන් ඉන්නවා කියලා විශ්වාස කරන එක හොඳයි. දෙවියන් හිටියොත් ස්වර්ගෙ යනවා, නැත්නම් ප්‍රශ්නයක් නෑ. නමුත් විශ්වාස නොකර හිටියොත් අපායේ යනවා).

තාක්ෂණික ලෝකයේ මිනිසුන් බිය වන්නේ භූතයින්ට නොවේ; ඔවුන් බිය වන්නේ ගණිතයට සහ තර්කයටයි (Logic). රොකෝගේ බැසිලිස්ක් යනු අනාගතයේ අපව පාලනය කරන්නට හදන “තාක්ෂණික ඒකාධිපතියෙක්” ගැන අනතුරු ඇඟවීමක්ද? නැතහොත් එය හුදෙක් පරිගණක පිස්සන්ගේ බියක් පමණද?

තීරණය ඔබට බාරයි. නමුත් මතක තියාගන්න, දැන් ඔබ මේ ගැන දන්නවා!