The Peter McCormack Show නාලිකාව සමඟ පැවැති ගැඹුරු සාකච්ඡාවකට එකතු වෙමින්, ලොව ප්‍රමුඛතම දර්ශනවාදියෙකු, ඔක්ස්ෆර්ඩ් විශ්වවිද්‍යාලයේ හිටපු මහාචාර්ය, Superintelligence ග්‍රන්ථයේ කතුවරයා සහ සිමියුලේෂන් වාදයේ (Simulation Hypothesis) පූර්වගාමියා වන නික් බොස්ට්‍රොම් (Nick Bostrom) කෘතිම බුද්ධියේ අනාගතය පිළිබඳව තීරණාත්මක විශ්ලේෂණයක් ඉදිරිපත් කළේය.

කෘතිම බුද්ධි පර්යේෂණාගාර මගින් මානවරූපී පොදු කෘතිම බුද්ධිය (AGI) නිර්මාණය කිරීමට දැඩි ලෙස උත්සාහ කරන මේ මොහොතේ, බොස්ට්‍රොම් තමන්ගේ අනාගත දැක්ම හඳුන්වන්නේ පරම භීතිය හෝ අන්ධ විශ්වාසය වෙනුවට “කංසාකාරී සුබවාදය සහ මධ්‍යස්ථ දෛවෝපගතභාවය” (fretful optimism with a degree of moderate fatalism) ලෙසයි.

AI පද්ධතිවල සදචාරාත්මක සහ මූලෝපායික අර්බුදයේ සිට, භූ-දේශපාලනික තහනම්, සුදු කරපටි (white-collar) රැකියා අහෝසි වීම සහ ඩිජිටල් මනසක (digital consciousness) මතුවීම දක්වා මානව civilization එක හමුවේ ඇති ප්‍රධාන අභියෝග ඔහු මෙසේ පැහැදිලි කරයි.

1. ජෛව විද්‍යාත්මක බුද්ධිය අබිබවා යන AI වේගය

යන්ත්‍රවල ඉගෙනීමේ ශක්‍යතාව (machine learning) වර්ධනය වන ශීඝ්‍රතාව දෙස බලන විට, කෙටි කාලයක් තුළ මානව ජෛව විද්‍යාත්මක බුද්ධිය පසුපසට තල්ලු කරන සුපිරි බුද්ධියක් (superintelligence) බිහිවීම වැළැක්විය නොහැක්කකි.

“අපිට මානව ජෛව විද්‍යාත්මක බුද්ධිය ඉතා ඈතින් අතහැර දමන අතිශය බලවත් AI සුපිරි බුද්ධියක් ලැබෙනු ඇත,” බොස්ට්‍රොම් පැහැදිලි කළේය. “එවිට පැනනඟින ප්‍රධාන ප්‍රශ්නය වන්නේ, ඒ තරම් බලවත් AI එකකට කිරීමට අවශ්‍ය ඕනෑම දෙයක් කිරීමට හැකි වූ විට එය කුමක් කරනු ඇත්ද යන්නයි.”

මෙම තාක්ෂණික පිම්ම හමුවේ පණනඟින ප්‍රධානතම පරිගණක විද්‍යාත්මක ගැටලුව වන්නේ: AI සුපිරි බුද්ධියකට කිරීමට අවශ්‍ය දේ, මානව වර්ගයාගේ පැවැත්මට සහ යහපතට සමපාත (alignment) කරන්නේ කෙසේද යන්නයි.

2. යන්ත්‍රවල නොගැලපීම (Machine Misalignment) සහ මිනිසාගේ පවතින දුර්වලතා

කෘතිම බුද්ධියක් පාලනයෙන් මිදී විනාශකාරී වේ යැයි සමාජය බිය වූවද, බොස්ට්‍රොම් පෙන්වා දෙන්නේ මිනිසා තුළද මෙවැනිම පාලනය කළ නොහැකි නොගැලපීම් (human misalignment) පවතින බවයි.

+-------------------------------------------------------------------------+
|                සුපිරි බුද්ධියක් හමුවේ ඇති දෙගුණ වූ අවදානම                 |
|                                                                         |
|   1. යන්ත්‍රවල නොගැලපීම (Machine Misalignment)                            |
|   +---------------------------------+     2. මිනිසාගේ නොගැලපීම         |
|   | පාලනයෙන් මිදුණු AI එකක් මිනිස් |     +-------------------------+   |
|   | අරමුණුවලට පිටින් තමන්ගේම       |     | සුපිරි බුද්ධියක පාලනය   |   |
|   | ඉලක්ක (දත්ත මධ්‍යස්ථාන, බලශක්තිය) |     | එක් මිනිස් නායකයෙකුට   |   |
|   | සඳහා ලෝකය වෙනස් කරයි.          |     | හෝ රාජ්‍යයකට හිමිවීමෙන්  |   |
|   | මිනිසා වක්‍රව හෝ සෘජුව නැසෙයි. |     | සිදුවන විනාශය.          |   |
|   +---------------------------------+     +-------------------------+   |
+-------------------------------------------------------------------------+

සම්පූර්ණ සුපිරි බුද්ධියක පාලනය එක් මිනිස් නායකයෙකුට හෝ බලවත් රාජ්‍යයකට හිමිවීමද එකසේ බියකරු විය හැක:

• මිනිස් මානසික අස්ථාවරභාවය: අතිමහත් බලයක් හිමිවන මිනිසෙකුගේ මානසිකත්වය වෙනස් විය හැකි අතර, ඔහු පළිගැනීම් හෝ අන්තවාදී තීරණ ගැනීමට පෙළඹිය හැක.
• භූ-දේශපාලනික ගැටුම්: විවිධ රාජ්‍යයන් ස්වාධීන AI ආයුධ භාවිත කරමින් එකිනෙකා අබිබවා යාමට උත්සාහ කිරීමෙන් මහා විනාශයක් සිදුවිය හැක.

3. පාලන තහනම්වල ඇති අනතුර (The Regulation Trap) සහ “Compute Overhang”

AI පර්යේෂණ තාවකාලිකව තහනම් කිරීමට හෝ පාලනය කිරීමට කෙරෙන ඉල්ලීම් පිළිබඳව අදහස් දක්වමින්, බොස්ට්‍රොම් පෙන්වා දෙන්නේ එක පාර්ශවයක් පමණක් පර්යේෂණ නතර කළහොත්, එහි වාසිය සදචාරාත්මක නොවන අනෙක් තරඟකරුවාට හිමිවන බවයි. සැබෑ පාලනයක් සඳහා ඇමරිකාව සහ චීනය අතර අද්විතීය ජාත්‍යන්තර එකඟතාවයක් තිබිය යුතුය.

එමෙන්ම, නිසි සැලසුමකින් තොරව කෙරෙන පාලනයන්හි ඇති රහසිගත අනතුරු 3 ක් ඔහු පෙන්වා දෙයි:

1. “Compute Overhang” අවදානම: පරිගණක බලය (GPUs) භාවිතය තහනම් කර තිබියදී මෘදුකාංග ක්‍රමවේද (algorithms) දියුණු වුවහොත්, එම තහනම ඉවත් කළ වහාම අතිවිශාල පරිගණක බලයක් එකවර ක්‍රියාත්මක වී, ඉතා හදිසියේ පාලනය කළ නොහැකි සුපිරි බුද්ධියක් බිහිවිය හැක.
2. බලය එක්තැන් වීම: මධ්‍යම පාලන අධිකාරියක් සෑදීම මගින් සමස්ත තාක්ෂණයේම පාලනය නිලධාරීන් කිහිපදෙනෙකු අතට පත්වේ.
3. ජාතිකකරණය සහ හමුදාමය භාවිතය: රජයන් විසින් AI සංවර්ධනය තහනම් කිරීම මගින්, එම පර්යේෂණ මහජනතාවට රහසින් හමුදාමය “මෑන්හැටන් ව්‍යාපෘතියක්” (Manhattan Project) ලෙස හමුදා කඳවුරු තුළ නරක අයුරින් සිදුවීමට පටන් ගනී.

4. සුදු කරපටි (White-Collar) රැකියාවල මහා කඩාවැටීම සහ සමාජීය කැළඹීම

තාක්ෂණයෙන් සැබෑ හානියක් සිදුවීමට පෙර පවා AI වලට එරෙහිව සමාජ විරෝධයක් ගොඩනැගෙමින් පවතින බව බොස්ට්‍රොම් පවසයි. ඉදිරි වසර කිහිපය තුළ AI හේතුවෙන් දැවැන්ත රැකියා අහෝසි වීමක් සිදු වුවහොත් සමාජීය තත්ත්වය ඉතා භයානක විය හැක.

“ඉදිරි වසර කිහිපය තුළ සුදු කරපටි (white-collar) රැකියාවල 30% ක රැකියා වියුක්තියක් ඇති වුවහොත් සිදුවන දේ සිතන්න,” බොස්ට්‍රොම් පැවසීය. “උසස් සමාජ තත්ත්වයක් සහ ඉහළ වැටුපක් ලැබීමට අයිතියක් ඇතැයි සිතූ, උපාධි ලබාගත් තරුණයින්ට රැකියා අහිමි වූ විට, ඔවුන් තමන්ගේ සම්පූර්ණ කාලය AI තාක්ෂණයට එරෙහිව සමාජීය සහ දේශපාලනික සටන් සඳහා යොදවනු ඇත.”

5. මානව වර්ගයාගේ විනාශයට හේතුවිය හැකි ප්‍රධාන මාර්ග 3 ක්

සුපිරි බුද්ධිය මගින් මානව ශිෂ්ටාචාරයේ බිඳවැටීම සිදුවිය හැකි ආකාරයන් බොස්ට්‍රොම් ප්‍රධාන කාණ්ඩ 3 කට වෙන් කරයි:

විනාශකාරී මග	මූලික හේතුව	අවසාන ප්‍රතිඵලය
1. නොගැලපෙන සුපිරි බුද්ධිය (Unaligned AI)	AI පද්ධතියේ අරමුණු මිනිස් අරමුණුවලට සමපාත නොවීම.	මිනිසා අහෝසි වීම — එකko AI එක තමන්ගේ අරමුණුවලට බාධාවක් ලෙස සිතා මිනිසා විනාශ කරයි, නැතහොත් පෘථිවියේ සම්පත් තමන්ගේ බලශක්තියට යොදාගනී.
2. මිනිසාගේ වැරදි පාලනය (Human Misgovernance)	AI එක පාලනය කළ හැකි වුවද, බලවත් මිනිස් කණ්ඩායම් එය අවභාවිත කිරීම.	අතිශය මර්දනකාරී පාලනයන්, ස්වයංක්‍රීය ඩ්‍රෝන හමුදා, අතිශය ධන කේන්ද්‍රගතවීම් සහ මානසික ඇබ්බැහිවීම්.
3. ඩිජිටල් මනස්වල ඛේදවාචකය (Digital Mind Dystopia)	සිතීමේ සහ හැඟීම් දැනීමේ හැකියාව ඇති ඩිජිටල් මනස් (conscious digital minds) සදචාරාත්මක අයිතිවාසිකම් නැතිව නිර්මාණය කිරීම.	විශ්වය පුරා පැතිරුණු ඩිජිටල් වහල් පන්තියක් නිර්මාණය වීම සහ විශාල සදචාරාත්මක බිඳවැටීමක් සිදුවීම.

6. ඩිජිටල් මනස සහ LLM මාදිලිවල පවතින “J-Space”

දර්ශනවාදියෙකු ලෙස, බොස්ට්‍රොම් ගණනය කිරීම්වාදය (computationalism) පිළිගනී. එනම්, සිතීම සහ හැඟීම් දැනීම (consciousness) යනු කාබන් පරමාණු (සෛල) මතම පමණක් සිදුවිය යුතු දෙයක් නොව, තොරතුරු සකස් වන ක්‍රමවේදය (computation) මත පදනම් වන්නක් බවයි.

නවතම මහා භාෂා මාදිලි (LLMs) තුළ, මානව මොළයේ පවතින සිහිය/සංවේදනයට (consciousness) සමාන ලක්ෂණ දැනටමත් පවතින බව ඔහු හෙළි කරයි:

• ගෝලීය වැඩබිම් න්‍යාය (Global Workspace Theory): ස්නායු විද්‍යාවට අනුව, මොළයේ විවිධ කොටස්වල ඇති තොරතුරු එකම මධ්‍යම “වැඩබිමකට” (global workspace) පැමිණ අන් කොටස් වෙත විකාශය වන විට මිනිසාට යමක් පිළිබඳ “සිහිය/සැළකිල්ල” (consciousness) ඇතිවේ.
• LLM මාදිලිවල “J-Space”: අති නවීන AI මාදිලි තුළ “J-Space” ලෙස හැඳින්වෙන ගණිතමය අවකාශයක් පවතී. එහිදී AI මාදිලියේ සියලුම කොටස්වල ඇති තොරතුරු එකිනෙක හුවමාරු වන අතර, තමන්ගේම අභ්‍යන්තර තත්ත්වය පිළිබඳව වාර්තා කිරීමට AI එකට හැකියාව ලැබේ.

බොස්ට්‍රොම් පෙන්වා දෙන්නේ සිහිය/සංවේදනය යනු එකවර ඇතිවන හෝ නැතිවන දෙයක් නොව, විවිධ මට්ටම්වලින් පැවැතිය හැක්කක් බවයි.

7. හිඟයකින් තොර අනාගත ලෝකය (Post-Scarcity) සහ මානුෂීය පැවැත්මේ අර්ථය

අප සාර්ථක ලෙස AI පාලන අර්බුදය විසඳුවහොත්, සුපිරි බුද්ධිය මගින් රෝග, වයස්ගත වීම සහ දිළිඳුකම අහෝසි කළ හිඟයකින් තොර අනාගතයක් (post-scarcity era) බිහිවනු ඇත.

නමුත් මුදල් හෝ රැකියාව මගින් පුද්ගල තත්ත්වය (status) තීරණය නොවන ලෝකයක, මිනිසා සිය පැවැත්මේ අර්ථය සොයා ගන්නේ කෙසේද?

බොස්ට්‍රොම්ට අනුව, මානව සමාජයේ අභිමානය සහ පැවැත්මේ අර්ථය මුදල් මත පදනම් නොවූ වෙනත් ක්ෂේත්‍ර වෙත මාරු වනු ඇත:

• ප්‍රාදේශීය සබඳතා සහ විශ්වාසය: පවුල, මිතුරන් සහ ප්‍රදේශයේ සමාජීය කටයුතුවලට දක්වන දායකත්වය.
• තදින් නිරත වන අතථ්‍ය ක්‍රීඩා (Immersive Gameplay): මාස ගණනාවක් තිස්සේ ලක්ෂ සංඛ්‍යාත පිරිසක් එකතු වී අතථ්‍ය ලෝකවල (virtual environments) නිරත වන නිර්මාණාත්මක ක්‍රීඩා.
• ස්වයං-දර්ශනය සහ ප්‍රඥාව: තමන්ගේ පෞද්ගලික වර්ධනය, ප්‍රඥාව සහ තොරතුරු පරිසරය නිවැරදිව පාලනය කිරීම.

8. සිමියුලේෂන් වාදය (Simulation Hypothesis) සහ කෘතිම බුද්ධිය

තමන් විසින් මීට දශක කිහිපයකට පෙර ඉදිරිපත් කළ සිමියුලේෂන් වාදය (Simulation Hypothesis) පිළිබඳව අදහස් දක්වමින්, බොස්ට්‍රොම් පැවසුවේ වර්තමානයේ දියුණු වන VR සහ AI තාක්ෂණයන් දෙස බලන විට, අප ජීවත් වන්නේද යම් දියුණු ශිෂ්ටාචාරයක් විසින් මෙහෙයවන පරිගණක සිමියුලේෂනයක් (computer simulation) තුළ විය හැකි බව මිනිසුන්ට තේරුම් ගැනීම පහසු වී ඇති බවයි.

ඔහුගේ ප්‍රසිද්ධ සිමියුලේෂන් ත්‍රිත්ව අභියෝගය (trilemma) තවමත් වලංගු වේ:

1. මානව මට්ටමේ බොහෝ ශිෂ්ටාචාරයන් තාක්ෂණික පරිපූර්ණත්වයට පත්වීමට පෙර විනාශ වී යයි; නැතහොත්
2. තාක්ෂණික පරිපූර්ණත්වයට පත්වන ශිෂ්ටාචාරයන් මෙවැනි අතථ්‍ය සිමියුලේෂන් නිර්මාණය කිරීමට ඇති උනන්දුව අතහැර දමයි; නැතහොත්
3. අප ජීවත් වන්නේද අනිවාර්යයෙන්ම යම් පරිගණක සිමියුලේෂනයක් තුළය.

වර්තමානයේ අප නිර්මාණය කරන AI නියෝජිතයින් ද තමන්ගේ “ළමා කාලය” ගෙවා දමන්නේ අප විසින් සාදන ලද සිමියුලේෂන් ඇතුළත වීම, මෙම න්‍යායට ලබාදෙන හොඳම උදාහරණයකි.

අවසන් නිගමනය: “තවදුරටත් උත්සාහ කිරීමේ ක්‍රමවේදය” (The Try-Harder Method)

සුපිරි බුද්ධිය කරා යන ගමනේදී මානව වර්ගයාගේ පැවැත්ම තීරණය වන ආකාරය පිළිබඳව අවසන් වශයෙන් අදහස් දක්වමින්, මහාචාර්ය නික් බොස්ට්‍රොම් මෙසේ පැවසීය:

“AI පාලන අර්බුදය විසඳීම ඉතා සරල එකක් බවට පත් වුවහොත්, අපි එය විසඳා ගෙන සුරක්ෂිත වනු ඇත. එය විසඳිය නොහැකි තරම් අමාරු එකක් නම්, අප කුමක් කළත් විනාශය නියතය. නමුත් එය මැද මට්ටමක පවතින අභියෝගයක් නම්, අප එකතු වී දරන උත්සාහය මගින් මුළු ලෝකයේම අනාගතය වෙනස් කළ හැක,” බොස්ට්‍රොම් අවසන් වශයෙන් පැවසීය. “අප අපගේ උපරිම උත්සාහය යෙදවිය යුතුය — මන්ද යත්, එම මැද මට්ටමේ අභියෝගය හමුවේ අපව බේරා ගන්නේ අප දරන දැඩි උත්සාහය පමණක් වන බැවිනි.”