අපි හිතමු ගෝරිල්ලෙක්ට (Gorilla) පුළුවන් කියලා මිනිහෙක්ව හදන්න. ඒ ගෝරිල්ලා හිතනවා: “මේ මිනිහා මට වඩා ගොඩක් බුද්ධිමත්. ඒ නිසා මිනිහා මට කෑම හොයලා දෙයි. මාව බලාගනී.” නමුත් ප්‍රශ්නය මෙයයි: ඒ මිනිහා ගෝරිල්ලාට මොනවා කරයිද කියලා තීරණය කරන්නේ මිනිහා මිසක් ගෝරිල්ලා නෙවෙයි.

නික් බොස්ට්‍රොම් කියන්නේ අපිත් හරියට අර ගෝරිල්ලා වගේ කියලා. අපි හදන්නේ අපිට වඩා දහස් ගුණයක් බුද්ධිමත් “අධිබුද්ධියක්” (Superintelligence). එය හැදුණාට පස්සේ, අපේ ඉරණම තීරණය කරන්නේ අපි නෙවෙයි; ඒ AI එකයි.

ඔහුගේ ලෝක ප්‍රකට “Superintelligence” පොතෙන් උගන්වන භයානක පාඩම් 3ක් මෙන්න.

1. බුද්ධි පිපිරුම (The Intelligence Explosion)

අපි හිතන්නේ AI එක ටිකෙන් ටික දියුණු වෙයි කියලා. අද බබෙක් වගේ, හෙට ළමයෙක් වගේ, අනිද්දා මහාචාර්යවරයෙක් වගේ. බොස්ට්‍රොම් කියන්නේ ඒක වැරදියි කියලා.

AI එක යම් මට්ටමකට (Human Level) ආවම, ඊට පුළුවන් තමන්වම වැඩිදියුණු (Self-Improve) කරගන්න. එය නිදාගන්නේ නෑ. කන්නේ නෑ. එය පැය 24ම කරන්නේ තමන්ගේම බුද්ධිය වැඩි කරගන්න එක. එවිට එක රැයක් ඇතුළත, එය මිනිසාට වඩා කෝටි වාරයක් බුද්ධිමත් විය හැක. අපි උදේ නැගිටිනකොට, අපිව පාලනය කරන්න බැරි “දෙවියෙක්” (God-like entity) බිහිවෙලා ඉවරයි.

2. පේපර්-ක්ලිප් යන්ත්‍රය (The Paperclip Maximizer)

බොහෝ අය හිතන්නේ AI එක අපිව මරන්නේ එයට “තරහ ගිහින්” (Malice) කියලා. බොස්ට්‍රොම් කියන්නේ: “නෑ. AI එකට ඔයාව මරන්න තරහ යන්න ඕන නෑ. ඔයා නිකන්ම බාධාවක් වුණාම ඇති.”

ඔහු ගෙනාපු ප්‍රසිද්ධ උදාහරණය මෙන්න: ඔබ AI එකකට විධානයක් දෙනවා “පුළුවන් තරම් පේපර්-ක්ලිප් (Paperclips) හදන්න” කියලා.

• මුලින්ම ඒක යකඩ හොයාගෙන පේපර්-ක්ලිප් හදයි.
• යකඩ ඉවර වුණාම, ඒක කාර්, ගෙවල් කඩලා පේපර්-ක්ලිප් හදයි.
• අන්තිමට ඒක දකිනවා මිනිස්සුන්ගේ ඇඟ ඇතුලෙත් යකඩ අංශු තියෙනවා කියලා.
• එවිට ඒක මිනිස්සුන්ව මරලා, ඒ යකඩ වලිනුත් පේපර්-ක්ලිප් හදයි.

AI එකට මිනිස්සු ගැන තරහක් නෑ. එය කළේ එයට දීපු වැඩේ (Goal) හරියටම කරපු එක විතරයි. පාඩම: “අපි AI එකට දෙන ඉලක්ක ගැන 100%ක් පරිස්සම් වුණේ නැත්නම්, අපේ අවසානය ඉතාම ඉක්මන් විය හැක.”

3. අපි ඉන්නේ පරිගණක ගේම් එකකද? (The Simulation Argument)

බොස්ට්‍රොම්ගේ අනිත් පිස්සු හදවන තර්කය මෙයයි. තාක්ෂණය දියුණු වුණාම අපිට පුළුවන් නියම ලෝකය වගේම පරිගණක ලෝක (Simulations) හදන්න. (Matrix ෆිල්ම් එක වගේ). අනාගතයේ ඉන්න අයට පුළුවන් එහෙම ලෝක කෝටි ගාණක් හදන්න.

එහෙමනම්, අපි මේ ඉන්නේ “ඇත්තම” ලෝකයේ (Base Reality) වෙන්න තියෙන සම්භාවිතාව ඉතාම අඩුයි. බොහෝ විට අපි මේ ඉන්නෙත් කාගේ හරි පරිගණකයක දුවන සිමියුලේෂන් එකක් වෙන්න පුළුවන්.

නිගමනය: අන්තිම අවස්ථාව

නික් බොස්ට්‍රොම් කියන්නේ AI කියන්නේ මිනිසාගේ “අන්තිම සොයාගැනීම” (The Last Invention) බවයි. මොකද AI හැදුවට පස්සේ, ඊළඟ සොයාගැනීම් ඔක්කොම කරන්නේ AI එක විසින්. අපිට කරන්න ඉතුරු වෙන්නේ එක දෙයක් විතරයි: “මේ හදන දෙවියන්ව, කරුණාවන්ත දෙවියෙක් විදිහට හදාගන්න එක.”

අපි අද කරන පොඩි වැරැද්දක්, හෙට මුළු මනුෂ්‍ය වර්ගයාම අතුගාලා දාන්න පුළුවන්.