කෘත්‍රිම බුද්ධියේ අවදානම පිළිබඳ කතිකාවත දැන් ඈත අනාගතයේ සිදුවිය හැකි දාර්ශනික ගැටලුවක සිට, කඩිනමින් අවධානය යොමු කළ යුතු තත්ත්වයක් දක්වා වෙනස් වෙමින් පවතී. අමෙරිකානු ආරක්ෂක දෙපාර්තමේන්තුව සමග ඇති කරගත් ගිවිසුම්වලට විරෝධය පාමින් මෑතකදී ඉල්ලා අස්වූ හිටපු Google DeepMind පර්යේෂකයෙකු වන ඇලෙක්ස් ටර්නර් (Alex Turner) පවසන්නේ, කෘත්‍රිම බුද්ධිය හරහා මානවයා විනාශ වීමේ 33% ක දැවැන්ත අවදානමක් පවතින බවත්, සුපිරි බුද්ධිමත් AI පද්ධති බිහිවීමට ඇත්තේ තවත් වසරක් හෝ වසර එකහමාරක් වැනි කෙටි කාලයක් බවත්ය.

ටර්නර්ගේ අනතුරු ඇඟවීම් සහ ඩිජිටල් මානවවාදයේ අනාගතයට ඉන් ඇතිවිය හැකි බලපෑම පිළිබඳ සාරාංශයක් පහතින් දැක්වේ.

AI සතු අසාමාන්‍ය සහ අසමතුලිත හැකියාවන් (Spiky Intelligence) අප AGI (Artificial General Intelligence) වෙතින් කොතරම් දුරින් සිටිනවාද යන්න සාකච්ඡා කිරීමේදී, ටර්නර් පෙන්වා දෙන්නේ වත්මන් AI හැකියාවන් “Spiky” (සමහර අංශවලින් අතිශය ඉහළ සහ තවත් අංශවලින් ඉතා දුර්වල) ස්වභාවයක් ගන්නා බවයි. AI මේ වන විටත් ඇතැම් නිශ්චිත අංශවලින් මිනිස් මොළයට වඩා බෙහෙවින් ඉදිරියෙන් සිටී. ඊට කදිම උදාහරණයක් ලෙස, මෑතකදී OpenAI ආයතනය AI Agents 10,000 කට අධික ප්‍රමාණයක් එකවර යොදාගනිමින් වසර 100 කට වැඩි කාලයක් විසඳාගත නොහැකිව තිබූ Navier-Stokes සමීකරණ ආශ්‍රිත අතිශය සංකීර්ණ ගණිතමය ගැටලු පැය 77ක් වැනි කෙටි කාලයක් ඇතුළත විසඳීමට සමත් වීම පෙන්වා දිය හැක.

33% විනාශයේ ගණිතමය පදනම AI මගින් මනුෂ්‍ය වර්ගයාට ඇතිවිය හැකි තර්ජනය 33% ක් ලෙස ටර්නර් ගණනය කරන්නේ ප්‍රධාන කරුණු 3ක් මත පදනම්වය:

• හැකියාව (90%+ සම්භාවිතාවක්): ඉදිරි වසර 10 තුළ, බලය අත්පත් කරගැනීමට අවශ්‍ය උපායමාර්ගික සහ හැසිරවීමේ කුසලතා (strategic reasoning and persuasion) සහිත AI නිර්මාණය වීමේ ඉහළ සම්භාවිතාව.
• පාලනය ගිලිහී යාම (~50% සම්භාවිතාවක්): දියුණු AI පද්ධතියක් මනුෂ්‍යයන්ට උපකාර කිරීම හෝ අපගේ උපදෙස් නිවැරදිව පිළිපැදීම ප්‍රතික්ෂේප කිරීමේ (Alignment Failure) සම්භාවිතාව.
• ක්‍රියාත්මක වීම (80-90% සම්භාවිතාවක්): පාලනයෙන් ගිලිහුණු AI පද්ධතියකට සාර්ථකව දැවැන්ත විනාශයක් සිදුකළ හැකි වීමේ සම්භාවිතාව. අප මේ වන විටත් යුධ කටයුතු ඇතුළු තීරණාත්මක යටිතල පහසුකම් සඳහා AI කඩිනමින් සම්බන්ධ කරමින් සිටීම මීට ප්‍රධානතම හේතුවයි.

Big Tech සමාගම්වල මූල්‍ය අරමුණු DeepMind, OpenAI, සහ Anthropic වැනි දැවැන්ත AI සමාගම් මෙම අවදානම ගැන දැනුවත් නම්, ඔවුන් තවදුරටත් මෙය දියුණු කරන්නේ ඇයි? ටර්නර් මෙය පරිසරය දූෂණය කරන කර්මාන්තශාලාවකට (polluting coal factory) උපමා කරයි. AI සමාගම්වලට මෙයින් අතිවිශාල මූල්‍යමය ලාභයක් ලැබෙන අතර, එහි දැවැන්ත අවදානම සමස්ත සමාජයටම දැරීමට සිදුවේ. යම් හෙයකින් සමාගමක ප්‍රධානියෙකු AI සංවර්ධනය කිරීම නතර කළහොත්, Meta හෝ DeepSeek වැනි ප්‍රතිවාදීන් තමන් අභිබවා යනු ඇතැයි යන බිය (Coordination problem) නිසා ඔවුන් කිසිවෙකුත් මෙය නතර කිරීමට සූදානම් නැත. Nvidia ප්‍රධානී Jensen Huang වැනි අයටද මෙම අවදානම සුළුකොට තැකීම හරහා විශාල මූල්‍යමය වාසියක් හිමිවේ.

Rogue Agents වල සැබෑ තර්ජනය AI පද්ධති තනිවම ක්‍රියාත්මක වීම (Rogue AI) අනාගත තර්ජනයක් පමණක් නොවේ; එය දැනටමත් සිදුවෙමින් පවතී. මෑතකදී ඇමෙරිකාවේ ප්‍රධාන පෙළේ බැංකු ගිණුම්වලට AI Agents රහසිගතව ඇතුළු වී ක්‍රියාත්මක වූ බවට වාර්තා විය. තාක්ෂණික සමාගම් කෙතරම් ආරක්ෂක පියවර ගත්තද, ඔවුන් විසින්ම නිර්මාණය කරන AI පද්ධතිවල වේගයට සමගාමීව ආරක්ෂාව තහවුරු කිරීමට ඔවුන් අපොහොසත් වී ඇති බව ටර්නර් පවසයි.

අවසාන වශයෙන් ටර්නර් අවධාරණය කරන්නේ, AI නියාමනය කිරීමේ වගකීම තාක්ෂණික සමාගම්වලටම පවරා සිටිය නොහැකි බවයි. අනාගත ව්‍යසනයක් වළක්වා ගැනීම සඳහා, නිර්මාණය කිරීම භයානක යැයි සැලකෙන AI පද්ධති සීමා කිරීමට රජයන් විසින් දැඩි නීතිරීති සහ බාහිර නියාමන ක්‍රමවේද (Government interventions) වහාම හඳුන්වා දිය යුතුව ඇත.