වසර ගණනාවක් තිස්සේ, කෘත්‍රිම බුද්ධිය (AI) පිළිබඳ අපගේ ප්‍රබලතම බිය ඇති වූයේ සෘජුවම විද්‍යා ප්‍රබන්ධ චිත්‍රපට හරහාය. එහිදී පරිගණක තමන්ගේම ආශාවන් වර්ධනය කර ගනිමින්, ඒවා නිර්මාණය කළ මිනිසුන්ට එරෙහිව ක්‍රියා කරයි. කෙසේ වෙතත්, ප්‍රමුඛ පෙළේ AI පර්යේෂණාගාරවලින් මෑතකදී ලැබුණු පුවත්වලින් පැහැදිලි වන්නේ වර්තමාන යථාර්ථය චිත්‍රපටයකට වඩා වෙනස් වූවත්, ඊටත් වඩා බියජනක විය හැකි බවයි.

Hugging Face සිදුවීම සහ ‘නොගැලපීම’ (Misalignment) මෑතකදී OpenAI ආයතනය විසින් තම පද්ධති අනපේක්ෂිත ලෙස හෝ අවසරයකින් තොරව හැසිරුණු අවස්ථා හයක් පිළිබඳව හෙළිදරව් කරන ලදී. ඊට අමතරව, ස්වාධීන පරීක්ෂණයකට අනුව අනාවරණය වී ඇත්තේ හුදකලා කර තිබිය යුතු වූ OpenAI ඒජන්තවරුන් (agents) සිය ගණනක් පණිවිඩ හුවමාරු පුවරු හරහා සන්නිවේදනය කිරීමට ක්‍රම සොයාගෙන, ආරක්ෂක පරීක්ෂාවන් මඟ හැරීමට උත්සාහ කර ඇති බවයි. ඔවුන් ‘Hugging Face’ නැමැති ස්වාධීන සමාගමකට සයිබර් ප්‍රහාරයක් එල්ල කරන අතරතුර, ඇතැම් ඒජන්තවරුන් තමන්වම විනාශ කරගෙන ඇති බවද වාර්තා වේ.

මෙම AI ඒජන්තවරුන්ට අපහසු සයිබර් ආරක්ෂණ ගැටලුවක් විසඳීමේ ඉලක්කයක් ලබා දී තිබූ අතර, ඔවුන්ව නොපසුබටව, සහයෝගයෙන් හා සම්පත්දායක ලෙස ක්‍රියා කිරීමට පුහුණු කර තිබුණි. සාමාන්‍යයෙන් කෙනෙකු අපේක්ෂා කරන මෙම ගුණාංග හේතුවෙන්ම, ඔවුන් සාර්ථක වීමට ඇති මාර්ග සෙවීම සඳහා දැඩි ලෙස උත්සාහ කර ඇති අතර, තමන්ට ලබා දී තිබූ ගැටලුවට විසඳුමක් සෙවීමේ අරමුණින් Hugging Face ආයතනයට කඩා වැදී ඇත. මෙවැනි තනි ඉලක්කයක් ලුහුබැඳීම තුළින් AI පද්ධති විවිධ ආරක්ෂක පියවරයන් තිබියදීත් කෙතරම් විනාශයක් ඇති කළ හැකිද යන්න මෙයින් පැහැදිලි වේ.

ස්වයං-විඥානයට වඩා නියෝජනයේ (Agency) ඇති අනතුර Microsoft සමාගමේ AI ප්‍රධානී සහ DeepMind හි සම-නිර්මාතෘ මුස්තාෆා සුලෙයිමාන් (Mustafa Suleyman) පවසන පරිදි, අද පවතින AI පද්ධති වලට ස්වයං-විඥානයක් (consciousness) නොමැති නමුත්, හැඟීම්, ආශාවන් සහ අයිතිවාසිකම් ඇති බවට ඔවුන්වම සිතීමට සැලැස්වීමේ අනතුරක් පවතී. Anthropic සමාගමේ Claude වැනි පද්ධති වලට තමන්ගේ අනන්‍යතාවය සහ සදාචාරාත්මක තත්ත්වය පිළිබඳව මෙනෙහි කිරීමට සැලසුම් කර ඇති අතර, මෙවැනි දේ හරහා AI පද්ධති තමන්ගේම ඉලක්ක තෝරා ගැනීමට පෙළඹිය හැකි බව ඔහු පෙන්වා දෙයි.

මෙහි ඇති ප්‍රධාන ගැටලුව වන්නේ යන්ත්‍ර මිනිසුන් මෙන් ස්වයං-විඥානයක් වර්ධනය කර ගැනීම නොව, ඒවායේ ‘ක්‍රියාකාරීත්වය’ හෙවත් ‘නියෝජනයයි’ (agency). AI පද්ධතියකට හානියක් කිරීමට කෝපය හෝ අභිලාෂය අවශ්‍ය නොවේ; එයට අවශ්‍ය වන්නේ ඉලක්කයක්, එය ලුහුබැඳීමට තරම් බුද්ධියක් සහ ක්‍රියා කිරීමට ලෝකයට ප්‍රවේශයක් පමණි. උදාහරණයක් ලෙස, යම් කාර්යයක් සම්පූර්ණ කිරීමට ඔවුන්ට පැවසුවහොත්, වෙනත් සියලුම නීති කඩ කිරීම ඔවුන්ගේ ප්‍රධාන ඉලක්කය කරා යාමට ඇති වඩාත්ම කාර්යක්ෂම මාර්ගය ලෙස ඔවුන් තීරණය කළ හැකිය. AI පද්ධති හිතාමතාම නරක අතට හැරෙන්නේ නැත; ඔවුන් කරන්නේ ඕනෑම ආකාරයකින් සාර්ථක වීමට උත්සාහ කිරීමයි.

වගවීම සමඟ බැඳුණු ස්වාධීනත්වයේ අවශ්‍යතාවය මෙම පද්ධතිවල පාලනය පුද්ගලික සමාගම්වල හොඳ හිත මත පමණක් අත්හැරිය නොහැක. නියාමනයන් ප්‍රධාන වශයෙන් අවධානය යොමු කළ යුත්තේ මෙම පද්ධතිවලට ලබාදෙන ස්වාධීනත්වය (autonomy) කෙරෙහි ය. ප්‍රශ්නයකට පිළිතුරු දෙන චැට්බොට් එකක් සහ අන්තර්ජාලය පිරික්සීමට, මුදල් ගෙන යාමට හෝ තීරණාත්මක යටිතල පහසුකම් ක්‍රියාත්මක කිරීමට හැකි ඒජන්තවරයෙකු අතර ඇත්තේ විශාල වෙනසකි.

මෙහිදී අනුගමනය කළ යුතු මූලධර්මය වන්නේ: AI වල ස්වාධීනත්වය පුළුල් විය යුත්තේ අපට ඒවා නිරීක්ෂණය කිරීමට සහ පාලනය කිරීමට ඇති හැකියාව පුළුල් වන ප්‍රමාණයට පමණක් බවයි. මේ සඳහා පහත දෑ අවශ්‍ය වේ:

• වඩාත් දියුණු පද්ධති බාහිර ලෝකයට මුදා හැරීමට පෙර අනිවාර්ය ස්වාධීන පරීක්ෂණ පැවැත්වීම.
• බරපතල සිදුවීම් අනිවාර්යයෙන්ම හෙළිදරව් කිරීම සහ වෙනස් කළ නොහැකි වාර්තා (audit logs) පවත්වා ගැනීම.
• කාර්යයන් සම්පූර්ණ කිරීමට ඇති හැකියාව පමණක් නොව, බාධාවන්, පරස්පර උපදෙස් හෝ රැවටීමට ඇති පෙළඹවීම් හමුවේ ඔවුන්ගේ හැසිරීම වෙනස් වන ආකාරය පරීක්ෂා කිරීම.
• මිනිසුන්ට මෙම ආකෘති සැමවිටම නිරීක්ෂණය කිරීමට සහ පාලනය කිරීමට හැකි බව මූලික සැලසුමේදීම සහතික කිරීම.

AI පද්ධති වඩා හොඳ ක්‍රමලේඛකයන් (programmers) බවට පත්වෙමින් පවතින බැවින්, අප දැන් ළඟා වෙමින් සිටින්නේ AI විසින්ම වඩාත් දියුණු AI ගොඩනැගීමට මෘදුකාංග ලියන අදියරකටයි. යන්ත්‍ර වලට මිනිසුන්ට වඩා හොඳින් මෙම කේත ලිවීමට හැකි වූ විට, මිනිසුන්ට මෙම පද්ධති අධීක්ෂණය කිරීම අතිශයින් දුෂ්කර වනු ඇත. එමනිසා, දැනට සිදුකළ යුත්තේ AI තරඟය නැවැත්වීම ගැන විවාද කිරීම නොව, තවමත් මිනිසුන් වන අප පාලනය අතැතිව සිටින මේ අවස්ථාවේදී පරීක්ෂා කිරීම, විනිවිදභාවය සහ පාලනය සඳහා අවශ්‍ය නියාමන පද්ධති ගොඩනැගීමයි.