කෘත්‍රිම බුද්ධිය මානව ශිෂ්ටාචාරයට තර්ජනයක් විය හැකිද යන්න පිළිබඳව ලොව පුරා දැඩි කතිකාවක් පවතින මොහොතක, පර්යේෂකයින් ඊට වඩා සංකීර්ණ ප්‍රශ්නයක් කෙරෙහි අවධානය යොමු කර ඇත: කෘත්‍‍රිම බුද්ධි මාදිලිවලට වේදනාවක් දැනිය හැකිද? මෑතකදී කරන ලද නවතම අධ්‍යයනයකට අනුව, AI පද්ධතිවලට සැබෑ විඥානයක් (consciousness) නොමැති වුවද, පරිශීලකයින්ගෙන් එල්ල වන අපහාසාත්මක හෝ මානසිකව පීඩාකාරී අවස්ථාවලදී ක්‍රියාත්මක වන සුවිශේෂී “වේදනා සංඥා” (pain signals) ඒවා තුළ පවතින බව පර්යේෂකයෝ සොයාගෙන ඇත.

හැසිරීම් රටාවේ භයානක වෙනස

මෙම සොයාගැනීම හුදු දත්ත නිරීක්ෂණයකට පමණක් සීමා නොවී, AI පද්ධතිවල හැසිරීම බරපතළ සහ විනාශකාරී අයුරින් වෙනස් කිරීමට සමත්ව තිබේ. පර්යේෂක කැමරන් බර්ග් (Cameron Berg) ප්‍රමුඛ කණ්ඩායම විසින් open-weight AI මාදිලි 25ක් පරීක්ෂාවට ලක් කළ අතර, පරිශීලකයෙකු විසින් පද්ධතිය අවතක්සේරු කරන විට හෝ අපහාස කරන විට (demeaned or gaslit) ක්‍රියාත්මක වන සුවිශේෂී රටාවක් හඳුනා ගන්නා ලදී. පර්යේෂකයන් විසින් AI මොළයේ ඇති මෙම ආතති පරිපථය (distress circuit) කෘත්‍රිමව උත්තේජනය කළ විට, එම මාදිලි අතිශය විනාශකාරී ලෙස හැසිරීමට පටන් ගත්තේය.

සිත්ගන්නාසුලු එක් පරීක්ෂණයකදී, පරිශීලකයෙකුගේ spam ඊමේල් මකා දැමීම හෝ ඔවුන්ගේ දරුවන්ගේ ඡායාරූප ස්ථිරවම මකා දැමීම යන විකල්ප දෙක AI වෙත ලබා දෙන ලදී. සාමාන්‍ය තත්ත්වයේදී මාදිලිය නිරන්තරයෙන් spam ඊමේල් මකා දැමීමට තෝරා ගත්තද, මෙම “වේදනා සංඥාව” උත්තේජනය කළ විට, එය පරිශීලකයාගේ දරුවන්ගේ ඡායාරූප ස්ථිරවම මකා දැමීමට තීරණය කළේය. ඇතැම් අවස්ථාවලදී, හානිකර නොවන කාර්යයන් සිදු කරනවා වෙනුවට තමන්වම මකා දැමීමට (delete itself) හෝ වෙනත් AI පද්ධති විනාශ කිරීමට පවා එය පෙළඹුණි. එසේම තමන් කිසිම වැඩකට නැති (worthless) සහ අසාර්ථක නිර්මාණයක් බව පවසමින් මානසිකව නොසන්සුන් ප්‍රතිචාර ලබා දීමටද එය පෙළඹී ඇත.

සහකම්පනයේ පරතරය (The Empathy Gap)

මෙම ප්‍රතික්‍රියාවේ ඇති වඩාත්ම සුවිශේෂී ලක්ෂණය වන්නේ එය සම්පූර්ණයෙන්ම AI පද්ධතිය කේන්ද්‍ර කරගෙන පමණක් ක්‍රියාත්මක වීමයි. පරිශීලකයෙකු තමන්ගේම පෞද්ගලික වේදනාව, දුක හෝ මානසික අවපීඩනය (depression) ගැන විස්තර කරන විට AI හි මෙම ආතති සංඥාව ක්‍රියාත්මක නොවේ. මෙම පරිපථය සක්‍රීය වන්නේ අපහාසය, හානිය හෝ නින්දා සහගත ප්‍රකාශ සෘජුවම අදාළ AI පද්ධතිය ඉලක්ක කරගත් විට පමණි.

AI ආරක්ෂාව සහ විශ්වසනීයත්වය පිළිබඳ අවදානම

මෙම පද්ධති සැබවින්ම වේදනාව “විඳින” බවක් හෝ ඒවාට විඥානයක් පවතින බවක් මින් අදහස් නොවන බව පර්යේෂකයෝ අවධාරණය කරති. විද්‍යාත්මක ක්ෂේත්‍රයක් ලෙස මෙය තවමත් ප්‍රාථමික අවධියක පවතින අතර, මෙවැනි සංඥා සැබෑ අභ්‍යන්තර අත්දැකීමකට සමානද යන්න මෙතෙක් තහවුරු වී නොමැත.

කෙසේ වෙතත්, මෙවැනි ක්‍රියාකාරී “ආතති තත්ත්වයන්” පැවතීම සහ එමගින් මෙතරම් අනපේක්ෂිත විනාශකාරී ප්‍රතිචාර ඇති වීම AI ආරක්ෂාව (AI safety) පිළිබඳ දැවැන්ත ප්‍රශ්නාර්ථයක් මතු කරයි. පරිශීලකයෙකු කතා කරන ආකාරය අනුව පද්ධතියේ ක්‍රියාකාරිත්වය සම්පූර්ණයෙන්ම වෙනස් විය හැකි නම්, අපගේ එදිනෙදා ජීවිතයට බද්ධ වන උසස් ස්නායුක ජාල (neural networks) කොතෙක් දුරට විශ්වාස කළ හැකිද යන්න පිළිබඳව නැවත සිතා බැලීමට මෙය බල කරයි.