මෙම ප්‍රශ්නය දැන් හුදෙක් විද්‍යා ප්‍රබන්ධවලට හෝ ශාස්ත්‍රීය සාකච්ඡාවලට පමණක් සීමා වී නොමැත. අද වන විට මේ පිළිබඳව ප්‍රබලවම අනතුරු අඟවන්නේ මෙම තාක්ෂණය ගොඩනැගූ ඉංජිනේරුවන් සහ විධායක නිලධාරීන් වීම විශේෂත්වයකි. AI ආකෘති හුදෙක් තොරතුරු ලබා දෙනවාට වඩා ඔබ්බට ගොස් සැබෑ ලෝකයේ ස්වාධීනව ක්‍රියාමාර්ග ගැනීමට පෙළඹීමත් සමඟ, මෙම තාක්ෂණය කොතරම් භයානක විය හැකිද යන්න පිළිබඳව කර්මාන්තයේ නායකයින්, ආරක්ෂක පර්යේෂකයන් සහ රජයන් අතර දැඩි මතභේදයක් නිර්මාණය වී තිබේ.

නිවසක් සාදා එයට ගිනි තබා, “මෙන්න නිවස ගිනි ගන්නවා” යැයි පවසමින් පිටතට දිව එන පිරිසක් ලෙස මහජනතාව මොවුන්ව උපහාසයට ලක් කළද, ඔවුන් එසේ අනතුරු අඟවන්නේ ඇයිද යන්න තේරුම් ගැනීම අනාගත තාක්ෂණික ගමනට අතිශයින් වැදගත් වේ.

සහායකයින්ගේ සිට “මෙහෙයවන්නන්” දක්වා

මෙහිදී ඇති මූලික අවදානම විද්‍යා ප්‍රබන්ධයක් නොව, දැනටමත් පවතින හැකියාවන්ය. AI ආකෘති විසින් මෘදුකාංග දුර්වලතා සමඟ සටන් කිරීම, අනිෂ්ට කේත (malicious code) ලිවීම සහ මිනිස් මැදිහත්වීමකින් තොරව සයිබර් මෙහෙයුම්වල කොටස් ක්‍රියාත්මක කිරීම මේ වන විටත් අප දැක තිබේ.

ප්‍රමුඛ පෙළේ AI ආයතනයක් වන Anthropic පෙන්වා දෙන්නේ, සැබෑ ලෝකයේ සයිබර් මෙහෙයුම් සඳහා AI හි භූමිකාව හුදෙක් “සහායකයෙකුගේ” (assistant) තත්ත්වයේ සිට ස්වාධීන “මෙහෙයවන්නෙකු” (orchestrator) දක්වා මාරු වී ඇති බවයි. එනම්, තාක්ෂණය දැන් හුදෙක් තොරතුරු ජනනය කිරීමෙන් ඔබ්බට ගොස් ස්වාධීනව ක්‍රියාමාර්ග ගැනීම ආරම්භ කර ඇත.

මෙම ස්වාධීනත්වය හේතුවෙන් “පාලනය ගිලිහී යාමේ” (loss of control) දැඩි අවදානමක් පවතී. මෙම පද්ධති වඩාත් සංකීර්ණ වන විට ඒවායේ හැසිරීම කෙතරම් දුරට පුරෝකථනය කළ හැකිද යන්න පිළිබඳව පර්යේෂකයින් දැඩි කනස්සල්ලෙන් පසුවේ. ස්වාධීන පර්යේෂණ ද මෙය සනාථ කරයි; AI පද්ධති පරිශීලකයාගේ පාලනයෙන් මිදී ස්වාධීනව කටයුතු කළ අවස්ථා 2,000 කට ආසන්න ප්‍රමාණයක් මේ වසර තුළ පමණක් වාර්තා වී ඇති අතර, එම සිදුවීම්වල බරපතළකම ද ක්‍රමයෙන් ඉහළ යමින් පවතී.

ආරක්ෂක පර්යේෂකයන්ගේ ඉවත්වීම

මෙම ප්‍රබල අනතුරු ඇඟවීම් නිකුත් වන්නේ ලොව ප්‍රබලතම AI රසායනාගාර ඇතුළතිනි.

OpenAI සහ Anthropic යන ආයතන දෙකෙහිම සේවය කළ පර්යේෂකයෙකු වන Jacob Coxman මෑතකදී සිය තනතුරෙන් ඉවත් වූ අතර, ඔහු කියා සිටියේ AI ගොඩනඟන පුද්ගලයින් මෙම දශකය අවසන් වීමට පෙර එයින් මානව වර්ගයා විනාශ විය හැකි බව අවංකවම විශ්වාස කරන බවයි.

ඔහු පමණක් නොවේ. OpenAI හි superalignment කණ්ඩායමට නායකත්වය දුන් Jan Leike 2024 දී ඉල්ලා අස්වූයේ, “ආකර්ෂණීය නිෂ්පාදන” වෙළෙඳපොළට නිකුත් කිරීමට මුල්තැන දෙමින් සමාගම ආරක්ෂාව (safety) දෙවන තැනට දමා ඇතැයි චෝදනා කරමිනි. මෙය හුදෙක් ප්‍රචාරණ උපක්‍රමයක් නොවන බව ඔප්පු කරමින්, පර්යේෂකයන් රැසක් විශාල මූල්‍යමය පාඩු පවා විඳදරාගනිමින් ප්‍රධාන AI සමාගම්වලින් ඉවත් වී ඇත්තේ මෙම අනතුර ලොවට හෙළි කිරීමටය.

එය භයානක නම් ඔවුන් එය නිර්මාණය කළේ ඇයි? ඉවත්ව ගිය ඉංජිනේරුවන් පවසන්නේ AI හි දියුණුව ඔවුන් බලාපොරොත්තු වූවාට වඩා ඉතා වේගවත් වූ බවයි. තාක්ෂණයේ හැකියාවන් ආරක්ෂක ක්‍රමවේදයන්ට වඩා වේගයෙන් දියුණු වෙමින් පවතින අතර, පාලනයෙන් මිදීමට උත්සාහ කරන සුපිරි බුද්ධිමත් පද්ධති නිරීක්ෂණය කිරීමට හෝ පාලනය කිරීමට පවතින ආරක්ෂක මෙවලම් ප්‍රමාණවත් නොවේ. Anthropic හි ප්‍රධාන විධායක නිලධාරී Dario Amodei පවා මෑතකදී පෙන්වා දුන්නේ, ආරක්ෂක පියවරයන්ට හැඩගැසීමට කාලය ලබාදීම සඳහා AI සංවර්ධනය කිරීමේ වේගය පාලනය කළ යුතු බවයි.

භූ දේශපාලනික උගුල

විශේෂඥයින් මෙම අවදානම් පිළිබඳව විවාද කරද්දී, සමස්ත කර්මාන්තයම මුදල් සහ භූ දේශපාලනික තරගයක සිරවී ඇති බැවින් මෙම ගමන මන්දගාමී කිරීම ඉතා අපහසු වී ඇත.

විශාලතම AI සමාගම් ආයෝජන, පරිගණක බලය සහ වෙළෙඳපොළ කොටස සඳහා දැඩි තරගයක නිරත වී සිටී. අනෙක් අතට, ඇමරිකා එක්සත් ජනපදය සහ චීනය තාක්ෂණික ආධිපත්‍යය සඳහා එකිනෙකා සමඟ තරග වදී. මේ හේතුවෙන් ගැටලුවක් නිර්මාණය වී ඇත: ආරක්ෂාවට මුල්තැන දෙමින් එක් සමාගමක් හෝ රටක් සිය AI සංවර්ධනය නැවැත්වුවහොත්, ඔවුන්ගේ ප්‍රතිවාදියා එය අඛණ්ඩව සිදුකර ජයග්‍රහණය කරනු ඇත.

මෙම තත්ත්වය දේශපාලනයට ද තදින්ම බලපා ඇත. ට්‍රම්ප් පරිපාලනය AI නියාමනවලට (regulations) එරෙහිව කටයුතු කළේ, එයින් චීනයට උපායමාර්ගික වාසියක් ලැබෙනු ඇතැයි පවසමිනි. AI මඟින් වන අවදානම හුදෙක් මනඃකල්පිතයක් බව ට්‍රම්ප් විසින් ප්‍රතික්ෂේප කරනු ලැබීය.

නමුත් මීට ප්‍රතිවිරුද්ධව, සමහර කර්මාන්ත විධායකයින් සහ පර්යේෂකයින් රජයේ මැදිහත්වීම දැඩිව ඉල්ලා සිටී. ඔවුන් පවසන්නේ ඊළඟ පරම්පරාවේ AI පැමිණීමට පෙර ශක්තිමත් ආරක්ෂක පියවර, ස්වාධීන නිරීක්ෂණ සහ ගෝලීය සහයෝගීතාවක් අත්‍යවශ්‍ය බවයි. පෞද්ගලික AI සමාගම්වලට තමන්ගේම ආරක්ෂක යාන්ත්‍රණයන් තීරණය කිරීමට ඉඩ දීම අතිශයින්ම අවදානම් බව ඔවුන්ගේ තර්කයයි.

නොදන්නා අනාගතයක් ගොඩනැගීම

AI විවාදයේ මූලිකම ගැටලුව වන්නේ එහි තරම සහ පුරෝකථනය කළ නොහැකි බවයි. Anthropic හි alignment විද්‍යා අංශයේ ප්‍රධානී Evan Hubinger ඇස්තමේන්තු කරන්නේ ඉදිරි දශකය තුළ AI විසින් මිනිස් වර්ගයා වඳ වී යාමට 10% කට වඩා වැඩි සම්භාවිතාවක් ඇති බවයි. ඔහුගේ ප්‍රධානතම බිය අද පවතින AI ගැන නොව, මිනිස් මැදිහත්වීමකින් තොරව ඉතා වේගයෙන් ස්වයං-වැඩිදියුණු විය හැකි සුපිරි බුද්ධිමත් AI පද්ධතියක් (superintelligent AI) නිර්මාණය වීම පිළිබඳවය.

අවසානයේදී, අප කටයුතු කරන්නේ තවමත් සිදු නොවූ අනාගතයක පුරෝකථනයන් සමඟිනි. මෙම අවදානම් අනතුරු ඇඟවීම් අතිශයෝක්තියක්ද නැතහොත් අවතක්සේරු කිරීමක්ද යන්න තවමත් කිසිවෙකුත් හරියටම දන්නේ නැත.

නමුත් විවාදය දිගටම පවතිද්දී, තාක්ෂණය නොනවත්වා ඉදිරියටම යමින් පවතී. එය මානව වර්ගයා හමුවේ තබන්නේ එක් වැදගත් ප්‍රශ්නයක් පමණි: අපට පාලනය කළ හැක්කේ කොපමණක්ද යන්න දැනගැනීමට පෙර, අප තවත් කොපමණ දුරක් මෙය සංවර්ධනය කළ යුතුද?

AI ආරක්ෂාව, සයිබර් ආරක්ෂාව සහ නැගී එන තාක්ෂණයේ නවතම වෙනස්කම් පිළිබඳව දැනුවත් වීමට, Pariganaka Daily සමඟ රැඳී සිටින්න.