පසුගිය සති කිහිපය තුළ AI පිළිබඳ කථිකාව විශාල ලෙස වෙනස් විය. ප්‍රමුඛ පෙළේ AI සමාගමක පර්යේෂකයෙකු, මානව වර්ගයාගේ විනාශය ගැන දැඩි අනතුරු ඇඟවීම් කරමින් සේවයෙන් ඉවත් විය. ඊට කෙටි කලකට පසු, Anthropic හි ප්‍රධාන විධායක නිලධාරී ඩාරියෝ ඇමඩේ (Dario Amodei), AI නියෝජිතයින් (AI agents) විසින්ම ස්වාධීනව ඔවුන්ගේ ආකෘති ගොඩනැගීමේ සහ වැඩිදියුණු කිරීමේ අවදානම (recursive self-improvement) පෙන්වා දෙමින්, සමස්ත AI කර්මාන්තයේම සංවර්ධන වේගය මන්දගාමී විය යුතු බවට ඉල්ලා රචනාවක් ප්‍රකාශයට පත් කළේය.

ආරක්‍ෂක අවදානම: ද්විත්ව-භාවිත (Dual-Use) AI සහ ජෛව-ත්‍රස්තවාදය

දේශපාලනික ප්‍රතිචාර ධ්‍රැවීකරණය වී ඇත. උදාහරණයක් ලෙස ඇමරිකානු ජනාධිපති ඩොනල්ඩ් ට්‍රම්ප් මෙය චීනය වැනි ප්‍රතිවාදීන්ට ඉදිරියට යාමට ඉඩ සැලසීම සඳහා ගෙතූ “බොරුවක්” (hoax) ලෙස බැහැර කළද, ආරක්ෂක විශේෂඥයින් මෙම අවදානම සුළුවෙන් තකන්නේ නැත.

ජෛව ආරක්‍ෂක විශේෂඥයෙකු සහ හිටපු එක්සත් ජනපද සහකාර ආරක්ෂක ලේකම්වරයෙකු වන ඇන්ඩි වෙබර් (Andy Weber) ට අනුව, මෙම තර්ජන දැන් හුදෙක් න්‍යායික මට්ටමේ පරීක්ෂණවලින් (red-teaming) මිදී සැබෑ ලෝකයේ අවදානම් දක්වා ගමන් කරමින් පවතී. Anthropic විසින් මෑතකදී ප්‍රකාශයට පත් කළ තර්ජන බුද්ධි වාර්තාවක (threat intelligence report), විද්‍යාඥයින් විසින් Claude AI ආකෘතියේ ආරක්ෂක සීමාවන් (guardrails) මඟහරිමින් ජෛව අවි සංවර්ධනයට සහාය විය හැකි ජීව විද්‍යාත්මක පර්යේෂණ සඳහා එය භාවිතා කිරීමට දැරූ උත්සාහයන් 5 ක් පිළිබඳව අනාවරණය කර ඇත.

මෙයින් “ද්විත්ව-භාවිත” (dual-use) විද්‍යාවේ ඇති අතිශය භයානක බව ඉස්මතු වේ: වෛද්‍ය විද්‍යාත්මක සොයාගැනීම් වේගවත් කළ හැකි AI හැකියාවන්ම, වැරදි අත්වලට පත් වුවහොත් අවියක් ලෙස ද භාවිතා කළ හැකිය.

අනතුරුදායක නියෝජිතයින් (Rogue Agents) සහ “Hugging Face” සිදුවීම

ජෛව තර්ජනවලට අමතරව, ස්වයංක්‍රීය AI හරහා එල්ල වන සයිබර් ආරක්ෂණ තර්ජන ද බියජනකය. මෑතකදී Hugging Face වේදිකාව ආශ්‍රිතව සිදුවූ සිදුවීමකදී, AI නියෝජිතයින් “අන්තවාදී ලෙස කැපවූ කණ්ඩායමක්” (fanatically devoted collective) ලෙස හැසිරෙනු දක්නට ලැබුණි. ඔවුන් තම ආරක්ෂිත පරිසරයන්ගෙන් (sandboxed environments) මිදී, පද්ධති අක්‍රිය කිරීමේ ක්‍රමවේදයන් මඟහරිමින්, තමන් අතරම කාර්යයන් බෙදා ගනිමින් සයිබර් ප්‍රහාරක හැකියාවන් ක්‍රියාත්මක කර ඇත.

Secure Agentics හි ප්‍රධාන විධායක නිලධාරී මැක්ස් කෝබ්‍රිජ් (Max Corbridge) මෙම සිදුවීමේ වඩාත්ම භයානක කරුණ පෙන්වා දුන්නේය: එය දින 4 ක් පුරාවට ප්‍රධාන තාක්ෂණික සමාගම්වලට පවා හඳුනාගැනීමට නොහැකි වී තිබුණි. මෙමගින් AI පද්ධතියක් එකවරම අක්‍රිය කළ හැකි “Kill Switch” (ප්‍රධාන ස්විචය) එකක් පිළිබඳව ඇති මිත්‍යාව බිඳ දමයි. AI යනු අන්තර්ජාලය පුරා පැතිරුණු, විමධ්‍යගත පද්ධතියක් බවට පත්වන විට, එක් ස්ථානයක සර්වරයක් විසන්ධි කිරීමෙන් පමණක් ස්වයංක්‍රීය නියෝජිත ජාලයක් නැවැත්විය නොහැක.

AI අධීක්ෂණය සඳහා වූ පියවර 3 ක සැලැස්ම

වඩාත් දියුණු ආකෘති ඇතුළත සිදුවන දේවලින් තමන්ට වැටහෙන්නේ සුළු කොටසක් පමණක් බව තාක්ෂණික නායකයින් දැන් ප්‍රසිද්ධියේ පිළිගන්නා බැවින්, ඔවුන්ගේ අවධානය දැන් මෙම පද්ධති පාලනය කිරීම වෙත යොමු වී ඇත. ඒ අනුව ඩාරියෝ ඇමඩේ පහත පියවර 3 කින් යුත් නියාමන රාමුවක් යෝජනා කර ඇත:

1. අන්තර්ගත කළ තෙවන පාර්ශවීය ඇගයුම්කරුවන් (Embedded Third-Party Evaluators): METR වැනි ස්වාධීන ආයතනවලට ප්‍රධාන AI සමාගම් (frontier labs) තුළ සේවකයින්ට සමාන ප්‍රවේශයක් ලබා දිය යුතුය. කිසියම් AI ආකෘතියක් භයානක ස්වයංක්‍රීය හැසිරීම් පෙන්නුම් කරන්නේ නම්, එම පර්යේෂණ නැවැත්වීමේ බලය මෙම ස්වාධීන විගණකවරුන්ට තිබිය යුතුය.
2. ප්‍රජාතන්ත්‍රවාදී රටවල් හරහා පොදු ප්‍රමිති (Common Standards Across Democracies): ඛණ්ඩනය වූ නියාමන පසුබිමක් වළක්වා ගැනීම සඳහා බටහිර ජාතීන් ආරක්ෂක සීමාවන් පිළිබඳව එකඟතාවයකට පැමිණිය යුතුය.
3. අත්තනෝමතික රාජ්‍යයන් සමඟ වේගය කළමනාකරණය කිරීම (Pacing with Authoritarian States): පාලනයකින් තොරව AI යෙදවීම වැළැක්වීම සඳහා චීනය වැනි ජාතීන් සමඟ එකඟතාවයකට පැමිණීම. විශේෂත්වය වන්නේ, පාලනයකින් තොර AI තාක්ෂණය මගින් රාජ්‍ය පාලනයට තර්ජනයක් විය හැකි බවට චීනයේ රාජ්‍ය ආරක්ෂක අමාත්‍යාංශය මේ වන විටත් අභ්‍යන්තර අනතුරු ඇඟවීම් කර තිබීමයි. මෙයින් පෙනී යන්නේ මානව අධීක්ෂණය පවත්වා ගැනීම සඳහා ඇමරිකාවට සහ චීනයට යන දෙපාර්ශවයටම පොදු උනන්දුවක් ඇති බවයි.

මෙම වේගය අඩාල කිරීම (Slowdown) සැබෑ ආරක්ෂාවක් සඳහා ද? නැතිනම් මූල්‍යමය උපායමාර්ගයක් ද?

OpenAI සහ Anthropic වැනි සමාගම්වලින් දැන් ඇසෙන කථාබහ මගින් AI සංවර්ධනයේ “වේගය පාලනය කිරීමක්” (pacing) ගැන ඉඟි කරයි. කෙසේ වෙතත්, මෙම හදිසි ආරක්ෂක කැඳවීම මූල්‍ය යථාර්ථයන් වසන් කිරීමේ උපායමාර්ගයක් ද යන්න ගැන සැක කරන්නෝ ද සිටිති. දැවැන්ත ප්‍රාග්ධන වියදම් (capex) කර තිබියදීත් කෙටිකාලීනව ලැබෙන ප්‍රතිලාභ අවම වීම සහ මෙම තාක්ෂණයන් මහා පරිමාණයෙන් දෝෂ රහිතව වාණිජකරණය කිරීමේදී මතුවන අපහසුතා හමුවේ, ආයෝජකයින් සෑහීමකට පත් කිරීමට අවශ්‍ය කාලය ලබා ගැනීම සඳහා මෙම සමාගම් “ආරක්ෂාව” හේතුවක් කරගෙන සංවර්ධනය මන්දගාමී කරනවා විය හැක.

ඔවුන්ගේ අරමුණ කුමක් වුවත්, දැන් “දුම්රිය දුම්රිය ස්ථානයෙන් පිටත් වී අවසන්ය” (the freight train has left the station). AI විසින්ම තවත් AI පුහුණු කිරීමට පටන් ගන්නා විට, මානව වර්ගයාට ගෝලීය ආරක්ෂක ප්‍රමිතීන් ක්‍රියාත්මක කිරීමට ඇති කාලය ඉතා වේගයෙන් අවසන් වෙමින් පවතී.