Shadow AI අවදානම

වර්තමාන ව්‍යාපාරික ලෝකය තුළ කෘතිම බුද්ධි (AI) මෙවලම් භාවිතය අතිශය වේගයෙන් වර්ධනය වෙමින් පවතී. කෙසේ වෙතත්, මේ සමඟම ආයතනික පාලනයෙන් සහ තොරතුරු තාක්‍ෂණ (IT) අංශවල අනුමැතියෙන් බාහිරව, සේවකයන් විසින් තමන්ගේ හිතුමතයට බාහිර AI මෙවලම් භාවිත කිරීමේ ප්‍රවණතාවක් ද දැඩි ලෙස ඉහළ ගොස් ඇත. තාක්‍ෂණික ලෝකය තුළ මෙය “Shadow AI” (සෙවනැලි AI) ලෙස හඳුන්වනු ලබයි.

මෑතකදී නිකුත් වූ ගෝලීය සමීක්‍ෂණ සහ ආයතනික විගණන වාර්තාවලට අනුව, මෙම සෙවනැලි AI භාවිතය නිසා ආයතන සතු නිල, නීතිමය සහ පරිපාලන ලේඛනවලට බරපතළ වැරදි මෙන්ම “මනඃකල්පිත නීතිමය තර්ක” (Hallucinated Legal Logic) ඇතුළත් වීමේ දැඩි අවදානමක් මතුව තිබේ.

---

1. සෙවනැලි AI (Shadow AI) යනු කුමක්ද?

කිසියම් ආයතනයක නිල ප්‍රතිපත්තියකට (Enterprise Governance) හෝ ආරක්ෂක ප්‍රමිතීන්ට පරිබාහිරව, සේවකයන් විසින් තමන්ගේ දෛනික රාජකාරි පහසු කරගැනීම සඳහා OpenAI ChatGPT, Anthropic Claude, හෝ වෙනත් විවෘත AI මෙවලම් පුද්ගලික මට්ටමින් භාවිත කිරීම මෙයින් අදහස් කෙරේ.

• රහසිගත භාවිතය: සේවකයන් තමන්ගේ කාර්යක්ෂමතාව ඉහළ නැංවීමට මේවා භාවිත කළද, ආයතනයේ කළමනාකාරිත්වය හෝ IT අංශය මේ පිළිබඳව කිසිවක් නොදනී.
• පාලනයෙන් තොර වීම: මෙලෙස භාවිත වන මෙවලම්වල ආරක්ෂක ස්ථර (Security compliance) ආයතනික මට්ටමින් පරීක්ෂාවට ලක් නොවන බැවින්, රහසිගත ආයතනික දත්ත බාහිර සේවාදායකයන් (Servers) වෙත කාන්දු වීමේ අවදානමක් ද පවතී.

---

2. මනඃකල්පිත නීතිමය තර්ක (Hallucinated Logic) පිළිබඳ ගැටලුව

LLM (Large Language Models) මාදිලිවල ඇති ප්‍රධානතම දුර්වලතාවක් වන්නේ ඒවා සමහර අවස්ථාවලදී සම්පූර්ණයෙන්ම ව්‍යාජ තොරතුරු, සත්‍ය තොරතුරු ලෙස ඉතාමත් විශ්වාසදායක ස්වරූපයෙන් ඉදිරිපත් කිරීමයි (Hallucination).

සේවකයන් විසින් ව්‍යාපාරික ගිවිසුම්, නිල නිවේදන, හෝ නීතිමය ලිපි ලේඛන සකස් කිරීමට මෙම පද්ධති පාලනයකින් තොරව භාවිත කරන විට පහත සඳහන් බරපතළ ගැටලු පැනනගී:

• නැති නීති සහ නඩු තීන්දු මවා පෑම: AI පද්ධති විසින් කිසියම් ව්‍යාපාරික ආරවුලකට හෝ ගිවිසුමකට අදාළව, ලෝකයේ කිසිදා සිදු නොවූ අධිකරණ තීන්දු (Court precedents), ව්‍යාජ පනත් සහ නොපවතින නීතිමය වගන්ති ඉතාමත් වෘත්තීය මට්ටමින් නිර්මාණය කර සේවකයාට ලබා දිය හැක.
• විශ්වාසනීයත්වයේ උගුල: මෙම පිළිතුරු බැලූ බැල්මට ඉතාමත් නිවැරදි සහ නීතිමය පාරිභාෂිත ශබ්ද (Legal jargon) සහිතව ලැබෙන බැවින්, සේවකයන් ඒවා නිසි පරිදි පරීක්ෂා කිරීමකින් තොරව (Double-check නොකර) ආයතනයේ නිල ලේඛනවලට සෘජුවම ඇතුළත් කිරීමට පෙළඹේ.

---

3. ආයතනයකට එල්ල විය හැකි බරපතළ ප්‍රතිවිපාක

නොනිල AI භාවිතය නිසා නිල ලේඛනයකට මෙවැනි මනඃකල්පිත තර්කයක් ඇතුළත් වුවහොත් ආයතනයකට මුහුණ දීමට සිදු වන ප්‍රධාන අවදානම් 3කි:

1. නීතිමය වගකීම් සහ දඬුවම් (Legal Liabilities): ව්‍යාජ නීතිමය තර්ක හෝ වැරදි දත්ත අඩංගු ගිවිසුම් සහ ලේඛන අධිකරණයක් හෝ නියාමන ආයතනයක් (Regulatory body) ඉදිරියට ගියහොත්, ආයතනයට එරෙහිව වංචා කිරීම් හෝ නොසැලකිලිමත්භාවය යටතේ නඩු පැවරීමට සහ විශාල දඩ මුදල් ගෙවීමට සිදු විය හැක.
2. සංස්ථාපිත කීර්ති නාමය පළුදු වීම (Reputational Damage): ආයතනයක් විසින් නිකුත් කරන ලද නිල වාර්තාවක හෝ ගිවිසුමක අසත්‍ය AI දත්ත අඩංගු බව ප්‍රසිද්ධ වුවහොත්, ආයෝජකයන්, පාරිභෝගිකයන් සහ හවුල්කරුවන් පද්ධතිය කෙරෙහි තබා ඇති විශ්වාසය සම්පූර්ණයෙන්ම බිඳ වැටේ.
3. දත්ත රහස්‍යභාවය උල්ලංඝනය වීම (Data Breach): සේවකයන් විසින් ආයතනික ගැටලු නිරාකරණය කරගැනීමට පෞද්ගලික තොරතුරු, සේවාදායකයන්ගේ දත්ත හෝ මූල්‍ය වාර්තා (Sensitive data) පොදු AI මෙවලම් වෙත ඇතුළත් කිරීම (Input කිරීම) හරහා බරපතළ දත්ත රහස්‍යතා නීති (උදා: GDPR හෝ දේශීය දත්ත ආරක්ෂණ පනත්) උල්ලංඝනය වේ.

---

4. ආයතන විසින් ගත යුතු ක්‍රියාමාර්ග (Mitigation Strategies)

මෙම Shadow AI තර්ජනය සම්පූර්ණයෙන්ම තහනම් කිරීම ප්‍රායෝගික නොවේ, මන්ද සේවකයන් කෙසේ හෝ තම වැඩ පහසු කරගැනීමට මඟක් සොයා ගන්නා බැවිනි. එබැවින් ආයතන විසින් “තහනම් කිරීම” වෙනුවට “ක්‍රමවත් පාලනයක්” (Managed Governance) වෙත යොමු විය යුතුය:

• Enterprise AI මෙවලම් හඳුන්වා දීම: ආයතනික දත්ත සුරක්ෂිත වන, දත්ත පිටතට කාන්දු නොවන සහ ආරක්ෂක ප්‍රමිතීන්ට අනුකූල (Enterprise-grade) නිල AI ගිණුම් සේවකයන් සඳහා ලබා දීම.
• AI භාවිතය පිළිබඳ ප්‍රතිපත්ති (AI Governance Policy): ආයතනය තුළ AI භාවිත කළ හැකි සීමාවන්, නිල ලේඛන සඳහා භාවිත කිරීමේදී අනිවාර්යයෙන්ම මිනිස් පරීක්ෂාවකට (Human-in-the-loop) ලක් කළ යුතු බවට පැහැදිලි නීති මාලාවක් සකස් කිරීම.
• සේවක දැනුවත්භාවය (Awareness Training): AI මඟින් සිදුවන මනඃකල්පිත වැරදි (Hallucinations) පිළිබඳව සහ ඒවා නිල ලේඛනවලට යෙදීමේදී ඇති වන නීතිමය ප්‍රතිවිපාක පිළිබඳව සේවකයන් නිරන්තරයෙන් දැනුවත් කිරීම.

සෙවනැලි AI මඟින් ලබා දෙන තාවකාලික වේගය සහ පහසුව, ආයතනයක සමස්ත පැවැත්ම සහ නීතිමය සුරක්ෂිතතාව බිලිදෙන පාරාවළල්ලක් කර නොගැනීමට ව්‍යාපාරික නායකයන් වහාම පියවර ගත යුතුව ඇත.