පසුගිය වසර කිහිපය පුරාවටම කෘත්‍රිම බුද්ධි (AI) ක්ෂේත්‍රයේ ප්‍රධාන අවධානය යොමු වී තිබුණේ අතිශය දැවැන්ත, Cloud තාක්ෂණය මත පදනම් වූ ආකෘතීන් (Large Language Models – LLMs) ගොඩනැගීම කෙරෙහිය. ප්‍රධාන තාක්ෂණික සමාගම් පරාමිතීන් (parameters) බිලියන සිය ගණනක් සහිත මෙම දැවැන්ත AI මාදිලි සඳහා ඩොලර් බිලියන ගණනින් ආයෝජනය කළහ. නමුත් 2026 වසර වන විට තාක්ෂණික ලෝකය මීට හාත්පසින්ම වෙනස් දිශාවකට ගමන් කරමින් සිටී.

දැන් කෘත්‍රිම බුද්ධියේ නවතම මායිම ඇත්තේ දැවැන්ත Cloud සේවාදායක තුළ නොව, ඔබේ සාක්කුවේ ඇති ජංගම දුරකථනය තුළයි. Small Language Models (SLMs) සහ On-Device AI යුගය වෙත ඔබව සාදරයෙන් පිළිගනිමු.

Small Language Model (SLM) යනු කුමක්ද?

සාමාන්‍ය LLM එකක් ක්‍රියාත්මක වීම සඳහා දැවැන්ත දත්ත මධ්‍යස්ථාන (data centers) සහ අඛණ්ඩ අන්තර්ජාල සබඳතාවයක් අවශ්‍ය වන නමුත්, SLMs යනු ඉතා ඉහළින් ප්‍රශස්ත කරන ලද (highly optimized), සංයුක්ත AI මාදිලි වේ. සාමාන්‍යයෙන් පරාමිතීන් බිලියන 1 සිට 8 දක්වා ප්‍රමාණයක් අන්තර්ගත වන මේවා, ඔබේ ස්මාර්ට් ජංගම දුරකථනයේ, ටැබ්ලටයේ හෝ ලැප්ටොප් පරිගණකයේ දෘඪාංග (hardware) මතම (locally) ක්‍රියාත්මක වීමට විශේෂයෙන් පුහුණු කර ඇත.

ප්‍රධාන තාක්ෂණික සමාගම් දැන් මෙම ක්ෂේත්‍රය සඳහා විශාල වශයෙන් ආයෝජනය කරයි. Microsoft සමාගමේ Phi මාදිලි පෙළ, Google හි Gemini Nano, සහ Meta හි ප්‍රශස්ත කරන ලද Llama මාදිලි හරහා “විශාල වූ පමණින් සෑම විටම හොඳම නොවන බව” මනාව ඔප්පු කරමින් සිටී.

On-Device AI අනාගතය වන්නේ ඇයි?

Cloud මත පදනම් වූ AI වෙනුවට උපාංගය මතම (local/on-device) දත්ත සැකසීම වෙත යොමුවීමට ප්‍රධාන වාසි 3ක් හේතු වී ඇත:

• උපරිම පෞද්ගලිකත්වය (Ultimate Privacy): AI මාදිලිය සම්පූර්ණයෙන්ම ඔබේ උපාංගය තුළ ක්‍රියාත්මක වන බැවින්, ඔබේ සංවේදී පුද්ගලික දත්ත, විද්‍යුත් තැපැල් (emails) සහ පුද්ගලික ඡායාරූප සැකසීම සඳහා කිසිදාක වෙනත් සමාගමක සේවාදායකයක් (server) වෙත යැවීමට අවශ්‍ය නොවේ.
• අන්තර්ජාලය නොමැතිව ක්‍රියා කිරීම සහ ශුන්‍ය ප්‍රමාදය (Zero Latency and Offline Access): Cloud AI සඳහා ස්ථාවර අන්තර්ජාල සබඳතාවක් අවශ්‍ය වන අතර එහි යම් ප්‍රමාදයක්ද (network latency) පවතී. නමුත් On-Device SLMs මඟින් ක්ෂණිකව පිළිතුරු ලබා දෙන අතර, ඔබ සම්පූර්ණයෙන්ම Offline සිටින විට හෝ Airplane mode හි සිටින විට පවා ලේඛන සාරාංශ කිරීමට, භාෂා පරිවර්තනය කිරීමට හෝ ඊමේල් කෙටුම්පත් කිරීමට (drafting emails) මෙයට හැකියාව ඇත.
• බලශක්ති සහ පිරිවැය කාර්යක්ෂමතාව (Energy and Cost Efficiency): දත්ත මධ්‍යස්ථාන තුළ බිලියන ගණනක් වූ AI විමසුම් (queries) සැකසීම සඳහා විශාල විදුලියක් සහ ජල ප්‍රමාණයක් වැය වේ. පරිගණක සැකසුම් භාරය (computational workload) පරිශීලක උපාංග වෙත මාරු කිරීම හරහා සේවාදායක පිරිවැය මෙන්ම AI තාක්ෂණයේ සමස්ත කාබන් පියසටහනද (carbon footprint) විශාල වශයෙන් අඩු කරයි.

NPU (Neural Processing Unit) හි නැගීම

නිවැරදි දෘඪාංග (hardware) නොමැතිව ඔබට උසස් AI තාක්ෂණයක් උපාංගය තුළම ක්‍රියාත්මක කළ නොහැක. GPUs (Graphics Processing Units) විසින් පරිගණක ක්‍රීඩා (gaming) ලෝකය වෙනස් කළා සේම, අද වන විට ස්මාර්ට්ෆෝන් සහ පරිගණක ලෝකයේ විප්ලවයක් සිදු කරන්නේ NPU (Neural Processing Unit) විසිනි.

Apple, Qualcomm, Intel සහ AMD යන සමාගම් විසින් නිපදවන නවීන ප්‍රොසෙසර වල මේ වන විට විශේෂිත NPUs අන්තර්ගත වේ. ඔබේ උපාංගයේ බැටරිය ඉක්මනින් බැස යාමට ඉඩ නොදී, SLMs සඳහා අවශ්‍ය වන සංකීර්ණ ගණිතමය ගණනය කිරීම් ඉතා කාර්යක්ෂමව හැසිරවීම සඳහාම මෙය නිර්මාණය කර ඇත.

Pariganaka නිගමනය

සංකීර්ණ කේත ලිවීම්, ඉහළ පෙළේ වෛද්‍ය පර්යේෂණ සහ උසස් දත්ත විශ්ලේෂණයන් සඳහා තවදුරටත් දැවැන්ත Cloud AI මාදිලි අවශ්‍ය වනු ඇත. කෙසේ වෙතත්, පණිවිඩ ලිවීම, කාලසටහන් සැකසීම සහ වෙබ් පිටු සාරාංශ කිරීම වැනි එදිනෙදා කාර්යයන් සඳහා Small Language Models මේ වන විටත් පෙරමුණ ගෙන සිටී. AI විප්ලවය තවදුරටත් ඈත පිහිටි දත්ත මධ්‍යස්ථාන වල පමණක් සිදුවන්නක් නොවේ; එය දැන් ඔබේ පුද්ගලික උපාංගය තුළම සිදුවෙමින් පවතී.

ඔබේ දත්ත වෙනත් Cloud එකකට යවන්නේ නැතිව, සියයට සියයක්ම ඔබේම උපාංගය තුළ (device) රඳවා ගනිමින් ක්‍රියාත්මක වන AI සහායකයෙකු භාවිතා කිරීමට ඔබ වඩාත් කැමතිද?