ඩිජිටල් තොරතුරු ක්ෂේත්‍රයේ දැවැන්ත වෙනස්කම් රැසක් සිදු වුවද, Large Language Models (LLMs) හි මූලික සීමාවන් දිගටම පැවතුණි. විශේෂයෙන්ම පැය 12 ක කේතකරණ (coding) හෝ පර්යේෂණ වැනි සංකීර්ණ කාර්යයන් සඳහා AI නියෝජිතයන් (AI Agents) යොදා ගැනීමේදී පරිගණක පිරිවැය (compute cost) සහ මතක සීමාවන් (memory constraints) විශාල බාධාවක් විය.

මෙයට විප්ලවීය විසඳුමක් ලෙස Superintelligence Labs, MIT සහ University of Washington එක්ව නවතම ආකෘතියක් හඳුන්වා දී තිබේ. එය Context Language Model (CLM) ලෙස හැඳින්වේ. සාම්ප්‍රදායික AI පද්ධතිවල භාවිතා වන සංකීර්ණ බාහිර “harness” ව්‍යුහයන් ඉවත් කර, ආකෘතියට ස්වයංක්‍රීයව තම මතකය (live context) තනිවම සංස්කරණය කිරීමට මෙහිදී හැකියාව ලැබේ.

සාම්ප්‍රදායික AI නියෝජිතයන්ගේ දුර්වලතා සාමාන්‍ය LLM ක්‍රියාත්මක වන්නේ දත්ත එකතු කිරීම පමණක් සිදුකරන (append-only) පද්ධතියක් ලෙසිනි. මතකය පිරී යාම සහ පිරිවැය ඉහළ යාම වැළැක්වීමට මෙතෙක් කල් සංවර්ධකයින් විසින් LLM එක වටා බාහිර Harness එකක් නිර්මාණය කරනු ලැබීය. නමුත් මෙහි විශාල අඩුපාඩු පවතී:

• තත්ත්වයට අනුගත නොවීම (Lack of Contextual Awareness): නිශ්චිත කාර්යයක ස්වභාවය නොදැන දැඩි නීතිරීති මත දත්ත සාරාංශ කිරීම නිසා සංකීර්ණ ගැටලුවලදී (උදා: Sudoku වැනි ක්‍රීඩාවකදී) AI පද්ධතිය සම්පූර්ණයෙන්ම මුළා වේ.
• පරිගණක බලය අපතේ යාම (Compute Inefficiency): දිගුකාලීන කාර්යයන්වලදී දත්ත ප්‍රමාණය අධික වීමෙන් මතකය පිරී ගොස් පද්ධතිය අඩාල වේ.

CLM හි විසඳුම: සංස්කරණය කළ හැකි මතකයක් (Editable Workspace) CLM මගින් මෙම බාහිර Harness එක සම්පූර්ණයෙන්ම ඉවත් කරයි. ඒ වෙනුවට තොරතුරු සම්පීඩනය කළ යුත්තේ කවදාද, වෙනස් කළ යුත්තේ කුමක්ද සහ රඳවා ගත යුත්තේ මොනවාද යන්න ආකෘතිය විසින්ම තනිවම තීරණය කරයි.

මෙහිදී මතකය Linux workspace එකක ඇති ගොනුවක් (File) ලෙස සලකනු ලබයි. අවශ්‍ය විටෙක ටෝකන් (tokens) 10,000 ක දත්ත ප්‍රමාණයක් ටෝකන් 400 ක සාරාංශයක් බවට පත් කර, අනවශ්‍ය දත්ත මුළුමනින්ම ඉවත් කිරීමට (wipe) ඊට හැකියාව ඇත.

ක්‍රියාකාරීත්වය: ස්වයං-ඉගෙනුම සහ Cache ප්‍රශස්ත කිරීම වැදගත් දත්ත මකා දැමීම වැළැක්වීම සඳහා, පර්යේෂකයන් විසින් “Success-Gated Efficiency GRPO” නම් වූ විශේෂිත reinforcement learning තාක්ෂණයක් භාවිතා කර ඇත. මෙයින් පද්ධතියට වඩාත් නිවැරදි ප්‍රතිඵල ලබා දෙන, අඩුම පිරිවැයක් සහිත මතක-සංස්කරණ ක්‍රමවේද (context-editing strategies) හඳුනා ගැනීමට ඉඩ සැලසේ.

Suffix Cache Reuse (SCR) තාක්ෂණය CLM හි ඇති සුවිශේෂීම ඉංජිනේරුමය සොයාගැනීම මෙයයි. සාමාන්‍ය LLM එකක මැදින් යම් දත්තයක් වෙනස් කළහොත්, ඊට පසු ඇති සියලුම දත්ත සඳහා නැවත Key-Value (KV) cache එක මුල සිට ගණනය කළ යුතුය. එයට විශාල පරිගණක බලයක් වැය වේ.

නමුත් SCR ඇල්ගොරිතමය මගින් වෙනස් නොවුණු දත්ත කොටස් හඳුනාගෙන ඒවා මතකයේ නැවත ස්ථාපිත කරයි. පරීක්ෂණවලට අනුව මෙමගින් AI ආකෘතියේ නිරවද්‍යතාවය 60.2% කින්ම පවත්වා ගනිමින් 20% සිට 60% දක්වා වූ පරිගණක පිරිවැයක් (flops) ඉතිරි කර ගැනීමට සමත් වී ඇත.

මෙහි ඇති අභියෝගය මෙම තාක්ෂණය ඉතා ප්‍රබල වුවද, පර්යේෂකයන් පෙන්වා දෙන පරිදි SCR ක්‍රමවේදය තවමත් පවතින්නේ දළ ආසන්න අගයක් (approximation) වශයෙනි. එය වෙනස් වූ දත්තවල පිහිටීම නිවැරදි කළත්, අර්ථකථන (semantic) බැඳීම් හඳුනා නොගනී. උදාහරණයක් ලෙස, මූලික දත්තයක “සෙල්සියස්” යන්න “ෆැරන්හයිට්” ලෙස වෙනස් කළහොත්, ඉතිරි දත්තවල ගණිතමය අර්ථය මුළුමනින්ම වෙනස් වේ. එවැනි අවස්ථාවල පැරණි මතකය (cache) නැවත භාවිත කිරීමෙන් පද්ධතියේ තර්කනය බිඳ වැටිය හැක.

නිගමනය CLM යනු AI නියෝජිතයන්ගේ අනාගතය වෙනස් කරන දැවැන්ත පියවරකි. සංකීර්ණ Harness ව්‍යුහයන් ඉවත් කර AI ආකෘතියටම එහි මතකය පාලනය කිරීමට ඉඩ දීම හරහා අඩු පිරිවැයකින් යුතු, වඩාත් කාර්යක්ෂම ස්වයංක්‍රීය පද්ධති ගොඩනැගීමට මින් මාවත විවර වේ. එහෙත් මෙහි ඇති Cache දුර්වලතා සම්පූර්ණයෙන් මඟහරවා ගන්නා තුරු සංකීර්ණ පද්ධතිවලදී මෙය ඉතා ප්‍රවේශමෙන් භාවිතා කළ යුතු වේ.