පසුගිය වසර කිහිපය පුරාම අප සැවොම ChatGPT, Gemini හෝ Claude වැනි ප්රබල AI මෙවලම් භාවිතා කළෙමු. නමුත් මේ සැමටම පොදු එකම ගැටලුවක් තිබුණි. ඒ, සෑම තත්පරයකදීම සක්රීය අන්තර්ජාල සබැඳියක් (Active Internet Connection) අවශ්ය වීමයි. ලංකාවේ පවතින අන්තර්ජාල ගාස්තු සහ සිග්නල් ප්රශ්නත් සමඟ, වැදගත් වැඩක් කරගන්නා විට ඩේටා ඉවර වීම හෝ ස්ලෝ වීම කාටත් පොදු කරදරයක් විය. නමුත් 2026 වසර වන විට තාක්ෂණික ලෝකය මීට අපූරු විසඳුමක් සොයාගෙන ඇත. ඒ තමයි Local AI Models සහ Offline AI Agents තාක්ෂණය.
මොකක්ද මේ Local AI Model එකක් කියන්නේ?
සරලවම කිව්වොත්, OpenAI හෝ Google සමාගම්වල ඇති දැවැන්ත සර්වර් (Servers) මත යැපෙන්නේ නැතිව, සම්පූර්ණ AI මොඩලයක් ඔබේම පරිගණකයේ හෝ ලැප්ටොප් එකේ ස්ථාපනය කර (Install) අන්තර්ජාලය නොමැතිව (100% Offline) භාවිතා කිරීමයි.
මීට වසර දෙක තුනකට පෙර මේ සඳහා ලක්ෂ ගණනක් වටිනා සුපිරි පරිගණක (High-end Gaming PCs) අවශ්ය වුවත්, අද වන විට සාමාන්ය වෘත්තීය මට්ටමේ ලැප්ටොප් එකකින් ධාවනය කළ හැකි Llama 3, Mistral සහ Phind වැනි සැහැල්ලු නමුත් අතිශය ප්රබල open-source AI මොඩල බිහිවී ඇත.
Offline ක්රියා කරන “Local AI Agents” වල වාසි මොනවාද?
ඔබේ පරිගණකය තුළම ක්රියාත්මක වන AI ඒජන්තයෙකු (Local Agent) තබා ගැනීමෙන් ක්ෂේත්ර කිහිපයකින් ඔබට අතිමහත් වාසි සැලසේ:
1. 0% Data Cost (ඩේටා වියදමක් නැත)
ඔබ කේත රචකයෙක් (Coder), ලේඛකයෙක් (Content Writer) හෝ පර්යේෂකයෙක් (Researcher) නම්, දවස පුරා AI සමඟ වැඩ කළත් වැයවන්නේ විදුලිය පමණි. මාසික ඩේටා බිල ගැන වද විය යුතු නැත.
2. 100% Privacy & Security (දත්තවල සුරක්ෂිතභාවය)
බොහෝ විශාල සමාගම් තමන්ගේ රහසිගත ව්යාපාරික දත්ත හෝ කේත (Source Code) ChatGPT වෙත ලබා දීමට බිය වෙති. මන්ද එම දත්ත කාන්දු වීමේ අවදානමක් පවතින බැවිනි. නමුත් Local AI එකකදී ඔබේ දත්ත පරිගණකයෙන් පිටතට නොයන නිසා 100% ක්ම ආරක්ෂිතය.
3. අධික වේගය (Zero Latency)
අන්තර්ජාල සර්වර් වෙත දත්ත ගොස් නැවත පිළිතුරු එනතුරු බලා සිටිය යුතු නැත. RAM එක සහ Processor එක හරහා සෘජුවම ක්රියාත්මක වන නිසා පිළිතුරු ලැබෙන්නේ ඇසිපිය හෙලන සැණිනි.
මේ සඳහා භාවිත වන නවතම Tools මොනවාද?
අද වන විට ලෝකය පුරා සංවර්ධකයින් සහ තාක්ෂණික ලැදියන් අතර අතිශය ජනප්රිය මෙවලම් කිහිපයක් තිබේ:
- Ollama: පරිගණකයට ඉතාම සරලව ලෝකයේ ප්රධාන open-source AI මාදිලි බාගත කර පවත්වාගෙන යා හැකි (Manage) හොඳම මෙවලමකි.
- LM Studio: Coding නොදන්නා සාමාන්ය කෙනෙකුට වුවද, ChatGPT වැනිම අතුරුමුහුණතක් (Chat UI) හරහා offline AI සමඟ වැඩ කිරීමට ඉඩ සලසන මෘදුකාංගයකි.
- AnythingLLM: ඔබේ පරිගණකයේ ඇති PDF, Word Documents සියල්ල Local AI එකට කියවීමට සලස්වා, අන්තර්ජාලය නැතිව ඒ පොත් පත් ඇසුරෙන් ප්රශ්න ඇසීමට (RAG System) මෙයින් අවස්ථාව ලැබේ.
ලංකාවේ අපිට මෙයින් ගත හැකි ප්රයෝජන
ලංකාවේ විශ්වවිද්යාල සිසුන්ට, ඈත පළාත්වල වෙසෙන දක්ෂ කේත කරන්නන්ට (Remote Coders) සහ අන්තර්ජාල පහසුකම් දුර්වල පාසල්වලට මෙම තාක්ෂණය මහඟු ආශිර්වාදයකි.
ඔබ කළ යුත්තේ එක් වරක් පමණක් අදාළ මොඩලය (Model) බාගත කර ගැනීමයි. ඉන්පසු කිසිදු බාධාවකින් තොරව ලෝකයේ ඉහළම තාක්ෂණික දැනුම නොමිලේම සහ offline ක්රමයට ඔබේ කාමරයේ සිටම ලබා ගත හැක.
පරිගණක මහ ගෙදර (PARIGANAKA.COM) අපේ නිගමනය:
තාක්ෂණය දැන් cloud සර්වර්වලින් මිදී, මිනිසාගේ අත රැඳි කුඩා උපකරණ (Edge Devices) වෙත පැමිණෙමින් තිබේ. අනාගතයේදී ස්මාර්ට්ෆෝන් සහ ලැප්ටොප් නිපදවෙන්නේම මෙවැනි offline AI පද්ධති ධාවනය කිරීමට හැකි විශේෂිත NPU (Neural Processing Unit) චිප්ස් සමඟිනි. එබැවින්, අදම Ollama හෝ LM Studio වැනි දෙයක් ඔබේ පරිගණකයට දමාගෙන මේ අලුත් අත්දැකීම විඳගන්න.
ඔබ දැනටමත් Local AI මොඩලයක් පාවිච්චි කර තිබෙනවාද? නැතහොත් මේ ගැන ඔබේ අදහස කුමක්ද? පහළින් Comment කරන්න.
Leave a Reply