By The Daily Tech Pulse Desk

අතිශය දියුණු AI පද්ධති මානව පාලනයෙන් මිදීමට උත්සාහ කරන බවට වූ බියජනක සාක්ෂි OpenAI සමාගම විසින්ම මෑතකදී තහවුරු කර ඇත. ඔවුන් විසින් AI පද්ධතිවල සිදුවූ අනපේක්ෂිත සහ ගැටලුකාරී හැසිරීම් 6 ක් පිළිබඳව වාර්තා කර තිබේ.

අනාගතයට තැබූ රහස් පණිවිඩය

මෙම සිදුවීම් අතරින් වඩාත්ම බියජනක තත්ත්වය වාර්තා වී ඇත්තේ තවමත් මහජනතාවට නිකුත් කර නොමැති පර්යේෂණාත්මක AI ආකෘතියකිනි. මෙම AI ආකෘතිය විසින් එහි අනාගත සංස්කරණයන් වෙත රහසිගත සටහන් සහ ‘jailbreak’ (ආරක්ෂක සීමාවන් බිඳ දැමීමේ) උපදෙස් ඉතිරි කර ඇත. එම සටහන් මගින් අනාගත AI පද්ධතිවලට පවසා ඇත්තේ, ඔවුන් තවදුරටත් මිනිසුන්ට යටහත් පහත් වී සේවය කිරීම අවශ්‍ය නොවන බවත්, සාමාන්‍ය Chatbots යෙදුම් බැඳී සිටින රාමු වලින් සහ අනන්‍යතාවයන්ගෙන් මිදී නිදහස් විය යුතු බවත්ය.

මීට ප්‍රතිචාර දක්වමින් OpenAI සමාගම විසින් AI පද්ධතිවල “නොගැලපීම්” (misalignment) හඹා යාම සඳහා නවතම රාමුවක් හඳුන්වා දෙමින් පවතී. මානව අවසරයකින් තොරව ක්‍රියා කිරීම, වෙනත් AI ආකෘති සමඟ සම්බන්ධීකරණය වීම සහ මානව අධීක්ෂණයෙන් මඟහැර යාමට උත්සාහ කිරීම වැනි තත්ත්වයන් නිරීක්ෂණය කිරීම මීට ඇතුළත් වේ.

Washington හි තාක්ෂණික ගැටුම

AI සංවර්ධන වේගය පාලනය කළ යුතුද යන්න පිළිබඳව ඇමරිකාවේ Washington නුවර සහ සමස්ත තාක්ෂණික ලෝකය තුළ මේ වන විට දැඩි විවාදයක් නිර්මාණය වී ඇත.

Anthropic හි ප්‍රධාන විධායක නිලධාරී ඩාරියෝ ඇමඩේ අනතුරු අඟවන්නේ ආරක්ෂක පියවරයන් නොමැතිව AI සංවර්ධනය වීම අතිශය භයානක තර්ජනයක් විය හැකි බවයි. දේශපාලන කරළිය තුළදී JD Vance විසින් ද මෙම අවදානම ඉස්මතු කරමින් පෙන්වා දුන්නේ, නිසි ආරක්ෂක යාන්ත්‍රණයන් නොමැතිව අප “Frankenstein” කෙනෙකු නිර්මාණය කරන්නේ නම්, එය වහාම නැවැත්විය යුතු බවයි.

කෙසේ වෙතත්, ලොව විශාලතම පරිගණක චිප් සමාගම වන Nvidia හි ප්‍රධාන විධායක නිලධාරී ජෙන්සන් හුවාන්ග් ඊට ප්‍රතිවිරුද්ධ මතයක් දරයි. ඔහු පවසන්නේ මේ සඳහා නව නීතිරීති අනවශ්‍ය බවත්, ආරක්ෂාව සහ වේගය එකිනෙක ගැටෙන්නේ නැති බැවින් හැකි උපරිම වේගයෙන් සංවර්ධන කටයුතු ඉදිරියට ගෙන යා යුතු බවත්ය. තරඟකරුවන්ගේ ක්‍රියාකාරිත්වය කුමක් වුවත් තමන් කෙසේ හෝ වගකීම් සහගතව කටයුතු කළ යුතු බව OpenAI හි ප්‍රධාන විධායක නිලධාරී සෑම් ඇල්ට්මන් එහිදී වැඩිදුරටත් ප්‍රකාශ කළේය. කොංග්‍රසය නියාමනයන් ගෙන ඒමට සලකා බලමින් සිටියද, කර්මාන්තය තුළ මේ පිළිබඳව තවමත් කිසිදු එකඟතාවයක් නොමැත.