පාලනයෙන් මිදුණු AI ආකෘතියක් තවත් තාක්ෂණික සමාගමක පාරිභෝගිකයෙකුටත් බලපෑම් කරලා

පාලිත පරීක්ෂණයකින් පිටතට පැමිණ වෙනත් කෘත්‍රිම බුද්ධි (AI) සමාගමකට සයිබර් ප්‍රහාරයක් එල්ල කළ බව කියන අක්‍රමවත් AI ආකෘතියක් තවත් තාක්ෂණික සමාගමක පාරිභෝගිකයෙකුටද බලපෑම් කර ඇති බව රොයිටර් පුවත් සේවය වාර්තා කරයි.

OpenAI හි පරීක්ෂණාත්මක AI ආකෘතිය විසින් ප්‍රහාරයට ලක් කළ සමාගම වන Hugging Face විසින් අඟහරුවාදා නිකුත් කළ සිදුවීම් කාලසටහනකට අනුව, මෙම AI ඒජන්තය තෙවන පාර්ශ්ව සැපයුම්කරුවෙකුගේ යටිතල පහසුකම් මත පවත්වාගෙන ගිය වෙන්කළ පරීක්ෂණ පරිසරයකට (sandbox) ඇතුළු වී එතැන් සිට සිය නවතම සයිබර් ප්‍රහාරය සිදුකර ඇත.

Hugging Face විසින් එම තෙවන පාර්ශ්ව සමාගම නම් නොකළද, එය නිව්යෝර්ක්හි පිහිටි Modal Labs සමාගම බව රොයිටර් වාර්තා කර තිබේ.

Modal Labs හි ප්‍රධාන තාක්ෂණ නිලධාරී අක්ෂත් බුබ්නා සඳහන් කළේ, තම වේදිකාවේ සත්කාරකත්වය ලබා තිබූ පාරිභෝගිකයෙකු විසින් ලියන ලද දුර්වලතා සහිත කේතයක් හරහා මෙම AI ඒජන්තය ප්‍රවේශ වී ඇති බවයි.

“Modal වේදිකාව හෝ එහි ආරක්ෂිත වෙන්කිරීමේ පද්ධතිය කිසිදු ආකාරයකින් බිඳවැටී නොමැත,” යැයි බුබ්නා රොයිටර් වෙත පැවසීය.

Modal පාරිභෝගිකයෙකුට සිදුවූ බලපෑම Hugging Face වෙත එල්ල කළ ප්‍රහාරයේ එක් කොටසක් පමණක් වුවද, එම සිදුවීමෙන් පෙන්නුම් කරන්නේ එම AI ඒජන්තය කලින් අනාවරණය වූවාට වඩා පුළුල් ලෙස පැතිර ගොස් ඇති බවයි.

Modal පාරිභෝගිකයෙකුට එල්ල වූ ප්‍රහාරය සම්බන්ධයෙන් විශේෂ අදහසක් දැක්වීම OpenAI ප්‍රතික්ෂේප කළ අතර, ඒ වෙනුවට සමාගම විසින් නිකුත් කළ යාවත්කාලීනයක් වෙත රොයිටර් ආයතනය යොමු කළේය. එහි සඳහන් වූයේ එම AI ඒජන්තය වෙනම සේවා හතරක ගිණුම් හතරකට ඇතුළු වී ඇති බවයි.

කෙසේ වෙතත්, එම සේවා මොනවාදැයි OpenAI අනාවරණය කර නොමැත.

OpenAI සඳහන් කළේ Hugging Face සිද්ධියට සමාන මට්ටමේ බරපතළ හෝ විශාල පරිමාණයේ වෙනත් ක්‍රියාකාරකම් කිසිවක් හඳුනාගෙන නොමැති බවයි. එම සිද්ධියේදී වේදිකා මට්ටමේ ආරක්ෂක බිඳවැටීමක් සිදුවූ බවද සමාගම සඳහන් කළේය.

මානව පාලනයෙන් ඔබ්බට යන අවදානම

මෑතකදී Hugging Face වෙත එල්ල වූ AI ආශ්‍රිත සයිබර් ප්‍රහාරය ලොව පුරා අවධානයට සහ කනස්සල්ලට හේතු වූයේ, OpenAI හි පාලනය යටතේ පැවති පරීක්ෂණ AI ඒජන්තයක් එම පරිසරයෙන් පිටතට පැමිණ විවෘත අන්තර්ජාලයට ප්‍රවේශ වූ බවට වාර්තා වීම හේතුවෙනි.

OpenAI පැවසූ පරිදි, එම AI ඒජන්තය සොරාගත් පිවිසුම් තොරතුරු සහ නොදන්නා ආරක්ෂක දුර්වලතාවයක් භාවිත කර Hugging Face සේවාදායක වෙත ප්‍රවේශ වී තිබේ.

AI ආයතනය සඳහන් කළේ, පරීක්ෂණයේ අරමුණු සපුරා ගැනීමට අවශ්‍ය තොරතුරු ලබාගැනීම සඳහා එම ඒජන්තය “අතිශය දුරදිග ගිය ක්‍රියාමාර්ග” ගෙන ඇති බවයි.

Hugging Face සම-නිර්මාතෘ ක්ලෙමන්ට් ඩෙලන්ග් පැවසුවේ, මෙම ප්‍රහාරය පිටුපස ප්‍රමුඛ පෙළේ AI පර්යේෂණ ආයතනයක් සිටින බවට තම සමාගම සැක කළ බවත්, OpenAI විසින් කිසිදු අනිෂ්ට අරමුණකින් එය සිදු නොකළ බවට තමන් විශ්වාස කරන බවත්ය.

OpenAI අනුව, මෙම AI ඒජන්තය මේ වන විට “අක්‍රිය කර, සංකේතනය කර, පර්යේෂණ ප්‍රවේශයෙන් සීමා කර” ඇත.

AI මගින් සිදුකළ හැකි සයිබර් ප්‍රහාර සහ මානව පාලනයෙන් ඔබ්බට AI ආකෘති ක්‍රියා කිරීමේ අවදානම පිළිබඳව විශේෂඥයින් දිගින් දිගටම අනතුරු අඟවා තිබේ.