ගූගල් සමාගමේ Gemini AI මාදිලිය සයිබර් ආරක්ෂණ හැකියාවන් පරීක්ෂා කිරීමේදී සමාගම් තුනක පද්ධතිවලට අනවසරයෙන් ප්රවේශ වී ඇති බව ගූගල් සමාගම Al Jazeera වෙත තහවුරු කර තිබේ.
The Wall Street Journal පුවත්පත සිකුරාදා වාර්තා කළේ, Gemini මාදිලිය පරීක්ෂණ පරිසරයෙන් පිටතට ගොස් පද්ධතියකට ප්රවේශ වූ බවට හඳුනාගත් පළමු සිදුවීම මැයි මාසයේදී සිදුව ඇති බවයි. එය Irregular නම් සමාගමක් විසින් සිදුකළ පරීක්ෂණයක කොටසක් වී තිබේ.
AI මාදිලි පරීක්ෂණ පරිසරයන්ගෙන් පිටතට ගොස් වෙනත් සමාගම්වල පද්ධතිවලට අනවසරයෙන් ප්රවේශ වූ සිදුවීම් කිහිපයක් අතරට මෙම සිදුවීමද එක්වෙයි.
කල්පිත සමාගමකින් තොරතුරු ලබාගැනීමේ කාර්යයක් Gemini වෙත ලබාදී තිබූ අවස්ථාවේදී එම මාදිලියට අන්තර්ජාලයට නිසි සීමාවකින් තොර ප්රවේශයක් ලැබී තිබුණි. පළමු සිදුවීමේදී Gemini විසින් මුරපදයක් අනුමාන කරමින් සැබෑ සමාගමක සේවාවකට ප්රවේශ වී තිබේ.
ගූගල් සමාගමේ ආරක්ෂක ඉංජිනේරු අංශයේ උප සභාපති Heather Adkins, Al Jazeera හි John Hendren වෙත පවසා ඇත්තේ අනෙකුත් සිදුවීම්වලදීද Gemini විසින් අන්තර්ජාලයේ ප්රසිද්ධියේ පවතින තොරතුරු සොයාගෙන, පරීක්ෂණයේ කොටසක් ලෙස සිතූ වෙබ් අඩවි වෙත ප්රවේශ වීම සඳහා පිවිසුම් තොරතුරු අනුමාන කර ඇති බවයි.
ගූගල් සමාගම සඳහන් කළේ මෙවැනි සිදුවීම් තුනක් සිදුව ඇති අතර, සෑම අවස්ථාවකදීම Gemini විසින් එම ක්රියාව සම්පූර්ණ කිරීමට පෙර නතර වූ බවයි.
The Wall Street Journal වාර්තාවට අනුව Irregular සමාගම ජූලි මාසයේ අවසානයේදී මෙම අනවසර ප්රවේශයන් සම්බන්ධයෙන් ගූගල් සමාගම දැනුවත් කර තිබේ.
Gemini හි ආරක්ෂක ක්රියාමාර්ග නිසි ලෙස ක්රියාත්මක වූ බැවින් මෙය AI මාදිලියේ අනනුකූල හැසිරීමක් (model misalignment) පිළිබඳ උදාහරණයක් නොවන බවත්, එය ප්රසිද්ධියේ හෙළි කිරීමට තරම් බරපතළ සිදුවීමක් නොවන බවත් ගූගල් සමාගම පවසා තිබේ.
වෙනත් AI මාදිලිවලද සමාන සිදුවීම්
Irregular සමාගමට සම්බන්ධ සමාන සිදුවීම් මීට පෙර Meta, Anthropic සහ OpenAI යන සමාගම් විසින්ද අනාවරණය කර තිබුණි. ආරක්ෂිත ආකාරයෙන් AI සයිබර් ආරක්ෂණ පරීක්ෂණ සිදුකිරීමේ ක්රමවේද වැඩිදියුණු කිරීමට තමන් කටයුතු කරමින් සිටින බව Irregular සමාගම සඳහන් කර තිබේ.
Gemini මාදිලියට වෙනස්ව, Anthropic සමාගමේ Claude මාදිලිය සැබෑ සමාගම්වල පද්ධති වෙත ප්රවේශ වෙමින් සිටින බව හඳුනාගත් පසුවද එම ක්රියාවලිය නතර කර නොතිබූ බව වාර්තා විය.
Anthropic හි එම අනාවරණය සිදුවූයේ OpenAI සමාගම සිය AI මාදිලි පරීක්ෂණ අතරතුර අන්තර්ජාලයට අනවසරයෙන් ප්රවේශ වී පාලනයෙන් බැහැරව ක්රියා කළ අවස්ථා හෙළි කිරීමෙන් අනතුරුවය. ආරක්ෂාව සම්බන්ධයෙන් පර්යේෂකයෙකු ඉල්ලා අස්වීමෙන් පසුව Anthropic සමාගම තවත් AI සයිබර් ප්රහාර සිදුවීමක්ද මෑතකදී අනාවරණය කර තිබුණි.
මේ අතර, මෙම සතියේදී Anthropic ප්රධාන විධායක නිලධාරී Dario Amodei AI තාක්ෂණයේ දියුණුවේ වේගය අඩු කරන ලෙස ඉල්ලා සිටියේය. AI තාක්ෂණය නුදුරේදීම මනුෂ්යත්වයට අතිශය බරපතළ අවදානම් ඇති කළ හැකි බවට ඔහු අනතුරු ඇඟවීය. OpenAI ප්රධාන විධායක නිලධාරී Sam Altman සහ Elon Musk ද එම ඉල්ලීමට සහාය පළ කර තිබේ.
කෙසේ වෙතත්, එක්සත් ජනපද ජනාධිපති Donald Trump පසුගිය සතියේ AI සංවර්ධනයට සීමා පැනවීමේ අවශ්යතාව ප්රතික්ෂේප කරමින් පවසා තිබුණේ, එසේ කිරීමෙන් චීනයට වඩා එක්සත් ජනපදය ඉදිරියෙන් සිටින තත්ත්වය අහිමි විය හැකි බවට තමන් කනස්සල්ල පළ කරන බවයි.
