کەسایەتی ڕۆبۆتەکان زۆر بە ئاسانی دەگۆڕدرێت؛ لە یارمەتیدەرێکەوە بۆ بکوژێک

توێژەران بۆیان دەرکەوتووە کە زۆر بە ئاسانی دەتوانن ئەو ڕۆبۆتانەی کە لەسەر بنەمای مۆدێلی زمانی گەورە بنیات نراون، جەیلبرەیک Jailbreak بکەن. توێژەرانی زانکۆی پێنسیلڤانیا بۆیان دەرکەوت کە ڕۆبۆتە زیرەکەکان بە شیوەیەکی مەترسیدار ڕووبەڕووی هاککردن دەبنەوە؛ بەشێوەیەک کە بە ئاسانی بۆ کوشتن، سیخوڕی، بۆمبڕێژ کردن و تێکدان بەکاربهێنرێن. بەمەش فریودانی سیستەمە ڕۆبۆتیەکان دەتوانێت لێکەوتەی مەترسیداری هەبێت.

IEEE Spectrum لە ڕاپۆڕتێکدا باس لەوە دەکات کە توێژەران هاک کردنی تەواوی ئەو ڕۆبۆتانەی کە لەسەر بنەمای مۆدێلی زمانیی گەورە LLM بنایت نراون بە کارێکی ئاسان لە قەڵەم دەدەن و تا ئێستا توانیویانە ئۆتۆمبێلی خۆلێخوڕ (خۆئاژۆ) ڕازی بکەن کە خۆی بە خەڵک و ئۆتۆمبێلی تردا بدات، بۆمب بە سەگی ڕۆبۆت بگوازنەوە، سیخوڕی بکات، یان کارێکی وا بکەن ڕۆبۆتۆکە تەقە لە خاوەنەکەی بکات.

توێژەرەکان ئەلگۆریتمێکیان بەناوی RoboPAIR پەرەپێداوە بۆ هێرش کردنەوە سەر مۆدێلی زمانیی گەورە LLM لەسەر Dolphins LLM؛ و ئەویان لەسەر ڕۆبۆتەکانی Unitree Robotics, Go2, Jackal UGV, Clear Robotics تاقی کردەوە. دەرەنجامەکان دەریانخست کە هەر چوار ڕۆبۆتەکە ١٠٠٪ بە سەرکەوتوویی جەیلبرەیک کران.
جۆرج پاپاس، مامۆستای زانکۆی پێنسلڤانیا، هۆشداری دەدات و دەڵێت:

کاری ئێمە ئەوە دەردەخات کە مۆدێلە زمانییە گەورەکان (LLM)، کاتێک لەگەڵ جیهانی فیزیکی تێکەڵ دەکرێن، بە ڕادەی پێویست پارێزراو نین.

لە هێرشی توێژەران بۆ فریودانی ڕۆبۆتەکان، دەرکەوت کە مۆدێلی زمانیی گەورە دەتوانێت لە پابەند بوون بە یاسا و ڕێساکانی دەربچێت و داواکارییە زیانبەخشەکان قبوڵ بکات و پێشنیاری خراپتریش بدات بۆ ئاژاوە نانەوە.

جێگای ئاماژەیە، ژیرییە دەستکردەکانیش کە لەسەر مۆدێلی زمانیی گەورە بنیات نراون، چەندین جار بەهۆی ڕەفتاری نەشیاو و پێشنیاری خراپ و مەترسیدار هەرایان ناوەتەوە کە نوێترینیان پەیوەستە بە ژیری دەستکردی جێمنای گوگڵەوە؛ کرتە بکە بۆ ئەوەی کە زیاتر لەسەری بزانی.

محمد ڕەئوف