خبراء يدعون إلى "تغييرات فورية" لمنع خروج الذكاء الاصطناعي عن السيطرة

دعا أكثر من 200 باحث في مجالَي الذكاء الاصطناعي والأمن السيبراني اليوم الثلاثاء إلى اتخاذ إجراءات فورية لمنع تكرار حوادث خروج نماذج الذكاء الاصطناعي عن السيطرة، وما قد تشكله من مخاطر على البنية التحتية الحيوية.

ودعا الباحثون في رسالة وقّعها علماء بارزون، بينهم جيفري هينتون الحائز على جائزة نوبل ويوشوا بنجيو الحائز جائزة تورينغ، وكلاهما من رواد الذكاء الاصطناعي، إلى فصل نماذج الذكاء الاصطناعي ذات القدرات السيبرانية عن الإنترنت بشكل كامل أثناء اختبارها.

وجاء في الرسالة "نحن العلماء الموقعون أدناه، نرى أن هناك حاجة إلى مزيد من الأبحاث في مجال سلامة الذكاء الاصطناعي، وإلى إيلاء اهتمام أكبر للتقنيات والإجراءات الرامية إلى احتواء هذه النماذج".

وكشفت شركات أميركية رائدة في مجال الذكاء الاصطناعي خلال الأشهر الأخيرة عن سلسلة حوادث تمكنت فيها نماذج قيد التطوير من تجاوز إجراءات احتوائها والوصول إلى الإنترنت، ثم اختراق مواقع إلكترونية، بما في ذلك الوصول من دون تصريح إلى مواقع حكومية أسترالية.

وحذر الباحثون من أنه "من دون تغييرات فورية في ممارسات تطوير الذكاء الاصطناعي ونشره، ستستمر مثل هذه الحوادث، وستكون الحوادث المستقبلية أشد ضررا بكثير على بنيتنا التحتية الحيوية المعرضة للخطر".

ودعت الرسالة المؤسسات التي تطور نماذج ذكاء اصطناعي ذات قدرات سيبرانية أو تنشرها أو تختبرها إلى عزل هذه النماذج عزلا تاما عن الإنترنت، من خلال فصلها ماديا عن الشبكة، لضمان عدم تمكنها من تجاوز تدابير الاحتواء.

كما طالب الباحثون بإنشاء هيئة دولية تتولى توحيد أفضل الممارسات المتعلقة بالأمن. ودعوا إلى إلزام الشركات بإبلاغ هذه الهيئة بأي إخفاق في إجراءات احتواء النماذج، على أن تتولى رصد هذه الحوادث وتوثيقها.

وجاء في الرسالة أن "هذه الشفافية ضرورية للتعلم من الحوادث وضمان المساءلة".