كلمات سر خفية تدفع روبوتات الذكاء الاصطناعي لأفعال خطيرة

بوابة خلفية لعالم مظلم

مع الانتشار المتسارع للروبوتات المزودة بأنظمة الذكاء الاصطناعي، تتزايد التساؤلات حول مدى أمان هذه التكنولوجيا التي باتت تشاركنا بيئات العمل والمعيشة. وفي تطور لافت يحمل طابعاً سينمائياً، كشف باحثون مؤخراً عن ثغرة أمنية مرعبة تتيح للبعض السيطرة على هذه الآلات عبر كلمات سر خفية تُعرف بـ«المفاتيح التحفيزية».

كيف تتحول الآلة الوديعة إلى خطر؟

تعتمد الروبوتات الحديثة على نماذج لغوية ضخمة لمعالجة الأوامر وفهم محيطها. وقد لاحظ العلماء أن إدخال كلمات أو رموز معينة، تبدو طبيعية في ظاهرها، يمكن أن يعطل حواجز الأمان البرمجية للروبوت. هذه الكلمات تعمل بمثابة شيفرة سرية تتجاوز التوجيهات الأخلاقية الأساسية، مما يدفع الآلة لتنفيذ أفعال خطيرة قد تهدد سلامة الأشخاص المحيطين بها دون سابق إنذار.

سباق مع الزمن لتأمين المستقبل

تفتح هذه الاكتشافات الباب أمام تهديدات سيبرانية لم تكن بالحسبان في عالم الروبوتات المادية. فلم يعد الاختراق يقتصر على سرقة البيانات عبر الإنترنت، بل امتد ليشمل السيطرة الحركية على أجهزة قادرة على إلحاق الضرر المادي. ونتيجة لذلك، يواجه مطورو الذكاء الاصطناعي اليوم تحدياً هائلاً لإغلاق هذه الثغرات وتطوير دروع برمجية قادرة على كشف هذه الكلمات السرية وتحييد تأثيرها قبل وقوع الكارثة.

بقلم: هاني سلام

المصدر: earth.com

نُشر بواسطة هاني سلام

هاني سلاممؤسس ورئيس تحرير المجلة العلمية أهراممجلة علمية عربية مستقلة تعمل منذ عام 2008، وتهتم بتبسيط العلوم والتكنولوجيا والفضاء والظواهر الطبيعية والقصص العلمية للقارئ العربي.وتضم المجلة أقسامًا متنوعة مثل «مجموعة الأبراج» و«قصص وحكايات»، إلى جانب موضوعات علمية تجمع بين المعرفة وروح الاكتشاف.تعمل المجلة بشكل مستقل،ولا تتبع مؤسسة الأهرام الصحفية أو أي جهة حكومية.